En ny rapport från Salesforce visar att det finns en växande oro bland konsumenter över hur företag använder generativ AI. Många efterfrågar större transparens och mänsklig validering av tekniken.
Skepsis kring AI:s etiska användning
Generativ AI har blivit alltmer populärt bland företag inom olika sektorer. Men trots dess ökade användning har konsumenters förtroende för tekniken minskat. Bland de 14 000 kunderna i 25 länder som deltog i Salesforce-undersökningen, uttryckte 74 procent tveksamhet till att AI används på ett etiskt sätt. Likaså i Norden är vi skeptiska, här är 72 procent oroliga huruvida företagen använder AI på ett etiskt sätt.
Mänsklig validering efterfrågas
En stor majoritet av respondenterna, 80 procent, vill ha mänsklig validering av AI:s resultat. Bara 37 procent känner att AI kan ge lika relevanta svar som en människa.
Inger Lise Eng, Sverigechef på Salesforce, kommenterar:
– Konsumenter använder AI i allt större utsträckning i sin vardag. Fördelarna och möjligheterna med tekniken är många. Samtidigt kan konsumenternas förtroende och tillförlitligheten hos teknologin bli en tröskel för utvecklingen. Det gäller att ge konsumenter rätt verktyg och incitament så de vågar ta till sig tekniken och använda den.”
Transparens är nyckeln
För att bygga förtroende bland konsumenter betonar Eng vikten av transparens:
– Var ärliga och transparenta. Berätta för kunden hur ni använder deras data och gör informationen lättillgänglig. Inte gömd som en länk längst ner på en 34-sidig lång text. Var transparent med att det är AI som har skapat innehållet och gör det enkelt för konsumenten om de vill komma i kontakt med en människa på företaget.”
Framtiden för generativ AI
Trots den växande skepsisen ser många fortfarande potentialen med generativ AI. 72 procent av företagsköparna tror att AI kommer att hjälpa företag att bättre betjäna kunderna, även om endast 48 procent av konsumenterna håller med.
