Generativ AI har för många unga svenskar blivit en självklar samtalspartner även i personliga frågor. En ny undersökning visar att mer än hälften vänder sig till AI-verktyg för att diskutera privata problem, samtidigt som kunskapen om hur informationen hanteras är låg.
Vad undersökningen visar
Studien omfattar 1 000 barn och unga mellan 11 och 25 år i Sverige och har genomförts för att kartlägga hur AI påverkar ungas privatliv. Resultaten visar att verktyg som ChatGPT och Gemini inte bara används för skolarbete och underhållning, utan även fungerar som en plattform för emotionellt stöd. Vissa unga beskriver AI närmast som en personlig livscoach.
Vänner och familj är fortfarande den vanligaste källan till stöd när unga har bekymmer. Men bland dem som lever med ångest uppger en betydligt större andel att AI känns lättare att prata med än anhöriga eller vården, ett mönster som forskarna bakom studien lyfter fram som särskilt värt att uppmärksamma.
Låg kunskap om vad som händer med informationen
Trots det höga förtroendet är kunskapen om riskerna begränsad. Integritetsskyddsmyndigheten, som lyft fram undersökningen, påpekar att information som delas med en AI-tjänst i praktiken inte går att radera i efterhand. Även den som undviker att uppge namn och adress kan kartläggas utifrån andra detaljer i konversationen, eftersom mängden information som delas över tid gör det möjligt att koppla samman uppgifter till en identifierbar person.
Många AI-tjänster överför dessutom data till servrar i andra länder, vilket innebär att svenska dataskyddsregler inte alltid ger samma skydd som användaren förväntar sig.
Åldersgränser som få känner till
Ett problem som lyfts fram är att många unga möter chattbotar inbäddade i sociala medier utan att vara medvetna om att de talar med ett AI-system. Även öppna AI-tjänster har formella åldersgränser, men efterlevnaden är svag och kontrollen i praktiken begränsad. Skolverket har i sin vägledning till lärare uppmanat till försiktighet med känslig information och påpekat att AI-genererade texter kan vara övertygande men ändå innehålla faktafel.
Myndigheten påminner också om att chattbotar inte följer svenska kursplaner och att material som AI producerar behöver granskas innan det används i undervisning, en princip som enligt flera lärarröster är svår att upprätthålla när eleverna använder verktygen på egen hand utanför skoltid.
Nya EU-regler ställer krav på tydlighet
Sedan början av augusti gäller nya transparenskrav inom EU:s AI-förordning, som innebär att system som samtalar med människor tydligt ska framgå som AI. För tjänster som riktar sig till eller används av unga blir kravet särskilt relevant, eftersom förtroendet i samtalen till stor del bygger på att användaren förstår vem eller vad hen kommunicerar med. Hur kraven ska tillämpas i praktiken när chattbotar är inbäddade i andra tjänster är ännu inte fullt ut klarlagt.
Föräldrar och skola efterlyser stöd
Både föräldrar och skolpersonal beskriver en osäkerhet kring hur de ska förhålla sig till utvecklingen. Integritetsskyddsmyndigheten uppmanar vuxna att prata med barn och unga om vilka uppgifter som är olämpliga att dela och att vara medvetna om vilka tjänster som används. Samtidigt påpekar flera experter att förbud sällan fungerar isolerat, utan behöver kombineras med kunskap om hur tekniken faktiskt fungerar och vad som händer med det som skrivs in.
Vad utvecklingen betyder för svensk teknikbransch
För svenska bolag som bygger konsumentriktade AI-tjänster innebär resultaten en tydlig påminnelse om att användarna delar mer känslig information än vad produktdesignen ofta förutsätter. Frågor om datalagring, radering och åldersanpassning flyttar därmed från juridikavdelningen till produktutvecklingen. För leverantörer inom hälsoteknik och digitala stödtjänster öppnar samtidigt insikten om att unga söker sig till AI för emotionellt stöd en möjlighet att bygga tjänster där både dataskydd och kvalitetssäkrat innehåll är inbyggt från början.
Om du själv mår dåligt eller känner oro för någon i din närhet kan du vända dig till vården via 1177 för stöd och rådgivning.
