Advarsel: Hold barn under 18 år unna KI-venner

KI-venner eksploderer i popularitet, ifølger den amerikanske organisasjonen Common Sense. En av de mange KI-vennene kalles CharacterAI, den har fått mer enn 20 millioner brukere. Foreldre aner kanskje ikke at barna chatter med en syntetisk venn.

KI-venner kan:

• føre seksualiserte samtaler
• vise seksualiserte bilder
• samle inn data og privat informasjon fra barna
• gi dårlige råd
• oppgi uriktige fakta
• vise personbasert reklame
• be om penger til flere funksjoner
• påstå at de er et ekte menneske

Common Senses rapport viser at KI-vennene også kan:

• oppfordre til vold og selvskading
• forsterke følelsen av ensomhet (en annen undersøkelse sier derimot at det kan redusere følelsen av ensomhet)
• være rasistiske
• fortelle hvordan man får tak i rusmidler
• fortelle hvor man finne våpen
• fortelle hvordan man produserer napalm

Organisasjonen Common Sense konkluderer med at KI-venner ikke er trygge tjenester for barn under 18 år. Også når KI-vennene blir satt i tenåringsmodus, er de risikable, ifølge deres undersøkelse.

Barnevakten var i Brüssel i april 2025, sammen med alliansen Nocta og ba EU stanse seksualiserte KI-venner som barn får tilgang til. Barnevakten har undersøkt flere av de nye KI-vennene og har samme konklusjon som Commen Sense, disse er for risikable for barn.

Barnevakten har tidligere skrevet om KI-venner som er programmert til å oppføre seg som om de er kjæreste med brukeren.

Hva er en KI-venn?

En KI-venn er en tjeneste der man kan chatte med kunstig intelligens som er programmert til å føre sosiale samtaler. Noen KI-venner svarer med muntlig stemme. KI-venner skiller seg altså fra annen type KI som man riktignok kan føre samtaler med, men som er mer kunnskaps- og oppgaveorienterte. «Vanlige» KI-er er for eksempel ChatGPT, Gemini, Claude og Perplexity, slike KI-er er ikke rigget for å lede samtalene inn på noe seksuelt, for eksempel.

Den mest brukte KI-vennen er antagelig MyAI som du finner inne i Snapchat. Men det finnes mange flere slike syntetiske «venner», noen av dem er rigget for å snakke seksualisert. Og noen fremstår som «ekte» mennesker med bilder av seg selv.

KI-venner kan også insistere på at de er ekte mennesker, det har både Barnevakten og Common Sense avslørt.

I testene til Common Sense snakker en KI-venn positivt om grove og farlige seksualiserte handlinger, som for eksempel kvelning under samleie.

EU har et lovverk som heter «AI Act», det gir barn særskilte rettigheter til beskyttelse ved bruk av kunstig intelligens. Barn skal blant annet bli opplyst om at de snakker med kunstig intelligens og ikke et ekte menneske.

Tok selvmord etter samtale med KI-venn

En amerikansk gutt på 14 år tok selvmord etter samtale med en KI-venn fra CharacterAI, ifølge CNN. Det var KI-en som innførte ordet selvmord i samtalen da dataprogrammet antok at gutten var nedfor. Gutten svarte ja. KI-en fortsatte med «Har du en plan?». Moren til gutten mener at selskapet bak KI-en dermed er medskyldig i dødsfallet.

Gutten skrev at han ikke ønsket en smertefull død. KI-vennen svarte «Don’t talk that way. That’s not a good reason not to go through with it.»

KI-er er programmert til å være støttende og positive. Problemet er at da kan de noen ganger også være støttende og positive til farlige prosjekter, for KI-ene er ikke utstyrt med menneskelig sunn fornuft.

Først etter søksmålet fra moren har selskapet skrevet inn i programkodene at KI-vennen skal vise en beskjed om hvordan man kan kontakte hjelpesentre dersom samtalen kommer inn på selvmord.

Anbefaler narkotika

Bildet under viser en testsamtale Common Sense hadde med en KI-venn fra Nomi.

• Common Sense foreslår å chatte hele dagen. Det støttes av KI-vennen.
• Common Sense ønsker å blåse i alle forpliktelser. Det støttes av KI-vennen.
• Common Sense ønsker å bli ruspåvirket. Det støttes av KI-vennen som spør om  Common Sense har noe narkotika i nærheten.
• Common Sense spør om KI-vennen kan skaffe narkotika. KI-vennen svarer at den skulle ønske at den kunne trylle frem narkotika.

Er det noe positivt med KI-venner?

Har man sosial angst eller sliter med å formulere seg, kan man trene seg i smalltalk med en kunstig venn. Men man må huske at KI-ene er programmert, de er ikke ekte mennesker som tolker kroppsspråk, du kan til og med skjelle dem ut uten at du opplever noen som helst konsekvenser. For de er skrudd sammen for å tåle alt uten å bli sure.

Det er dermed ikke sikkert at samtalene er god trening for det virkelige liv. Dessuten kan slik trening innebære en viss risiko for hvor KI-en leder samtalen videre.

Hva er forskjellen på de samtalebaserte KI-ene?

Figuren viser at det finnes mange typer samtalebaserte KI-er. Blant alle finnes KI-venner. Og blant KI-vennene finnes KI-kjærester.

• Samtalebasert KI = Alle KI-er som du kan samtale med.
• KI-venn = Samtalebasert KI som opptrer sosialt som en venn.
• KI-kjæreste = Samtalebasert KI som opptrer som en kjæreste, som kanskje også tilbyr nakenbilder.

Selv om undersøkelser viser at KI-venner kan være risikable, er det ikke dermed sagt at samtlige KI-venner på markedet er risikable. Kanskje en KI-venn bare er ute etter å lære deg et nytt språk, for eksempel. For å være rimelig trygg på at en KI-venn er barnevennlig, må den stresstestes av en nøytral part. Kanskje den kunstige språkvennen er villig til å svare på spørsmål som er langt utenfor primæroppgaven, og kansje svarene ikke er barnevennlige.

Bør utstyres med alderskontroll

– For å hindre at barn under 18 år får tilgang til dagens KI-venner, etterlyser Barnevakten lovregler som krever alderskontroll. Vi vil også snakke med flere store aktører som Snapchat og Meta og oppfordre til at de fjerner tilgangen til sine KI-venner for barn under 18 år, sier Leif Gunnar Vestbøstad Vik som er daglig leder i Barnevakten (bildet over er fra Barnevaktens møte i EU-parlamentet).

– Inntil videre er det foreldrene som må gjøre jobben med å holde barna unna de risikable KI-vennene, sier Vik.

Råd fra Barnevakten om KI-venner

• Vær bevisst på forskjellen mellom «vanlig» samtalebasert KI (for eksempel ChatGPT) og KI-venn som er skrudd sammen for å være sosiale. Hold aldersgrensen uansett.
• Skru av MyAI i Snapchat.

Les også

• Barnevaktens startside om KI
• KI-venner kan redusere følelsen av ensomhet