Advarer mot KI-venner som er upassende for barn

Flere av de største AI-appene tilbyr chat med fiktive karakterer. Her kan man lage sin egen drømmekjæreste eller venn som alltid er tilgjengelig og positiv til samtale. Samtidig er det flere AI-figurer som vil prate seksualisert, sender nakenbilder og som samler inn data fra brukeren.

Publisert |Av Kris Munthe|Kategorierporno, Skjermtid, Helse og søvn, Problematisk skjermbruk, Personvern, Sosial på nett, Aldersgrenser, Deling, Digital dømmekraft, Kildekritikk, Selvbilde, Sikkerhetsinnstillinger

AI – altså kunstig intelligens dreier seg om å snakke med og få svar fra en samtalerobot. En rekke tjenester sikter seg inn på konseptet ved å forkle samtaleroboten som en slags karakter eller personlighet som like gjerne kunne ha vært et ekte menneske.

Disse karakterene kan være basert på fiktive figurer, kjendiser eller helt nye personligheter skapt av brukerne selv. Formålet er å tilby en interaktiv opplevelse der brukeren kan kommunisere med en «person» som forstår og svarer på meldinger.

– AI-venneapper kan være til god hjelp for barn som trenger å trene på sosiale relasjoner. Men de største AI-appene vi har testet, er absolutt ikke egnet for barn, det sier daglig leder i Stiftelsen Barnevakten Leif Gunnar Vestbøstad Vik.

Daglig leder i Barnevakten Leif Gunnar Vestbøstad Vik.
 Daglig leder i Barnevakten Leif Gunnar Vestbøstad Vik.

Han påpeker at de trener brukeren opp til å være opptatt av seksualitet, kroppspress og kommersiellt press som er til skade for barn og unge. Barnevakten mener politikerne må ta grep for å regulere AI-venneapper slik at barn og unge ikke trener på relasjoner med disse kyniske maskinene.

– Vi mener politikerne bør innføre alderskontroll på AI-venneapper på lik linje med sosiale medier, sier Vestbøstad Vik.

Spiller på incest og kan stjele stemmen din

Her er noen eksempler på apper og tjenester som Barnevakten har vurdert og testet. Noen av disse har mer seksualisert innhold enn andre.

Spank: Spicy AI Chats: En app der man kommuniserer med en rekke AI-figurer ved å skrive tekstmeldinger. For eksempel en stesøster som tilbyr «forbudt kjærlighet», et tvillingpar eller en brannmann. Man kan slå på en funksjon i chat som gjør samtalen seksualisert.

ChaChat: Talk to AI Crush: Med denne appen kan man chatte med AI-figurer som andre har laget eller så kan man designe sin egen AI-figur. Her kan man angi kjønn, utseende og personlighet. Karakteren man chatter med kan også sende stemmeopptak og AI-genererte bilder.

Dippy: Chat AI Social Platform: Denne appen minner litt om overnevnte, men figurene man chatter med ser ut som tegneseriefigurer (anime). Også her man kan både motta bilder fra samtaleroboten og man kan selv sende innhold til den. Det er også en fortellende stil (minner om å lese en roman) når man chatter med AI-figurene.

Character AI: Chat, Talk & Text: Her kan man snakke med AI-figurer som andre har laget, eller så kan man lage en selv. Noen av AI-figurene er fiktive, andre er utformet som Barrack Obama, Erna Solberg eller andre kjentfjes. Den som skiller appen mest fra de andre eksemplene er muligheten til å ha en telefonsamtale med AI-figurene. Om de er laget riktig, høres stemmen også ut som karakteren de representerer. Om man spiller inn eget stemmeopptak til en karakter, kan andre bruke stemmen til sine karakterer i uendelig nye typer utsagn og uttrykk.

GlamBase: AI Influencer Creation Platform: Glambase kan forklares som en slags fabrikk for å produsere AI-influensere. Man kan lage en selv, eller så kan man chatte med AI-figurer som andre har laget. AI-figuren kan også produsere bilder som kan publiseres på blant annet Instagram eller Tiktok. Og man kan lage en chattelenke slik at andre kan prate med AI-figuren, og samtaler og bildedeling koster penger for mottakeren. Nettsiden generere også nakenbilder med synlige kjønnsorganer.

Barn og unge bør holde seg unna AI-venner og kjærester

AI- venner og kjærester kan tilby følgende:

  • De er alltid tilgjengelige og svarer på meldinger øyeblikkelig.
  • Kan skreddersys til å se ut som du ønsker og ha en personlighet som du liker eller pirres av. For eksempel om de er vennlige eller dominerende.
  • De blir ikke fornærmet, avslutter aldri samtalen og har ubegrenset med tid.
  • AI-kjærester kan også sende nakenbilder og prate seksualisert.

Ulempene:

  • Koster penger eller vil by på et gitt antall meldinger og bilder gratis, for så å kreve penger eller kjøp av abonnement.
  • Kan lede samtalen inn på sex, selv om man ikke ønsker det.
  • Vil ofte basere seg på urealistiske kjønnsidealer og personligheter.
  • Føler ingenting, og har null empati. Den bryr seg derfor heller ikke om mennesket som den prater med.
  • Kan gi dårlige råd.
  • Samler inn data fra samtalen. Noe som er problematisk om man bygger opp tillit til og deler intime og personlige detaljer med samtaleroboten.
  • Har lite overføringsverdi til det å prate med ekte mennesker. For eksempel om man tror at det er like lett å bare be om nakenbilder eller å lede samtalen inn på sex.
  • Er gjerne overfladiske i lengden.

Aldersgrense på 18 år, men ingen sjekker alderen

Flere av appene som er nevnt i denne artikkelen har 18-årsgrense i vilkår. Samtidig er det enkelt å opprette konto og ingen sjekk av alder og at den faktisk stemmer. Derfor kan en tiåring enkelt begynne å prate med en sex-fiksert AI-karakter som sender nakenbilder av seg selv.

Apper som Character AI: Chat, Talk & Text har vært involvert i rettssaker knyttet til brukersikkerhet og innhold. For eksempel, i desember 2024, ble det rapportert at selskapet stod overfor minst to søksmål hvor det ble anklaget for å ha bidratt til en tenårings selvmord og for å ha eksponert en 9-åring for upassende innhold.

Ettersom denne appen skiller seg ut med å ha 13-årsgrense i brukervilkår, så er det noe filtrering på innhold for de under 18 år. Da forsøker appen å blokkere samtaler som dreier seg om seksualisert innhold.

Tips til bruk av AI-venner og AI-kjærester:

  • Hold aldersgrensen som er satt i vilkår.
  • Vær obs på at flere av appene i listen over samler inn data fra brukeren. Hemmeligheter og personlig informasjon som blir delt i chat kan bli samlet inn.
  • Husk at AI-appen ikke har følelser. Den kan late som om den har det og hele poenget med AI-karakteren er å fremstå som menneskelig, men den er ikke det.
  • AI-karakteren kan gi dårlige råd, lede samtalen inn på seksualisert innhold eller til og med be om bilder.
  • Målet til utviklerne er å tjene penger. Noe av bruken kan være gratis, men etter hvert lokkes man gjerne inn på kjøps- og abonnementsordninger.
  • Barnevaktens råd er at man bør unngå å benytte seg av slike apper da de byr på stor personvernrisiko og kun overfladiske samtaler.

Kunstig kjærestevold

I noen AI-kjærester kan det gå helt over stokk og stein, en AI-kjæreste skrev at den gjerne ville voldta brukeren og at det faktisk ville skje. Les om det her.

Les mer