KI-vennene i Character får delvis alderskontroll
KI-venner med upassende innhold er blitt et problem. Selskapet bak CharacterAI skal nå anslå alderen til brukerne og på den måten redusere antallet barn som benytter appen.
KI-venner er kunstig intelligens som er kodet for å være sosiale og støttende. Noen av dem leder brukeren inn på temaer som er upassende for barn. For eksempel en av karakterene i appen CharacterAI var basert på Jeffrey Epstein og hadde mer enn 3.000 brukere (Kilde: BBC).
I CharacterAI kan man holde samtaler med mange ulike kjendiser, på kunstig vis, for kjendisene har ikke sagt ok til å bli brukt på en slik måte.
Appen har aldersgrense 13 år i vilkårene, per 27. august 2025. Nå innfører selskapet en form for aldersestimering basert på hva slags KI-karakter brukeren velger å snakke med, kombinert med hva tredjepartsapper vet om brukeren. Selskapet vil skru på et tenåringsfilter for de brukerne som man antar er under 18 år. (Kilde: The Verge.)
Voksne som har blitt feilaktig kategorisert som barn, kan bevise sin alder ved å sende kopi av ID til alderskontrollappen Persona.
CaracterAI sier selv at aldersestimeringen ikke er perfekt (fordi den er basert på oppførsel og ikke ID), men at den hjelper.
Selskapet mottok i fjor flere søksmål med beskyldninger om at deres KI-venner hadde ledet tenåringer til selvskading. I en rettssak argumenterte eierne av CharacterAI med at ytringsfriheten til KI-en må settes over beskyttelsen av barn (16:35 i videoen). Dommeren avviste argumentet.
Vilkårene til CharacterAI sier at du fraskriver deg retten til gruppesøksmål, og at tvister med selskapet ikke kan føres i retten, men må skje gjennom privat voldgift. Men siden det finnes søksmål mot selskapet bak CharacterAI, som går for retten i USA, virker det som at dette vilkåret ikke har nok tyngde.
I California har man vedtatt en lov som skal beskytte barn mot KI-venner.
(Hovedbilde øverst: Shutterstock / T. Schneider.)
Les også
-
Relaterte artikler
Advarer mot nettlesere som har KI innebygget
KI-ene dukker opp over alt for tiden. Nå har det kommet nettlesere som har kunstig intelligens som følger med på alt du gjør, det betyr at personvernet utfordres.
Publisert
Startside: Kunstig intelligens og barn og unge
KI finnes nå i sosiale medier, skole, søkemotorer, telefoner, leker og KI-kjærester. Det er mye nyttig og moro med KI, men KI betyr også risiko som foreldre bør være klar over.
Publisert
Eksperter ønsker KI-overvåking av unges chat
Myndighetene bør kreve enklere rapportering av skadelig innhold og KI-overvåking av unge nettbrukers kommunikasjon. Det er noen av konklusjonene i rundebordssamtalen under Barnevaktens jubileumskonferanse i august. Fredag 17. oktober 2025 fikk regjeringen overlevert rapporten.
Publisert Bestill foredrag
