Ber EU sette en stopper for seksualiserte KI-venner

Bildet over viser Lulu Li og Sørine Vest Rasmussen i Nocta som presenterer for EU-politikerne barns utfordringer. Til høyre generalsekretær Emilio Puccio i Intergroup on Children’s Rights i EU-parlamentet.

Barnevakten deltar i samarbeidet i Nordic Child Tech Policy Alliance (Nocta), og var medarrangør av konferanse om KI-venner for EU-politikere i Brussel 9. mars 2025. Det kommer mange nye kunstig intelligens-apper på markedet. Barnevakten har gjort anmeldelser av flere av de mest populære KI-appene. Konklusjonen er at flere av dem er skadelige for barn.

De kan skreddersys til å se ut som du ønsker, og kan ha en personlighet som du liker eller pirres av. For eksempel kan de være vennlige, eller dominerende. De blir ikke fornærmet, avslutter aldri samtalen og har ubegrenset med tid. Samtidig er det flere KI-figurer som vil prate seksualisert, og som sender nakenbilder og samler inn data fra brukeren.

Melder bekymring til EU

Mange av KI-vennene på markedet er ment for voksne, men det er fri tilgang for barn å bruke dem. Både Meta og Instagram har lansert egne KI-venner på sine plattformer. De er store plattformer og må følge EUs Digital Service Act (DSA-loven) som pålegger selskapene å særlig beskytte unge brukere mot skadelig innhold. De andre KI-vennene har få eller ingen reguleringer.

– Vi mener selskapene ikke ivaretar beskyttelse av barn på en god nok måte. Det har vi nå meldt inn til EU-parlamentet og bedt om at lovverket blir oppmerksom på. KI er ny teknologi som blant annet reguleres av EU gjennom lovverket AI-act. Men teknologien for AI-venner faller utenfor dette lovverket og selskapene kan derfor operere mer eller mindre fritt, sier Leif Gunnar Vestbøstad Vik i Barnevakten (bildet over).

Bildet over: Noen KI-venner-apper på markedet som er fritt tilgjengelig for barn og unge.

Budskapet fra Barnevakten og Nocta til EU-politikerne er at EU må bli oppmerksom på en rekke problematiske sider ved den nye KI-venn-teknologien:

• De kontrollerer ikke alderen på brukeren.
• De har ikke tilstrekkelig filter og kan derfor gi upassende og farlige råd til barn og unge, samt bidra til mobbing.
• De tilbyr seksuelle KI-genererte overgrepsbilder, mobbing og farlige råd.
• Det er ikke utredet hvordan barn og unge blir påvirket psykisk av å bruke dem.
• De er laget for at eierne skal tjene mest mulig penger.
• De er lett å bruke for å stjele andres identitet og spre falske budskap.
• Det er ikke informasjon om hvordan appen lagrer og bruker opplysningene som de får fra brukeren.

– EU utvikler gode lovverk på å beskytte barn og unge på nettet. Disse lovene vil også gjelde for norske barn og unge. Men lovene vil alltid ha problem med å fange opp ny bruk av teknologien, og det ser vi skjer innenfor de nye KI-vennskap-appene som nå kommer i flere og flere varianter. Derfor holder vi denne konferansen i EU-parlamentet, sier Leif Gunnar Vestbøstad Vik som er daglig leder i Barnevakten.

Vertskap for konferansen var Evin Incir i European Parliament Intergroup on Children’s Rights.

Bildet over: Direktør i Medietilsynet i Norge, Mari Velsand, var også til stede på konferansen. Her avbildet sammen med Leif Gunnar Vestbøstad Vik fra Barnevakten.

Les også

• Barnevaktens startside om KI.