Foto: Shutterstock / Stock Rocket.

Krav om KI-regler som kan beskytte barn

Organisasjonen Common Sense i USA har lagt frem lovforslag som kan gjøre det tryggere for barn å benytte kunstig intelligens i California.

Publisert |Av Sjur Jansen|KategorierKI, Myndigheter, Sosial på nett

Common Sense skriver at for eksempel KI-venner ikke er trygt for barn under 18 år og at det er nødvendig med lovregler for å beskytte barn. Nær tre av fire amerikanske barn har benyttet KI-venner, ifølge Common Sense.

Lovforslaget har til hensikt å redusere risikoen for avhengighet og følelsesmessig manipulasjon som kan føre til for eksempel selvskading eller upassende innhold.

Lovkravene i «Parents & Kids Safe AI Act»
  • Pålagt alderskontroll.
  • Alle brukere under 18 år skal ha tryggere innstillinger.
  • Ulovlig med reklame rettet mot barn.
  • Ulovlig å dele barns data, med mindre foreldrene har samtykket.
  • KI-er skal ikke oppfordre selvmordstanker, spiseforstyrrelser, vold og seksuellle handlinger.
  • KI-er skal ikke gjøre barn følelsesmessig avhengig.
  • KI-er skal ikke simulere romantiske forhold.
  • Unge brukere skal ikke tro at de snakker med et menneske.
  • Foreldreinnstillinger.
  • Foreldrealarm ved tegn til selvskading.
  • Uavhengig årlig kontroll av KI-ene som kan avdekke risiko, med rapport til myndighetene.
  • Myndighetene må følge opp med kontroller.

Listen er forenklet av Barnevakten. Den fulle teksten finnes her.

Lovforslag i den enkelte stat i USA har en lang vei å gå før de eventuelt blir vedtatt. For eksempel kan guvernøren legge ned veto helt på tampen. Og etter at en lov er vedtatt kan bigtech gå til søksmål og kanskje få en lov blokkert av rettsvesenet.

Lovforslaget fra Common Sense er lagt frem som en såkalt ballot measure. Det betyr at forslaget legges direkte frem for velgerne i et valg, på stemmeseddelen, i stedet for å bare bli behandlet av politikerne i delstatsforsamlingen. Dette er mulig kun hvis forslaget på forhånd har fått underskrifter fra innbyggerne.

Dersom en lov blir vedtatt på denne måten via en folkeavstemming, vil det være tyngre for bigtech å oppnå noe med søksmål etterpå.

Common Sense jobber med å samle nok underskrifter.

California-lover skal beskytte barn på nettet

California har allerede en del lover og lovforslag om kunstig intelligens eller bruk av nettet:

SB 243: Krever at KI-en oppfordrer barn hver tredje time til å ta en pause og minne brukeren om at KI ikke er et menneske. Krav om alderskontroller. Strengere straff for bruk av KI til å produsere falske nakenfilmer av identifiserbare personer. Loven er godkjent av guvernøren.

AB 1043: Pålegger operativsystemer (som Apple og Google) å sende et signal til apper om hvilken aldersgruppe barnet tilhører. Så langt Barnevakten forstår, er det foreldrene som skriver inn barnets alder i enheten, for eksempel telefonen, når den starter opp for første gang. Det er altså en selvrapportering fra foreldrene og ikke basert på innsending av ID. Deretter kan apper be om å få alderen tilsendt fra operativsystemet for å plassere barnet i riktig aldersgruppe, slik at funksjoner og tjenester er tilpasset barnets alder.

Denne loven i California er altså ulik lovene i en del andre stater som krever at plattformene må ha alderskontroller gjennom «kommersielle og fornuftige metoder», noe som indikerer at ID må sendes til appene eller via tredjepart. Det betyr at man må frem med ID mange flere ganger.

Ulempen med å la operativsystemet i telefonen eller andre enheter sitte på fødselsdatoen, er at bigtech vil da ha lagret enda flere opplysninger om oss og for øvrig sitte på makt til å kreve betaling fra mange apper for jobben med å røpe alderen. Men løsningen i California betyr altså at man kan redusere antall ganger man må sende kopi av ID, noe som reduserer risikoen for ID-lekkasjer og ID-tyveri.

Noe ganske annet er det å la operativsystemene sitte på innsendt ID som skal bekrefte alderen, da vil bigtech sitte på stor makt. Da kan bigtech selge persondata til for eksempel banker som kan pushe allerede godkjente forbrukslån uten at du har bedt om det. Å la foreldrene skrive inn alderen, uten ID-bekreftelse, er en mildere løsning når det gjelder personvern.

Loven AB 1043 er godkjent av guvernøren, ifølge Reason Foundation.

AB 2273: Selskaper må vurdere risikoen for barn før de lanserer nye funksjoner. Loven ble vedtatt i 2022, men er blitt blokkert av rettssystemet etter et søksmål fra NetChoice (Google, Meta og Tiktok og så videre).

AB-1064: Barnevakten har skrevet om denne loven her. Den ble først vedtatt i to instanser, men så ble den stanset av guvernøren.

(Hovedbilde øverst: Shutterstock / Stock Rocket.)

Les også