– Vi ber regjeringen innføre barnefilter på KI 

Teknologiselskaper over hele verden satser nå på bli best på KI.

– Utviklingen av kunst intelligens skjer uten å ta tilstrekkelig hensyn til negative konsekvenser for barn og unge. Norske myndigheter må ta grep for å sikre tryggheten til norske barn, sier daglig leder i Barnevakten Leif Gunnar Vestbøstad Vik (bildet). 

Før sommerferien i år startet regjeringen arbeidet med å utvikle en egen norsk lov på KI. Den er i hovedsak kopiert fra EUs lovverk: KI-loven i EU er på vei til Norge.

Da høringsfristen var ute, var det kommet inn 128 svar.  

Forordning = alt eller ingenitng

KI-loven i EU er en såkalt forordning, det betyr at Norge må kopiere alt, eller ingenting. Men det er, så langt Barnevakten forstår, anledning til å legge til egne norske regler om KI, så lenge de ikke er i strid med KI-loven fra EU. 

– Det er helt avgjørende at barn i Norge får en god beskyttelse mot det som kan være skadelig med KI. Kunstig intelligens er en svært kraftig teknologi som utvikler seg raskt og vil prege livene også til den oppvoksende generasjonen på mange måter, sier Vik. 

EUs KI-regelverk bygger på en modell med å ha strenge regler for KI som har høyest risiko og mer liberale regler for KI som har lav risiko. Barnevakten ønsker at norske myndigheter også setter norske krav til KI som kan påvirke barn og unge. 

Dette er Barnevaktens krav som bør inn i norsk KI-lov: 

• Barnefilter på KI-er som samfunnet påtvinger barn å benytte, dette gjelder for eksempel KI-er som skolene ber elevene bruke.

• Aldersgrense og alderskontroll på KI-venner og KI-kjærester som kan ha upassende og skadelig oppførsel. Flere KI-selskaper innfører tenåringsfilter. Når selskapene selv mener at dette er nødvendig, bør myndighetene utrede i hvilke tilfeller det bør være et krav.

• Sterkere forbrukerrettigheter til å vite hva som er under KI-panseret i barneleker og barnespill.

• Høye krav til personvern dersom samfunnet ber barn benytte KI hos lege, politi, butikker, fritidsklubber eller på skolen eller lignende.

• Minimumskrav til skole-KI-er, målt ut fra risiko. For eksempel antallet hallusinasjoner, kulturpåvirkning, skaderisiko, etikk og personvern.

• Foreldrerett til å vite hvilke kilder skole-KI-er er trent opp på og hvilke etiske regler utviklerne har lagt inn.

• Konkrete retningslinjer for hva KI kan brukes til i skolen. Hvor nøye eller omfattende skal man la KI lese elevenes arbeid med oppgaver og så la programmer reagere ut fra det? Og hva kan lagres?
• Aldersgrense og alderskontroll for KI-er som er potensielt særlig skadelig for barn.

I tillegg en del nye lovregler om barns møte med KI, bør myndighetene legge til rette for mer oppfølging av foreldre slik at foreldrene generelt kan ta ansvar og veilede barna i KI-bruk, samt kanskje kjøpe verktøy og filter som beskytter barn mot bruk av bestemte nettsteder, spill og KI-er. Lovregler vil uansett ikke være nok til å beskytte barn, det er også behov for å lære opp barn hvordan bruke KI og hva slags bruk som kan utgjøre en risiko.

(Hovedbilde øverst: Shutterstock / Volodymyr Tverdokhlib.)

• Barnevaktens startside om KI.