– Barns bruk av kunstig intelligens trenger offentlig tilsyn

–

Kunstig intelligens er på vei inn i appene som barna bruker på fritiden og på skolen. Det skjer store digitale endringer uten at myndighetene har gjort vurderinger på hvordan dette påvirker barn og unge.

– Barnevakten mener at norske myndigheter må innføre reguleringer og tilsyn av kunstig intelligens, særlig overfor barn og unge. For å trygge barn og unge og grunnleggende samfunnsverdier, kan vi ikke bare vente på at EU skal gjøre tenkejobben for oss. Den norske regjeringen må på eget grunnlag sikre at barn er trygge i møte med kunstig intelligens, sier Leif Gunnar Vestbøstad Vik som er daglig leder i Barnevakten.

Vi har mattilsyn, medietilsyn, datatilsyn og andre tilsyn. Når det skal foretas tilsyn, må det først foreligge regler som tilsynet tar utgangspunkt i. Men ved kunstig intelligens er det hverken regler eller tilsyn.

Skal du jobbe som lærervikar, må du ha politiattest. Men den kunstige intelligensen er det ingen som har sjekket.

Mye bra med kunstig intelligens

– Barnevakten er positiv til kunstig intelligens. Den kan brukes til mye nyttig. Men bruken må reguleres slik at hver og en av oss vet når vi påvirkes og hvordan vi påvirkes. Og det må ikke brukes overfor barn dersom versjonene ikke er testet ut ordentlig og verdiene som er programmert inn er åpne og tilgjengelige. Vi tenker ikke på eventuell kunstig intelligens som skal passe på at pizzaen i ovnen blir perfekt stekt, men på AI som påvirker oss eller tar beslutninger for oss. Barn og foreldre må få flere digitale rettigheter, sier Vik.

Krav om mer åpenhet

Nye regler må kreve åpenhet om:

• når du blir utsatt for kunstig intelligens
• hvilke kilder den kunstige intelligensen bygger på
• hvordan den er trent opp
• hvilke etiske rammer som ligger til grunn, altså hva levende mennesker har påført
• den kunstige intelligensen har blitt testet av nøytral part og hva konklusjonen da ble
• hva som samles inn av persondata ved bruk
• den kunstige intelligensen brukes til å ta beslutninger om oss
• hvordan den kunstige intelligensen fremmer kommersielle budskap

Hva får slippe til i klasserommet?

Skoleeierne, altså kommunene, har plikt til å sjekke alle apper som lærere vil bruke i klassene. Er personvernet bra nok? Er risikoen lav nok? Men hva da med ChatGPT eller lignende AI-er? Har norske kommuner kapasitet til å sjekke risikoen i slike programmer som selv utviklerne ikke forstår til det fulle?

I appen Snapchat, som benytter en variant av ChatGPT, gis det en advarsel om å ikke dele hemmeligheter med den kunstige vennen My AI. Når utgiveren av en slik tjeneste kommer med en slik advarsel, må det bety at persondata kan komme på avveie eller få negativ effekt i samtalene barnet har med My AI.

Barnevakten har i flere år etterlyst statlige regler for de digitale skoleløsningene. Og med innføring av kunstig intelligens er det enda en grunn for å ha overordnede retningslinjer.

Dersom tjenesten ikke er åpen nok om hvordan den er skrudd sammen, og den heller ikke er blitt testet av nøytral part, mener Barnevakten at barn under 13 år ikke bør bruke den uten i dialog med voksne. Alderen 13 år er valgt for å være i harmoni med personvernreglene – det er lettere for alle å forholde seg til én aldersgrense.

– Vi mener at kunstig intelligens bør være et opplagt tema i undervisningen til barn i skolen. Men det bør være et krav at det føres tilsyn med hvilke kunstige intelligenser som får slippe inn i klasserommet og hvordan elevene skal kunne bruke tjenestene. Når elever skal trene seg på å bruke kunstig intelligens, kan vi ikke slippe dem løs på hva som helst.

Det bør også reguleres i hvilken grad elevens innleverte oppgaver skal kunne mates inn i kunstig intelligens. For kunstig intelligens er slett ikke ferdig med sin maskinlæring etter at den har lest gigantiske mengder med nettsider og e-bøker. Maskinlæringen fortsetter når millioner av mennesker bruker den kunstige intelligensen. Elevenes oppgaver som dyttes inn for en sjekk, eller for at læreren raskere skal sette en karakter, blir altså en del av maskinlæringen. Og man aner egentlig ikke om elevoppgavene da også blir lagret et sted.

Diskriminerende kunstig intelligens

Det er kjent fra før at søk på internett kan være diskriminerende, fordi svarene delvis bygger på hva levende mennesker har påført av tagger. Det kan derfor hende at kunstig intelligens kan opptre diskriminerende uten at det oppdages av det etiske filteret som er manuelt lagt inn.

ChatGPT er ikke er godt nok trent i norsk kultur til å gi elevene gode svar om Norge. Skrekkeksempelet er da den satte en terrorist på listen over norske helter. Det er blitt rettet opp, men så var det en nazist som tok den plassen inntil videre.

Den aller billigste etikken?

Kina er i ferd med å lage sine egne regler for kunstig intelligens, i utkastet står det at den ikke skal snakke ned det sosialistiske systemet som de har i Kina. Spørsmålet blir så: Skal norske elever kunne bli utsatt for hvilken som helst etikk som er lagt inn i kunstig intelligens? Skal skolen alltid velge den billigste løsningen?

Er det Datatilsynet som må få mer ressurser? Eller må det opprettes et annet tilsyn som kan ta seg av barn og kunstig intelligens? Eller bør dette ansvaret legges til Medietilsynet? Her utfordrer vi regjeringen til å bestemme. For barnas beste er det viktigste at noen har ansvar for å vurdere teknologien opp mot hva som er bra for barn og unge.

Åpenhet og forståelse

Regjeringen skriver i sin strategi for den digitale skolen at utfordringene med AI er akutte og at det bør være mer «åpenhet og forståelse» og at det er nødvendig å vite hvilke kriterier som er kodet inn i algoritmene før elevene utsettes for AI.

Selv om regjeringen lover å gjennomføre flere tiltak fremover når det gjelder AI i skolen, er den gjennomgående tonen i strategien at det er opp til skolene å finne ut av problemstillingene.

Samtidig åpner regjeringen for at AI kan brukes ikke bare som et verktøy for elevene, men også som et verktøy for lærerne når de for eksempel skal vurdere hvilke elever som bør samarbeide. Det innebærer at kunstig intelligens skal kunne overvåke elevene og lage profiler av dem. Det betyr at kunstig intelligens fra enten kinesere eller amerikanere er med på å avgjøre hvilke klassekamerater som ditt barn skal sitte ved siden av. Kunstig intelligens kan være til støtte i lærerens arbeid. Her mener Barnevakten at regjeringen må utvikle tydelige retningslinjer gjennom en tilsynsmyndighet.

(Hovedbilde øverst: Shutterstock / Ascannio.)