Foto: Shutterstock / PeopleImages / Yuri A

Regjeringen mener de yngste elevene ikke bør påvirkes av KI

Regjeringen mener at kunstig intelligens er så kraftig at elevene bør har et visst nivå av grunnleggende faglige og etiske kunnskaper på plass før de utsettes for slik teknologi.

Publisert |Av Sjur Jansen|KategorierSkole, Myndigheter, Sosial på nett

Regjeringen har levert en ny stortingsmelding om skolen, «En mer praktisk skole». Blant mange temaer tar meldingen også opp kunstig intelligens.

Stortingsmeldingen sier at

  • ukritisk bruk av samtaleroboter kan påvirke elevenes evne til å skrive.
  • kunstig intelligens kan kanskje svekke elevenes demokratiforståelse.
  • kunstig intelligens kan diskriminere.
  • elevene bør ha grunnleggene kunnskaper og skriveferdigheter før de påvirkes av kunstig intelligens.
  • det er et problem at offentlige myndigheter ikke vet hvordan den enkelte KI er bygget opp og svarer slik den gjør.

Poengene over er forkortet av Barnevakten, nyansene ser du i stortingsmeldingens kapittel 7.5.

Bigtechs innflytelse i norsk skole

Regjeringen stiller også spørsmål om hvor stor innflytelse internasjonale selskaper skal ha i skolen:

«Evnen til kritisk tenkning og evne til å se etter skjulte agendaer, manipuleringer og maktstrukturer blir derfor enda viktigere i framtiden. I tillegg kommer spørsmål om graden av innflytelse store internasjonale selskap skal ha i skolen, personvernmessige og etiske vurderinger og språkpolitiske hensyn.»

Som kjent gir kunstig intelligens ulike svar hver gang den får spørsmål om det det samme. Det er ikke som et leksikon eller en film som alle kan sjekke hva formidler. Regjeringen mener det er et problem at offentlige myndigheter ikke kan sjekke hvorfor KI-en svarer slik den svarer.

«En stor utfordring er at vi vet at generative KI-systemer trenes og designes for å gi respons til brukerne, inkludert barn og unge uten at offentlige myndigheter tilstrekkelig kan gå inn og se hva som ligger til grunn for svarene. Det må være innsikt i hvilke beslutningsregler som ligger til grunn for algoritmer på plattformer som barn og unge bruker, og det må kunne drives tilsyn for å avdekke om designet bryter med loven.»

KI-er kan diskriminere

Regjeringen advarer også om at kunstig intelligens kan diskriminere:

«KI-systemer blir ikke bedre enn informasjonen de mates med, og dersom informasjonen som brukes til å trene modellene er selektiv, eller algoritmene er satt opp på måter som diskriminerer, vil også KI-systemene diskriminere. Kunstig intelligens «arver» menneskenes fordommer og kan forsterke dem. All bruk av løsninger som har integrert KI, krever derfor større grad av åpenhet og forståelse for hvordan de fungerer enn andre digitale læringsressurser som brukes i skolen.»

Almennkunnskaper først, deretter KI

Det står i meldingen at KI påvirker språket til elevene og at det er en av grunnene til at man bør vente med KI til elevene har fått grunnleggende skriveferdigheter og allmennskunnskaper.

«Regjeringen ønsker ikke at nyhetsinteressen for KI fører til at vi går for fort fram, eller introduserer verktøy som samtaleroboter for tidlig, særlig i begynneropplæringen. Bruk av generative KI-verktøy må ikke komme i veien for opplæring i grunnleggende ferdigheter. Samtaleroboter fra internasjonale leverandører kan for eksempel generere tekst som kan sette uheldige standarder for språkbruk, dersom elevene ikke allerede har opparbeidet seg et visst ferdighetsnivå. God språk- og sjangerforståelse, samt evnen til å kritisk vurdere det som blir generert, er dermed en forutsetning for at KI-verktøy skal kunne brukes på en god måte. Vi bør derfor være trygge på at gode lese-, skrive- og regneferdigheter er etablert før samtaleroboter introduseres som verktøy elevene (…).»

Slik oppsummerer regjeringen

Nedenfor kommer regjeringens egen oppsummering av den digitale skolen:

«Regjeringen vil sikre en bedre digital skolehverdag ved å:

  • være tydelig på at det skal være en god balanse mellom analoge og digitale læremidler i skolen
  • utvikle støtteressurser, veiledning og råd for bruk av KI i skolen
  • innhente erfaringer med bruk av KI i skolen nasjonalt og internasjonalt, og legge et føre var-prinsipp til grunn, særlig overfor de yngste elevene
  • utrede hvordan skolen skal møte behovene for digitale ferdigheter, i lys av teknologiutviklingen, framtidige behov og kunnskap om barns digitale hverdag
  • utvikle og oppdatere veiledere og regelverket om reklame og kommersielt og skadelig innhold i skolen som svarer på utfordringene som følger av den teknologiske utviklingen
  • videreutvikle veiledningsmateriellet for vurdering av kvalitet i læremidler
  • utrede hvordan vi kan sikre åpenhet om algoritmer på digitale plattformer og hvordan tilsyn med leverandører kan gjennomføres
  • følge opp nasjonale anbefalinger for mobilbruk i skolen, og foreslå strammere regulering om nødvendig
  • gjennomføre tiltakene i Strategi for digital kompetanse og infrastruktur i barnehage og skole. Strategien skal støtte kommunene og fylkeskommunene i møte med nye teknologier, nye digitale verktøy og det økende presset på barn og unges personvern
  • følge opp Skjermbrukutvalgets anbefalinger når de leverer sin hovedinnstilling i november 2024, og vurdere en tydelig anbefaling knyttet til skjermbruk i skolen.»
Barnevaktens synspunkter om KI

Barnevakten mener at staten må opprette et offentlig tilsyn som kan regulere hva slags kunstig intelligens som barn blir utsatt for.
Barnevakten mener også at man må sørge for at kunstig intelligens er trygg før teknologien gis til elevene.

(Hovedbilde øverst: Foto: Shutterstock / PeopleImages / Yuri A.)

Les også