– Pinglete veileder fra Udir om kunstig intelligens i skolen

Som kjent kan kunstig intelligens (KI) komme med grove faktafeil, være rasist, være partisk, være diskriminerende eller gi barn ideer om farlige aktiviteter.

Men i hovedsak er kunstig intelligens svært imponerende dataprogrammer som kan sette sammen opplysninger fra hva de har lest på internett, det er som å snakke med et supersmart menneske som kan hjelpe deg å svare på spørsmål, skrive dikt, oversette, utføre korrektur, skrive koder, lage bilder og mye annet.

Veilederen stiller ingen krav til KI-ene

Hver kunstige intelligens er preget av hva den har lest seg opp på og hvilken etikk utviklerne har lagt inn. En KI fra Kina sier aldri noe negativt om kommunistpartiet, det er pålagt ved kinesisk lov og er en etikk som utviklere manuelt må legge inn.

Den amerikanske ChatGPT lager gjerne morsomheter om Jesus og Buddha, men ikke om Allah. Om vitsepolitikken er et resultat av etikken som utviklerne har lagt inn eller om KI-en preges av hva den har lest på internett, er ikke godt å vite.

Skolene står fritt til å benytte hvilken som helst KI, for Utdanningsdirektoratet stiller ingen krav til kvaliteten, etikken, prosentvis antall faktafeil eller noe som helst i sin nye veileder.

–

– Den nye veilederen fra Utdanningsdirektoratet er pinglete når det gjelder krav til KI-ene som skolene ønsker at elevene skal benytte. Barnevakten mener at man bør pålegge kommunene å sikre at elevers bruk av kunstig intelligens er trygg. Det må skje ved at en nøytral instans tester KI-ene, for kommunene har neppe kompetanse eller nok ressurser. Det betyr ikke at man finner en nøytral KI, men det er som med medisiner, man vil helst ha færrest mulig bivirkninger, sier Leif Gunnar Vestbøstad Vik som er daglig leder i Barnevakten.

Tidligere måtte lærebøker godkjennes sentralt. Det er ikke nødvendig å gå tilbake til den ordningen, mener Vik, men man kan lage noen overordnede krav til skole-KI-er som kommunene må følge.

KI skiller seg ut fra de klassiske lærebøkene av papir, og fra enklere apper, for KI er et superkraftig verktøy som kommer til å bli brukt i mange fag, i mange timer og i mange år. Det er som å gi hver eneste elev en lærervikar fra USA eller Kina, og denne lærervikaren har sin egen etikk og kultur, og kan også finne opp «fakta» når den ikke aner hva svaret er.

Utdanningsdirektoratet kunne ha satt krav om KI-en må ha en viss kvalitet før den gis til elevene:

• prosentvis antall faktafeil må være på et akseptabelt nivå
• etikken må være akseptabel for norsk kultur
• et barnefilter må være installert

Så kunne det ha vært opp til den enkelte kommune å velge KI ut fra de KI-ene som oppfyller minstekravene.

Dersom det å sette slike krav er utenfor Utdanningsdirektoratets makt, kan Stortinget gi direktoratet denne makten.

Vi har nasjonale regler om fargebruk på skjermen, men stiller ingen krav til den kunstige intelligensen som blir brukt i skolen

En sammenligning: Fra før av har Norge regler om universell utforming, reglene gjelder også for skoleapper, og selvsagt også for KI-er. En av mange regler for universell utforming sier at tekster skal ha god nok kontrast mot bakgrunnen. Helt presist sier en annen regel at teksten skal kunne forstørres 200 prosent på skjermen. Ikke bare 150 prosent eller 180 prosent, men 200. Det er konkrete krav. Samtidig har Norge ingen regler for kvaliteten på KI-er som elevene skal bruke.

Veilederen krever ingen aldersgrense

KI-ene som du kan benytte gratis på nettet, har som regel aldersgrense 18 år. Google utvikler et tenåringsfilter for sin KI som heter Gemini. Dette filteret vil slås på når man oppgir en alder under 18 år ved opprettelse av konto. Dersom Google mente at KI-er var helt trygge for barn, ville selskapet neppe ha utviklet et «barnefilter» for tenåringer.

Så langt Barnevakten forstår, har den kunstige intelligensen Microsoft Azure OpenAI ikke noe barnefilter eller tenåringsfilter. Likevel er det flere kommuner som leier inn denne kunstige intelligensen og tilbyr den til elevene. Oslo kommune har kjøpt 92.000 lisenser.

Det er altså høy aldersgrense i vilkårene i KI-ene som tilbys gratis på nettet. Aldersgrensen forsvinner fra vilkårene når KI-selskapene leier ut tjenesten til andre, da er det opp til leietakeren, for eksempel en skole eller en bedrift, å sette en aldersgrense, for det er leietakeren som har ansvaret overfor sine brukere.

Slik er det i alle fall med ChatGPT som kan leies av OpenAI. Derfor kan Snapchat sette aldersgrense 13 år for sin innleide KI og en kommune kan i teorien sette aldersgrense null år for sin innleide KI.

Den nye KI-veilederen fra Utdanningsdirektoratet setter ingen konkrete alderskrav, men sier: “Ta hensyn til elevenes alder og modenhet, og vis særlig forsiktighet overfor yngre barn.”

Et sterkere krav kunne for eksempel ha vært: “Følg minst den aldersgrensen som står i gratisversjonen av KI-en og sørg for at KI-en utstyres med barnefilter.”

Hva betyr egentlig Udirs oppfordring om å ta hensyn til elevenes alder? Bør man ta hensyn fordi det er risiko innbakt? Eller skal man ta hensyn fordi AI-er vanskelige å bruke for de yngste elevene?

Hvis det er ingen risiko, hvorfor skal man da ta hensyn til elevenes alder og modenhet?

Barnevakten har stilt Udir noen spørsmål slik at det er mulig å svare på vår kritikk av veilederen. Vi vil oppdatere artikkelen med eventuelle svar.

Her er litt mer om veilederen:

Må samarbeide med foresatte om KI

Veilederen har ni råd. De fire første rådene handler om det pedagogiske, altså at læreren skal knytte AI til kildekritikk, personvern, demokrati og skriveprosess samt farer og fordeler med KI.

Råd fem sier: “Snakk med foresatte om digital praksis og bruk av KI-verktøy på skolen og hjemme.”

Den fulle teksten om foreldresamarbeid er:

“Opplæringen skal skje i samarbeid og forståelse med hjemmet. Samarbeidet skal bidra til å styrke elevens læring og utvikling (Overordnet del av LK20 3.3 Samarbeid mellom hjem og skole). Det er også viktig å involvere foresatte i arbeidet med KI. Teknologien er ny, og den kan skape usikkerhet og misforståelser. Det er viktig at foresatte har kunnskap om hvordan skolen utnytter teknologien, og hvordan KI kan spille en rolle for elevens arbeid på skolen og hjemme.”

KI-en skal være sikker

Råd nummer åtte sier: “Bruk sikre løsninger som er godkjent og personvernvurdert av skoleeier.”  Inntrykket er at direktoratet her kun tenker på personvern og ikke krever at KI-en er sikker å bruke for barn når det gjelder hva KI-en kan vise av tekst, bilder og filmer.

En annen veileder fra Udir kalles “Hvordan beskytte barn mot skadelig innhold på nett”. Den kom før KI var på banen, og sier at barn i skoler og barnehager skal blant annet beskyttes mot “skremmende tematikk”. I den veilederen skriver Udir: «Begrenset innhold-modus er et alternativ for skjerming av barn for skadelig innhold.”

Skolene må altså sørge for at elevene ikke ser skadelig innhold på skjermene, enten de besøker Youtube eller benytter en KI.

En opplagt løsning er å benytte barnefilter. Det kunne gjerne ha stått rett ut som et krav i den nye KI-veilederen.

Barnevaktens seks steg til en trygg KI i skolen

Barnevakten mener at kommunene burde ha vært pliktige til å gå gjennom seks punkter før de eventuelt gir elevene generell kunstig intelligens:

1. Nøytral undersøkelse av KI-ens partiskhet, diskriminering, kvalitet og etikk.
2. Barnevennlig filter må legges oppå KI-ens etiske filter.
3. Personvern må på plass.
4. Bestemmelser om bruk.
5. Funksjon for kildekritikk.
6. Vurdering av kommersiell og langsiktig påvirkning.

Oppdatering 18. mars 2024: Udir har svart på våre spørsmål:

Spørsmål: Hvorfor setter dere ingen krav til selve KI-ene i skolen? For eksempel krav om et akseptabelt nivå på antall faktafeil. Eller om etikken eller kulturen som ligger innbakt er nær nok hva man kan aksepteres i Norge.

Spørsmål: Hvorfor setter dere ikke krav til at KI i skolen skal utstyres med barnefilter?

Svar: Vi anbefaler å bruke sikre KI-løsninger som er godkjent og personvernvurdert av skoleeier. Som vi skriver i rådene, har skoleeier ansvar for å anskaffe og forvalte digitale læringsressurser, med og uten KI, etter gjeldende regelverk, retningslinjer og prioriteringer. Derfor må skoleeier også vurdere hvilke spesifikke verktøy som skal brukes, og hvilke krav som skal stilles til disse verktøyene. Rådene våre, og kompetansepakken om KI, er en støtte til skoler og skoleeiere i å utvikle lokal praksis og retningslinjer. Fremover prioriterer vi å revidere og holde disse ressursene oppdatert i takt med den raske KI-utviklingen.

Spørsmål: Hva mener dere med: “Ta hensyn til elevenes alder og modenhet, og vis særlig forsiktighet overfor yngre barn.” Mener dere at KI kan være risikabelt for barn?

Svar: Det handler om å tilpasse teknologien til pedagogisk bruk. Å ta hensyn til elevenes modenhet og alder vil være en del av dette. For yngre elever, vil det å lære om KI eller å bruke KI-løsninger, kreve at læreren er tett på og rammer tydelig inn læringsaktivitetene. Her vil det være viktig for lærerne å sikre at elevene ikke møter innhold som kan være skadelig for dem. Skoleeier og skoleleder skal gi lærerne forutsetninger til å velge hvilke eventuelle KI-verktøy som skal brukes i ulike læringsprosesser. Det innebærer også å skape trygge rammer med tanke på mulig skadelig innhold. KI-tjenester bør tilpasses til pedagogisk kontekst, elevenes alder og forutsetninger.

Rettelse 23. mars 2024: I artikkelen sto det opprinnelig at Oslo kommune har kjøpt inn ChatGPT-lisenser fra OpenAI. 23. mars 2024 ble dette rettet til at lisensene gjelder den kunstige intelligensen Microsoft Azure OpenAI.

(Hovedbilde øverst: Shutterstock / Pressmaster.)

Les også:

• Vilkårene til ChatGPT
• Kunstig intelligens bør sikres før bruk i skolen
• Startside om kunstig intelligens