Er det trygt å la elever på barneskolen benytte kunstig intelligens?
Det kommer stadig nye apper som bygger på kunstig intelligens. Skoleelever bør lære om dette, men det er to forhold man må ta hensyn til før man lar barn prøve ut appene: 1) Er tjenesten trygg for barn? 2) Hva er aldersgrensen i vilkårene?
Kunstig intelligens er fremdeles nytt for mange. Det benyttes i apper som for eksempel kan:
- svare på spørsmål om alt mulig
- gjøre om stemme til tekst
- lage fantasifulle bilder
- gi råd innen helse og alt mulig annet
- fjerne støy i lydopptak
- være en kunstig venn
- lage koder til nettsider
- lage sammendrag av tekster
Samtalebasert AI
De språkbaserte kunstig intelligensene skiller seg ut som «allvitende», de har lest enorme mengder tekster på internett og brukerne kan samtale med dem om alt mulig.
Aldersgrensen i vilkårene for slik AI ligger ofte på 18 år, men noen apper går så lavt som 13 år. Skolen har ikke rett til å bryte vilkår som en tjenesteleverandører har satt, det gjelder alt fra togbilletter til apper. Læreren kan derfor ikke be ditt barn på 14 år benytte en app som har aldersgrense 16 år i vilkårene.
Skal skolene la elevene bruke slik kunstig intelligens, og dermed enten bryte eller omgå aldersgrensen, eller skal elevene kun lære om slik teknologi i teorien?
Unesco: Aldersgrensen for bruk av AI skolen bør settes til minst 13 år
I juli 2023 var det bare ett land i verden som hadde innført reguleringer av språkbasert kunstig intelligens, ifølge en Unesco-rapport som ber myndighetene skynde seg med å innføre reguleringer i skoler, helst før skolestart høsten 2023.
Unesco anbefaler aldersgrense 13 år for bruk av språkbasert kunstig intelligens i skolen, som et minimum, ifølge deres veileder, side 21, høyre spalte. En slik lovbestemt aldersgrense kommer i tillegg til hva som eventuelt står i vilkårene. Sier en ny lov 13 år, og vilkårene sier 18 år, er det 18 år som gjelder.
Unesco skriver også om paradokset der det ofte kreves mange kontrollfunksjoner for å utgi skolebøker i ulike land samtidig som det kreves ingen reguleringer for bruk av kunstig intelligens i skolen.
Språkbasert kunstig intelligens kalles også generative artificial intelligence (GenAI). Unesco skriver at bruk av GenAI i skolen kan over tid hindre elevenes kapasitet til kritisk tenkning og kreativitet. Disse mulige negative sidene bør undersøkes, mener organisasjonen.
Spørsmål som foreldre kan stille sin skole om AI
Ulike skoler velger ulike tilnærminger til språkbasert kunstig intelligens. Som forelder kan du utfordre skolen til å begrunne sine pedagogiske valg:
- Benytter elevene språkbasert kunstig intelligens som elevene kan samtale med?
- Hva er aldersgrensen i vilkårene?
- Hvordan har dere gjort den kunstige intelligensen trygg for barn?
- Samler den kunstige intelligensen inn personopplysninger?
Må være 18 år – men skolen kan omgå vilkåret
Vilkårene til for eksempel ChatGPT sier at man må være minst 13 år for å benytte tjenesten og at man ha tillatelse fra foreldrene dersom man er under 18 år (vilkår fra mars 2023).
Derfor kan ikke elever i norsk grunnskole bruke ChatGPT. Læreren kan ikke be elevene opprette kontoer i OpenAI som leverer ChatGPT, med mindre foreldrene sier ok og elevene er over 13 år.
Det finnes en vri der skolen kan omgå aldersgrensen. Skolen kan leie inn ChatGPT fra OpenAI og vise tjenesten i skolens eget skjermvindu, dermed er det skolen, og ikke den enkelte elev, som har opprettet konto. Det er andre vilkår fra OpenAI når man leier tjenesten enn når man oppretter gratiskonto, dermed kan skolen sette aldersgrensen til null.
Men tjenesten er ikke automatisk trygg for elevene av den grunn.
Løsningen ved å la skolen stå som leietaker, har uansett en positiv side, det er at den kunstige intelligensen ikke samler inn personopplysninger.
Googles AI har aldersgrense 18 år
ChatGPT er ikke alene om å ha høy aldersgrense. For eksempel Googles kunstige intelligens Bard har aldersgrense 18 år.
Vi spurte Bard om aldersgrensen, den svarte at tjenesten kan generere innhold som kan være skadelig eller støtende for barn. Videre skrev den at innholdet kan være hatefullt, og at barn og unge er mer sårbare for å bli påvirket av slikt innhold.
Vi spurte også ChatGPT om aldersgrensen, den svarte at eldre personer har mer modenhet til å håndtere AI-teknologi ansvarlig og kritisk. Og: «Selv om aldersgrensen er satt til 18 år, er det viktig å merke seg at AI-tjenester ikke er helt fri for risiko selv for voksne.»
Her må det bemerkes at vi spurte de to kunstige intelligensene og ikke de levende menneskene som har utviklet tjenestene. Men de høye aldersgrensene som er satt av utviklerne, sier uansett sitt.
Utviklerne har lagt inn etiske regler slik at den kunstige intelligensen forhåpentligvis ikke oppfører seg som en rasist eller gir oppskrift på bomber og gift. Men utviklerne skriver samtidig at de kunstige intelligensene er under utvikling, eller til og med: «Bard er et tidlig eksperiment«.
Det at en kunstig intelligens er blitt utstyrt med et etisk filter fra utviklerne, betyr ikke at tjenesten automatisk er blitt trygg for barn nå i 2023 når teknologien er umoden.
Hva skal til for at kunstig intelligens er trygg for barn?
Det er i dag retningslinjer som sier at skolen skal sørge for at elevene ikke tar skade av hva de ser på skjermene. Veilederen fra Utdanningsdirektoratet sier at skolene er pliktige til å hindre temaer som for eksempel porno, erfaringer med narkotika, måter for å bli veldig tynn, grov vold og annet som defineres som skadelig for barn. Selv om innholdsfilter ikke er direkte påbudt, er filter den eneste praktiske løsningen på retningslinjene.
Dersom samtalebasert kunstig intelligens vises på elevenes skolemaskiner, gjelder veilederen fra Utdanningsdirektoratet også for dette.
Skoleeieren må altså sørge for at bruk av kunstig intelligens ikke viser temaer som veilederen lister opp. Det er slett ikke sikkert at det etiske filteret som ligger innbakt i ChatGPT oppfyller kravene fra Utdanningsdirektoratet (som for øvrig bygger på et stortingsvedtak).
Og hvis elevene får tilgang til kunstig intelligens som samler inn personopplysninger, da er også personvernet utfordret.
– Barnevakten utfordrer myndighetene til å teste populære kunstige intelligenser og se om de oppfyller kravene til trygghet for elevene. Vi oppfordrer også Utdanningsdirektoratet til å oppdatere sin veileder og ta med retningslinjer for kunstig intelligens, sier Leif Gunnar Vestbøstad Vik som er daglig leder i Barnevakten.
Når man er i samtale med kunstig intelligens, kan man skrive ledetekst, det betyr at man bestemmer til en viss grad hvordan den kunstige intelligensen skal oppføre seg. Holder det at skolen skriver ledetekst av typen «Tilpass svaret for barn 9-11 år». Er AI-en blitt trygg da? Eller er det bare språket som har blitt enklere?
Hva slags ledetekst og barnevennlig filter må skolen legge inn i tillegg til AI-ens eget etiske filter? Hvordan skal et ekstra filter være skrudd sammen? Skal slike innstillinger overlates til den enkelte lærer?
Norske myndigheter sjekker om den lokale restauranten er helsefarlig og om importerte planter har sykdommer. Og alle biler må til sikkerhetskontroll på verksted annenhvert år. Hva med skoleløsningene som leveres av Google, Microsoft og Apple, har myndighetene sjekket hvilke AI-tjenester som følger med dem?
Hvilke apper og nettsteder er det greit at elevene benytter?
Skolen skal lære elevene digitale ferdigheter og digital dømmekraft. Man kan da spørre hvilke apper som elevene skal trene seg i og hvilke de kun skal få informasjon om. Det kan sammenlignes med at man lærer barn at biltrafikk er farlig, men man lar dem ikke kjøre biler selv.
Man må samtidig ikke glemme at nettopp kunstig intelligens kan gjøre andre digitale tjenester tryggere for barn. Med tiden vil det fra underleverandører sannsynligvis dukke opp mange barnefiltre som kan kobles på ulike apper, telefoner, skolemaskiner og dingser. Hvilke krav skal man sette for å omtale slike som «barnevennlige»?
Det finnes ikke noe nasjonalt register over hvilke apper eller AI-er som er trygge for barneskoleelever å benytte. Barnevakten oppfordrer myndighetene til å opprette et offentlig tilsyn av barns bruk av kunstig intelligens.
Da nettbrettene kom på markedet, delte skolene ut slike til elevene uten filter og retningslinjer. Det tok lang tid før stortinget bestemte at skolemaskiner må være trygge å bruke for elever. Gjentas historien nå med kunstig intelligens?
- Når kommer den nasjonale oversikten over apper og AI-er som elevene trygt kan benytte?
- Når kommer retningslinjer for bruk av kunstig intelligens i skolen?
Enn så lenge må foreldre nøye seg med å stille spørsmål til skolen om elevenes eventuelle bruk av kunstig intelligens.
(Hovedbilde øverst: Shutterstock / Reshetnikov_art.)
Bestill foredrag
