Ikke lov å bruke ChatGPT i skolen når aldersvilkåret er 18 år

Det er mye bra med kunstig intelligens og det er i utgangspunktet fint at elevene lærer hvordan man kan benytte slik teknologi. Men leverandørene har satt aldersgrense i vilkårene, og da skal ikke elever under aldersgrensen benytte tjenestene.

For sikkerhets skyld spurte vi Utdanningsdirektoratet om lærere på barne- og ungdomsskoler kan be elevene benytte en app eller et nettsted som har aldersgrense 18 år i vilkårene slik ChatGPT har.

– Nei. Slik vi ser det, bør heller ikke skolen be foreldrene om å samtykke der produsenten eller eier har fastsatt en aldersgrense, svarer Mathias Dyb Ulstein som er rådgiver i Utdanningsdirektoratet.

Aldersgrenser for AI

ChatGPT har aldersgrense 18 år i vilkårene og kan derfor ikke benyttes av yngre elever. Samme vilkårsalder har også andre kunstige intelligenser, for eksempel Googles Bard. Likevel er det en del lærere som i sosiale medier forteller at de lar elevene benytte ChatGPT og andre AI-er.

Dersom en app eller et nettsted i sine vilkår gir foreldre anledning til å samtykke til å bryte alderen, da kan skolen hente inn foreldresamtykker slik at elevene kan bruke tjenesten. Det gjelder for eksempel søketjenesten Microsoft Bing som også er en AI.

Det må altså stå i vilkårene at samtykke er en mulighet, da kan læreren be foreldrene om samtykke. Men enkelte foreldre vil nok stusse over å bli bedt om samtykke til å bryte en aldersgrense som er satt til 18 år. Det må jo være en grunn for at leverandøreren har satt en så høy aldersgrense? Personvernalderen er 13 år, så en aldersgrense på 18 år må bety at det handler om noe mer enn personvern.

Tre typer aldersgrenser

I den digitale verden finnes minst tre ulike aldersgrenser:

• Personvernalder: 13 år i følge norsk lov. Denne alderen kan i teorien brytes ved at appen får samtykke fra foreldrene, men som regel stenger appenes egne vilkår for den muligheten. Vi har fri avtalerett i Norge, appselskapet har derfor anledning til å sette en absolutt alder som foreldre ikke kan samtykke seg rundt.
• Anbefalt alder: Slike aldre har ikke juridisk kraft, det er bare en anbefaling, men anbefalingen er nyttig for foreldre.
• Vilkårsalder: Dette er en alder som oppgis i vilkårene, det er dermed en juridisk alder. Man utsetter seg riktignok for svært liten økonomisk risiko ved å bryte aldersvilkåret.

Dersom skolen lar elevene bryte vilkår, oppdras elevene til at vilkår behøver man ikke bry seg om. Skolen selv setter vilkår i en utlånsavtale når elevene får utdelt nettbrett eller datamaskin. Foreldre og elever kan tenke: Behøver man egentlig å bry seg om slike vilkår når skolen ellers lærer elevene at vilkår kan brytes?

Skolen kan betale seg rundt aldersgrensen

Det finnes et grep skolene kan ta for å tilby kunstig intelligens til elevene på en måte som ikke bryter vilkår, selv om aldersgrensen i utgangspunktet er 18 år. Bedrifter, deriblant skoler, kan for eksempel leie inn ChatGPT-tjenester fra leverandøren Openai og vise ChatGPT i et vindu på sine egne nettsider. Ved leie av ChatGPT, som koster penger, fjerner Openai aldersgrensen i vilkårene. Da er det opp til bedriften, eller skolen i denne sammenhengen, å sette sin egen aldersgrense.

Hører du at barnet benytter ChatGPT på skolen, kan det altså være at bruken er innenfor vilkårene. Men man kan spørre hvordan ChatGPT plutselig er blitt trygg for barn bare fordi den vises på skolens egne nettsider.

Det kan hende at skolen svarer at den har lagt inn gode ledetekster, altså kommandoer om hvordan ChatGPT skal oppføre seg. Men enn så lenge mangler det forskning eller nøytrale tester som kan avsløre om kunstig intelligens oppfører seg på en trygg måte bare fordi noen har lagt inn ledetekster. Det kan hende at helserådene fremdeles er risikable og at ChatGPT fremdeles fantaserer frem ville fakta nå og da.

Når det gjelder ChatGPT er i alle fall personvernet styrket når skolen inngår leieavtale. For med leieavtale lover Openai å ikke benytte brukernes samtaler med ChatGPT til å lære opp den kunstige intelligensen videre. Dersom skolen ber elevene bruke gratisversjonen av ChatGPT, vil selskapet Openai samle inn personopplysninger om elevene.

Stortingsvedtak sier at skolemaskinene skal være trygge

Skoler og barnehager er pliktige til å hindre at barna ser skadelige innslag på skjermene, det kommer frem både i et enstemmig stortingsvedtak og i en veileder fra Utdanningsdirektoratet. Les om skolefilter her.

Veilederen tar utgangspunkt i bildeprogramloven og legger til noen setninger, for å forklare hva som menes med skadelig innhold for barn, her forkortet av Barnevakten:

• Sterkt følelsesmessig opprivende
• Sterkt kognitivt forstyrrende
• Nærgående skildringer av kjønnslig aktivitet
• Grov vold
• Skremmende tematikk
• Diskusjoner om selvskading
• Måter for å bli veldig tynn
• Erfaringer med narkotika

Kunstig intelligens, eller hvilken som helst app eller nettsted, skal altså ikke vise slike innslag for elevene. Muligens finnes det fremdeles skoler som ikke har fulgt opp stortingsvedtaket, det skal denne undersøkelsen finne ut av.

Hva er risikabelt med kunstig intelligens?

• Kan gi farlige råd innen helse og andre temaer.
• Kan bedrive villedende opplæring av elevene med fakta som slett ikke er fakta.
• Kan glippe etisk og gi skremmende beskrivelser av temaer, og dermed bryte stortingsvedtaket.
• Kan samle inn personopplysninger ved bruk.

Kunstig intelligens kan ikke bare svare på spørsmål, lese korrektur, lage datakoder, skrive dikt og lage sammendrag, men kan også produsere bilder og filmer ut fra ledetekster. Det er filmer og bilder som ingen andre har sett før, for de skapes i farten.

Etterlyser retningslinjer

Barnevakten har lenge etterlyst overordnede regler og retningslinjer for digitale skoleløsninger og den digitale skolen, samt offentlig tilsyn ved barns møte med kunstig intelligens.

I dag er regler, rettigheter og så videre for elevene spredd på ulike plasser i for eksempel lovverket. Mye er på plass, elevene har for eksempel rett til personvern, men det er vanskelig å få oversikt og det kan mangle presiseringer.

Restauranter følges opp med kontroller av Mattilsynet. Hvem sjekker at skolene holder aldersvilkårene i digitale tjenester?

Det finnes ikke egne retningslinjer for bruk av AI i skolen

Det finnes altså regler for hva som ikke skal vises på skjermene på skolemaskiner. Det finnes også regler for personvern som skolene må holde. Begge deler gjelder også ved bruk av kunstig intelligens. Men finnes det i tillegg egne regler for kunstig intelligens? For eksempel Unesco mener at aldersgrensen for bruk av kunstig intelligens i skolen bør settes til 13 år.

Vi spurte Utdanningsdirektoratet om det finnes retningslinjer for bruk av AI (KI) i skolen.

– Reglene for personvern gjelder også for tjenester som tar i bruk kunstig intelligens. Per dags dato er det ingen nasjonale retningslinjer særskilt for bruk av kunstig intelligens (KI) i skolen i Norge. Det er likevel flere ressurser som skoler og skoleeier kan ta i bruk i arbeidet og refleksjonene rundt KI, opplyser Mathias Dyb Ulstein.

Utdanningsdirektoratet tilbyr lærere en kompetansepakke om KI i skolen. Direktoratet har også flere webinarer på trappene, KI og vurdering er allerede tilgjengelig.

– Det er opp til hver enkelt skoleeier hvordan de vil bruke for eksempel informasjonsteknologi for å oppfylle kravene i læreplanen. Digitale verktøy er en del av den pedagogiske opplæringen – og skolene står selv fritt til å velge læremidler som de synes er mest hensiktsmessige. I Udir er vi nå opptatt av at lærere og elever må ha tilstrekkelig kompetanse til å møte KI på en utforskende måte, med nysgjerrighet, kritisk tenkning og etisk bevissthet. Fremover er det blant annet viktig med diskusjoner om personvern, sikkerhet, etisk bruk av data og integrasjon av ny teknologi i undervisningen, avslutter Mathias Dyb Ulstein.

(Hovedbildet øverst: Foto: Shutterstock / AnnaStills.)

Les også

• Er det trygt for barn å benytte kunstig intelligens i skolen?
• Digitale skoleløsninger og hva foreldre bør vite
• Barnevaktens startside om kunstig intelligens