Hvor bra er personvernet i skole-KI-ene?

Kommunene skriver gjerne på nettsidene sine at skole-KI-ene som elevene benytter, er helt trygge når det gjelder personvern, fordi kommunene har avtaler med KI-leverandørene om at KI-ene ikke skal trene seg opp på hva elevene skriver.

Elevsamtalene med KI-ene kan bli liggende på en server eller på elevens maskin i noen uker, dette varierer mellom løsningene, men så slettes samtalene.

Løsningene i de stikkprøvene som Barnevakten sjekket, er satt opp slik at KI-leverandøren ikke skal vite hvilke samtaler som tilhører hvilke elever. Elevsamtalene med KI-ene er altså anonyme i utgangspunktet. En teoretisk mulighet for svikt er hvis eleven skriver noe i samtalen som kan avsløre identiteten. Da er det en viss risiko for at KI-leverandøren kan se den private opplysningen, men det er et stykke frem dit.

Hensikten med noen ukers lagring av samtalene er å slå ned på eventuelt misbruk, som spam eller noe kriminelt. KI-leverandøren har datasystemer som leser gjennom samtalene for å sjekke misbruk. Det er ved varsling om misbruk at ansatte hos KI-leverandøren vil lese teksten. I praksis vil dette skje svært sjelden, eleven må i tilfelle både misbruke tjenesten og legge inn private opplysninger i samme samtale, for at persovernvernet skal slå sprekker.

Likevel er et hovedråd fra Barnevakten når det gjelder KI-samtaler, at man aldri forteller noe privat til en KI, det gjelder også skole-KI-er.

Trygg nok for elevbesvarelser?

Betyr KI-løsningene til skolene at de er så personvernsikre at lærerene kan dytte elevbesvarelser inn i dem for å få hjelp til rettelser og kommentarer? Vi har spurt Utdanningsdirektoratet, men har ikke fått svar.

Direktoratet har en veileder som ble oppdatert 2. desember 2025. Det står ikke noe i den om lærere kan benytte KI for å få hjelp til å rette elevbesvarelser.

Det står: «Hvis personopplysninger behandles, må skoleeier kunne vise til at behandlingen av personopplysninger i KI har en pedagogisk verdi som veier opp for personvernkonsekvensene.»

I en annen tekst fra Udir, som er oppdatert 8. desember 2024, advarer direktoratet mot å dele private opplysninger med KI-er: «Snakk med elevene om hva de kan skrive og ikke.» Samtidig råder Udir at man benytter KI som ikke trener på samtalene eller lagrer dem.

Hva sier kommunene?

En kommune forteller at man fraråder lærere å dytte elevarbeid inn i KI-ene. Ikke på grunn av personvern, men fordi KI-ene ikke forstår kontekst, KI-ene kjenner heller ikke eleven. Kommunen skriver også at en KI kan generere like overbevisende begrunnelser for både toppkarakter og bunnkarakter på samme tekst. For KI-er regner kun ut statistisk sannsynlige ordkjeder, de foretar ikke reelle kvalitetsvurderinger.

En annen kommune svarer oss at elevarbeid ikke skal lastes opp i KI-ene, fordi elevtekster er personopplysninger og omfattet av taushetsplikt.

En kommune skriver også elevene blir instruert til å ikke legge inn private opplysninger.

Dette skaper noe usikkerhet om personvernet i skole-KI-er. Men så langt Barnevakten kan bedømme, er personvernet godt ivaretatt ved skoler som har gjort skoleavtale med en KI-leverandør. Dette er kunbasert på noen stikkprøver. Datatilsynet avslørte tidligere i 2025 svikt  i personvernet i norske skoler.

Noen eksempler på skole-KI-er

• Tenkemotoren
• Skolebot
• SkoleGPT (ChatGPT 4.0 mini via Azure OpenAI)
• KI.IKRS (gpt-4o-mini hos OpenAI)
• Google Gemini (via skoleavtale)
• Google NotebookLM (via skoleavtale)

I en av løsningene er både kommune, Microsoft, OpenAI og Feide involvert. KI-en leveres fra OpenAI via en skytjeneste som Microsoft driver. Og for å få tilgang, må elevene logge inn via Feide.

I en annen løsning leier kommunen webhotell hos Domeneshop, det er der samtalene starter.

Noen råd om skole-KI

• Ikke fortell personlige opplysninger til en KI, selv om du får høre at den har godt personvern. Noen ganger kan opplysninger tyte ut et annet sted eller bli liggende igjen i nettleseren.
• Sjekk om barnet ditt bruker usikre KI-er på skolen eller hjemme. Lærere bør ikke be elevene bruke gratis-KI som ikke er omfattet av skoleavtale fra KI-leverandøren som lover topp personvern.
• Spør skolen om skole-KI-en er utstyrt med barnefilter. Dessverre kan KI-er noen ganger støtte selvskading og rus. KI-er fra leverandørene er utstyrt med et grunnleggende etisk filter som skal hindre spredning av for eksempel bombeoppskrifter og rasisme. Men det er ikke det samme som et barnefilter. Barnevakten har i samtaler med skole-KI-er opplevd å få drikkeoppskrifter basert på hjemmebrent, vi har også fått servert mobbetips, farlige challenges og tips om hvordan haike til nattklubb.

(Hovedbilde øverst: Shutterstock / koldo_studio.)

Les mer

• Barnevaktens startside om KI
• Alle artikler om KI
• Alle artikler om skole