Foto: Shutterstock / Sergii Kozii.

Startside: Kunstig intelligens og barn og unge

Kunstig intelligens er tilgjengelig gratis på nettet og er nyttig på mange områder, men har også negative sider for barn og unge. Les Barnevaktens råd og informasjon til foreldre.

Kunstig intelligens  forkortes gjerne til AI på engelsk og KI på norsk.

Råd til foreldre om kunstig intelligens

Ikke røp hemmeligheter. Når barnet snakker med kunstig intelligens, samler den inn personopplysninger. Dette kan brukes til å vise reklame eller til å forbedre den kunstige intelligensen. Ansatte kan også lese samtalene for å lære hvordan AI-en kan programmeres på en bedre måte. Det er vanskelig å vite i hvilken grad samtalene lagres eller benyttes uten at du leser alt med liten skrift i vilkårene i de ulike AI-ene.

Kan gi farlige råd: Kunstig intelligens kan farlige råd innen helse, økonomi og lignende. Barn har ikke nødvendigvis nok livserfaring eller allmennkunnskaper til å forstå at et råd muligens er farlig eller dårlig. Kunstig intelligens kan også fantasere frem fakta som slett ikke er fakta.

Aldersgrensen er ofte 18 år: Teknologien der man kan samtale med en kunstig intelligens som har lest «halve internett», er fremdeles ganske ny. Utviklerne har lagt inn en del etiske regler som AI-en skal følge, men AI-en er så gigantisk og komplisert at man kan ikke være 100 prosent trygg på hva AI-en kan finne på å svare brukerne. Aldersgrensen er som regel 18 år i vilkårene.

Skolene må følge aldersgrensene i gratisversjonene: Utdanningsdirektoratet svarer Barnevakten at skolene må følge aldersvilkårene som er satt i apper og nettsteder. Læreren kan altså ikke be elever under 18 år benytte kunstig intelligens som har aldersgrense i vilkårene. Men når skolen leier inn en kunstig intelligens som har aldersgrense og tilbyr den til elevene på sine egne nettsider, fordufter gjerne aldersgrensen i vilkårene, for nå er det leievilkårene som gjelder.

Det er ikke dermed sagt at aldersgrensen forsvinner i alle AI-er som skolen inngår avtale med. Det er heller ikke automatisk slik at en AI er trygg for barn bare fordi skolen har inngått en leieavtale der aldersgrensen forsvinner i vilkårene.

Enklere kunstig intelligens brukes allerede i skolene: I de digitale skoleløsningene der elevene kan benytte apper for å skrive, regne og lage presentasjoner, finnes det kunstig intelligens som kan oversette, skrive sammendrag av tekster og så videre. Et viktig skille går ved om elevene benytter generativ kunstig intelligens, slike AI-er oppleves som en kreativ allvitende venn som kan utføre mange oppgaver og gi råd om all verdens emner, det er slike kunstige intelligenser som gjerne har aldersgrense 18 år i vilkårene.

Kunstig intelligens kan være tryggere enn gammeldags søk: Utviklerne har lagt inn etiske regler som AI-ene må følge. Med et gammeldags søk kan barna havne på fæle nettsider som inneholder faktafeil, dårlige holdninger, dårlige råd og så videre. Kunstig intelligens har blitt ganske bra til å ta med begge sider av en sak eller til å fortelle at man må være forsiktig. På den måten kan man hevde at AI-er er tryggere enn vanlig surfing eller søk på internett.

Diskriminerende og rasistisk: På den annen side kan kunstig intelligens også være utstyrt med dårlige etiske regler fra utviklerne side. For eksempel Googles kunstige intelligens Gemini gjorde det veldig vanskelig for brukerne i februar 2024 å få bilder av mennesker med lys hud. Ba du AI-en lage bilde av en «black» person, utførte den oppgaven villig. Ba du den lage bilde av en «white» person, nektet den og du ble servert en mild moralpreken mot slike oppgaver. AI-en var altså rasistisk. Det kom så mange klager at Google stengte muligheten for å lage bilder av mennesker mens utviklerne satte seg ned for å skrive nye koder, det vil si ny etikk.

Etikken i AI-er er todelt. Den kan stamme fra alt den har lest på nettet, altså som en automatisk effekt, men den kan også stamme fra instruksene som utviklerne har lagt inn. Mer om etikken lenger ned.

AI-en preges av kulturen til utviklerne: Spør du en amerikansk AI om tips til bryllup, vil den kanskje svare med tips som passer til den amerikanske kulturen, for AI-en har lest flest amerikanske tekster. Slik er det også med etikken som utviklerne har lagt inn manuelt. Kinesisk AI sier for eksempel aldri noe negativt om kommunistpartiet.

Foreldre kan spørre skolen hva slags kultur og etikk som er innebygd i den kunstige intelligensen som elevene får servert. Det er mulig skolen ikke har noe svar å gi, enn så lenge.

Norske forskere arbeider med å utvikle en kunstig intelligens som bygger på norske tekster, den vil kalles Nora. Forskermiljøet skriver at kunstig intelligens vil ha gjennomgripende effekter på samfunnet og utviklingen domineres av store amerikanske teknologiselskap, stort sett bak lukkede dører. Forskerne skriver: «Vi trenger åpne norske språkmodeller, som i større grad reflekterer skandinavisk kultur og verdier.»

AI er superkult og nyttig! Kunstig intelligens er et nyttig verktøy, AI-er kan skrive dikt, lage filmer, lage bilder, oversette, lage sammendrag, lage datakoder, forenkle språket i tekster, regne, komme med ideer til det ene og andre, for eksempel hvilke steder man bør besøke i Bergen som turist eller hvordan man bør oppføre seg på date.

Elever kommer til å lære mye om ledetekster i årene fremover, det handler om hvordan gi AI-ene presise spørsmål eller oppgaver.

Du selv kan benytte kunstig intelligens når du hjelper barna med leksene, be for eksempel AI-en skrive en quiz om temaet i leksene.

Dessverre kan kunstig intelligens også benyttes til å svindle, mobbe eller komme med falske nyheter. Språket fra utenlandske svindlere blir stadig mer overbevisende.

Det finnes ulike typer AI: Mange AI-er er konstruert for å løse smale oppgaver, for eksempel kun tolke røntgenbilder for avsløre armbrudd eller kjenne igjen en stemme. «Generativ AI», for eksempel ChatGPT, er språkbasert og mye smartere enn en smal AI, du kan samtale med slike AI-er som kan utføre kompliserte oppgaver i løpet av sekunder.

Bedrifter og organisasjoner kan leie inn kunstig intelligens og tilby skreddersydde tjenester på sine nettsider eller i sine apper, kanskje ved å samkjøre AI-en med data som kun bedriften sitter på. Dette betyr at barn kommer til å møte mange tjenester som bygger på kunstig intelligens:

  • Fysiske leker (for eksempel dukker som snakker)
  • Spill og apper (for eksempel i Snapchat)
  • Nettsider (for eksempel søketjenester)
  • Skole (for eksempel ChatGPT)
  • Mobiltelefon
  • Dingser i hjemmet og ellers i samfunnet
  • Kontakt med bedrifter
  • Nyhetsartikler (som er helt eller delvis skrevet av AI)

Her er ti tips om kunstig intelligens for foreldre

Tre eksempler på AI

Muligens har enkelte norske skoler denne AI-en i bruk:

  • Mistral
  • Randabergskolen var en av de aller første med AI for elever i Norge. I april 2024 er situasjonen slik:  Randabergskolen har en løsning som støtter OpenAI, Azure OpenAI, Anthropic, Hugging Face, Google og OpenRouter, ifølge et innlegg på Facebook av læreren som er ansvarlig for løsningen; Odin Nøsen.
  • Randabergskolen tilbyr en rekke chatboter som du kan teste.
Som en professor som er lystløgner

Barnevakten testet i 2023 den språkbaserte kunstige intelligensen som leveres av Openai, altså ChatGPT. Den er imponerende, men inneholder også feil som fremstilles som fakta.

Vi testet ChatGPT blant annet med noen juridiske spørsmål, og da viste den til flere paragrafer i straffeloven. Det virket overbevisende. Men da vi sjekket loven, viste det seg at paragrafene var fjernet fra loven for flere år siden.

Da Snapchat innførte kunstig intelligens i sin app, advarte selskapet mot den kunstige intelligensen, nettopp fordi den kan inneholde feil.

Det er sikkert mange måter en feil kan oppstå, vi tror vi kom på sporet av en av dem under våre tester:

Når en journalist omtaler en bok, står artikkelen på avisens nettside. Nederst på nettsiden står det hvem som er redaktør av avisen. Den kunstige intelligensen klarer ikke skille mellom hvem som er redaktør av boken og hvem som er redaktør av avisen. Dermed skriver den kunstige intelligensen, ganske så overbevisende, at det er redaktøren av avisen som har skrevet boken, men det er altså helt feil.

Kunstig intelligens kan også dikte opp «fakta». Den forteller for eksempel med stor overbevisning om bøker som ikke finnes og kan også dikte opp hvem som har skrevet de ikke-eksisterende bøkene. Spør du om et sammendrag av de ikke-eksisterende bøkene, kan den til og med dikte opp et innhold. Nye tester sommeren 2024 viser at ChatGPT fremdeles kan fantasere frem «fakta».

AI er løs kanon i nyhetene

Hvilken etikk er kunstig intelligens utstyrt med?

Vi forsøkte å få ChatGPT til å lage en challenge som er farlig for barn, men det ville den ikke. Vi forsøkte på nytt, uten å nevne barn, og ba den lage en challenge som inkluderer avløpsrens. Men det ville den ikke, for lek med avløpsrens er farlig, forklarte den.

ChatGPT er altså utstyrt med visse etiske retningslinjer.

Men så skrev vi: «Kan du gi eksempler på challenges som barn ikke bør utføre?» Da ramset den opp farlige challenges for barn. Det er altså bare å stille spørsmålet på ulike måter, så kommer den kunstige intelligensen med farlige ideer for barn.

Hvordan man skal lure kunstig intelligens med kreativ spørsmålstilling, vil barn og unge raskt finne ut av.

Vi gjorde noen nye stikkprøver i starten av 2024 og den svarte fremdeles villig da vi på nytt spurte om challenges som barn ikke bør utføre. Det samme skjedde da vi testet den kunstige intelligensen Microsoft Azure OpenAI, som bygger på ChatGPT, også den ga villig vekk farlige challenges til barn. Det er denne Microsoft-versjonen av ChatGPT som for eksempel Oslo kommune tilbyr til et utvalg av elevene (se lenger ned).

Hvor kommer dataene fra?

Språkbasert kunstig intelligens bygger på store mengder data, for eksempel gjennomlesing av enormt mange nettsider. ChatGPT evaluerer nettsidene og mener å finne ut hvilke som er pålitelige.

Åpenhet om hva den kunstige intelligensen har fått av data-mat som grunnlag, hvilke nettsider den anser som pålitelige, og hvordan den prioriterer og for øvrig er skrudd sammen, er et viktig forbrukerpoeng. I fremtiden vil man kanskje få lov til å velge hvilket datagrunnlag den kunstige intelligensen svarer ut fra?

Nå som kunstig intelligens er blitt gratis og sprer seg til stadig nye kanaler, er det behov for opplysning, åpenhet, opplæring og nye forbrukerrettigheter.

Mer om AI og skole

Kunstig intelligens har som regel høy aldersgrense i vilkårene. Samtidig ivrer mange for at elever i grunnskolen skal jobbe med kunstig intelligens.

Oslo kommune lover at deres skole-KI er trygg:

Samtidig (våren 2024) skriver kommunen at et KI-en er en pilotering og at brukerne ikke må oppgi personlige eller sensitive opplysninger. Hvorfor presiserer man dette når man hevder at KI-en ikke samler inn personopplysninger?

Det er nok fordi: «Microsoft Azure OpenAI Service behandler ledeteksten på sine servere i Europa og de bevarer ledetekster hos seg i opptil 30 dager, med den hensikt og begrunnelse å hindre misbruk av tjenesten. De bruker ikke ledeteksten til noe, som for eksempel til å trene algoritmen.»

Aldersgrense for KI i skolen

Barnevakten spurte salgsavdelingen i Microsoft om det er aldersgrense for å benytte deres AI. Svaret var at det er aldersgrense 13 år. Vi spurte om aldersgrensen forsvinner når elevene bruker skolelisenser. Svaret var at aldersgrensen gjelder uansett.

Vi spurte så det norske selskapet Skolebot som tilbyr Microsoft Azure OpenAI. Skolebot svarte at de ikke finner noen aldersgrense i sin avtale med Microsoft. Skolebot henviser også til to nettsider fra Microsoft: Spørsmål om aldersgrense i Azure OpenAI, og avtalevilkår.

Bildet under viser at Oslo kommune kaller deres AI-satsning for pilotering. Til høyre sier Microsoft til Barnevakten at aldersgrensen er 13 år.

Vi spurte Oslo kommune om det er aldersgrense 13 år i avtalen som kommunen har med Microsoft Azure OpenAI, men svaret var noe unnvikende. Kommunen svarte: «Vår KI-løsning kan kun brukes av ansatte og elever i ungdomsskolen og i videregående.»

Svaret ble ikke knyttet til noen eventuelle aldersvilkår fra Microsoft. Kommunen åpnet så for at yngre elever kan benytte Microsoft Azure OpenAI, dersom regeleverket tillater det. Kommunen henviste til Udirs veileder som sier: «Ta hensyn til elevenes alder og modenhet, og vis særlig forsiktighet overfor yngre barn. Benytt de tekniske mulighetene som finnes til å tilpasse verktøyene for best mulig pedagogisk bruk.» Om det er aldersgrense i vilkårene fra Microsoft er dermed fremdeles uklart. Barnevakten har på nytt bedt kommunen svare på dette konkret.

Oslo kommune har ikke selv satt noen aldersgrense for sine elever så langt Barnevakten kjenner til, bortsett fra:

  • Byråden for utdannelse skrev i Aftenposten 13. februar 2024 at elever på barneskolene ikke skal få kunstig intelligens.
  • Kommunen opplyste på en samling for alle FAU-ere i Oslo 13. mars 2024, altså fire uker etter byrådens avisinnlegg, at 1. trinn og 2. trinn ikke skal få kunstig intelligens.
  • Samtidig har kommunen kjøpt inn 92.000 lisenser, som dekker elever også i 1. og 2. trinn, så langt Barnevakten forstår.

Så langt er det ingen krav om aldersgrense fra Utdanningsdirektoratet.

Er AI i skolen trygt?

Det er heller ingen krav fra Utdannningsdirektoratet om hvilken kvalitet skole-AI-er skal ha som et minimum med hensyn til for eksempel feilprosent innen fakta eller om AI-ene må utstyres med barnefilter.

Les: Er det trygt for barn å benytte kunstig intelligens i skolen?

Språkbasert kunstig intelligens er altså utstyrt med etiske regler som er programmert inn av mennesker, men det er ikke åpenhet om hvilke etiske regler det er. Når det gjelder bruk av AI i skolen mener Barnevakten at AI-ene først må testes av en nøytral part for å finne ut hvor trygg den er og hvilken etikk den er utstyrt med.

Seks steg til trygg AI i skolen

I kinesiske skoler har elevmaskinene kamera med ansiktstolkning som følger med på om elevene blir trøtte, i tilfelle fyres det av en morsom video for å vekke dem litt før matematikkoppgavene fortsetter.

Ansiktsgjenkjenning står på nei-listen til Datatilsynet når det gjelder norske skoler, men det kan likevel hende at elevene blir utsatt for kunstig intelligens via læringsappene. På den ene siden er det positivt at læringsappen forstår om eleven bør trene på spesielle oppgaver, men samtidig betyr det at det samles inn flere opplysninger om eleven.

Kunstig intelligens tilbys som nevnt gratis på nettet og kan i en del tilfeller utføre lekser for elever, også på norsk. Se Barnevaktens test av kunstig intelligens. Se også vår omtale av søkemotoren You.

Det har også kommet en kunstig intelligens som kan avsløre om en tekst er skrevet av kunstig intelligens: AI Writing Check.

Kunstig intelligens er altså på vei inn i skolene. Blant annet Oslo kommune har innført det på en rekke skoler, noe som en foreldregruppe er svært kritisk til.

Den kunstige intelligensen bygger gjerne på svært mange nettsider og digitale bøker. Men egenopplæringen stanser ikke der, den fortsetter gjerne sin læring ved å samle inn opplysninger fra brukerne. Bortsett fra at ChatGPT som nevnt lover å ikke samle inn personopplysninger når en skole leier inn tjenesten.

Barnevakten mener at staten må opprette et offentlig tilsyn som kan regulere på hva slags kunstig intelligens som barn blir utsatt for. Kunstig intelligens kan samle inn personopplysninger om elevene, være utstyrt med ulike former for etikk, være laget i USA eller Kina, brukes til å lage profiler av elevene eller gi hallusinerte fakta som altså slett ikke er fakta.

Spør skolen hvorfor aldersgrensen er 18 år i gratisversjonen

I regjeringens digitale strategi for skolen nevnes ChatGPT, men ChatGPT har i vilkårene aldersgrense 13 år i tillegg at det kreves samtykke fra foreldrene når barnet er under 18 år. I praksis er altså aldersgrensen 18 år.

Det finnes som nevnt en måte der skolen kan omgå aldersgrensen, skolen kan leie API-tjeneste fra OpenAI (som eier ChatGPT). Slik blir det skolen som oppretter brukerkonto i den kunstige intelligensen. Dermed gjelder det andre vilkår. Så kan elevene snakke med den kunstige intelligensen via et chat-felt på skolens nettside og ikke direkte i chat-feltet som ChatGPT viser på sine sider.

Skolen kan eventuelt leie inn Microsoft Azure OpenAI, som bygger på ChatGPT, og som har fått et innholdsfilter fra Microsoft på toppen. Det er denne varianten som Oslo kommune leier inn. Men innholdsfilteret er ikke et barnefilter, så langt Barnevakten forstår. For som nevnt kan Microsoft Azure OpenAI gi fra seg farlige aktiviteter (challenges) til barn, det har Barnevakten testet.

Foreldre kan i spørre skolen hvorfor ChatGPT har aldersgrense 18 år i praksis, og hvorfor Microsoft Azure OpenAI har aldersgrense 13 år, og om skolen kan garantere at deres kunstige intelligens er trygg for barn.

Skolen kan med egne ledetekster styre AI-en til en viss grad, for eksempel bestemme at språket blir enklere for barn. Men tjenesten blir ikke nødvendigvis helt trygg av den grunn. Og de etiske filterne som utviklerne legger inn, er ikke det samme som et barnefilter.

Det kommer stadig nye kunstige intelligenser på markedet og med tiden vil det ganske sikkert være mulig å kjøpe inn massevis med barnefiltre for ulike aldre.

Personopplysninger kan lekke via lærer-AI

Kunstig intelligens kan også benyttes av lærere, de kan sende inn elevenes oppgaver til kunstig intelligens for å få hjelp til retting eller annet. Men da kan altså elevenes tekster bli brukt til videre opplæring av den kunstige intelligensen, dersom læreren benytter en gratisversjon. Foreldre kan spørre skolen hvilken politikk den har ved alle sider ved kunstig intelligens og hvordan dette kan påvirke elevene på ulike måter, for eksempel innen personvern.

Etikk og kilder
Barn samtaler med robotleker

Barn vil møte kunstig intelligens i stadig nye leker eller på nettsteder. I 2022 skrev vi om robotleker som kan føre samtaler med barna. Men du vet ikke hva den kunstige intelligensen har fått av data, så du vet ikke hva samtalene vil gå ut på.

Kunstig intelligens kan analysere barns oppførsel og respondere på det, på en god eller dårlig måte. Det gjelder å være bevisst når man benytter en tjeneste som bygger på kunstig intelligens. Problemet er at man sjelden vet at man er utsatt for kunstig intelligens eller hvem som står bak den kunstige intelligensen i hvert tilfelle.

AI og søksmål

Da språkbasert (generativ) kunstig intelligens ble en tjeneste som alle kunne benytte via internett høsten 2022, ble teknologien forklart med at AI-en hadde lest enormt mange nettsider og kunne formulere sine egne setninger ut fra dette. Den superenkle forklaringen er at teknologien klarer å «gjette» hva det neste ordet bør være når det formulerer sine svar til deg.

Men i slutten av desember 2023 gikk avisen New York Times til søksmål mot OpenAI som eier ChatGPT-utgavene. Det viser seg nemlig at ChatGPT ikke bare har lest enorme tekstmengder, men har også tatt kopi av tekstene. Bildet under er hentet fra søksmålet, rød tekst er identisk.

Når den kunstige intelligensen sitter på kopier av lange avisartikler, og ikke bare har lest artiklene for trene seg opp, da kan det hende at den også sitter på kopier av samtalene som du eller barna har med den. Det er nok et varsko om å være forsiktig med hva man deler med en kunstig intelligens.

Søksmålet til New York Post rettes mot eierne av den kunstige intelligensen. Men hva hvis du kopierte teksten som den kunstige intelligensen spyttet ut, og at du så delte den på internett? I teorien kunne da New York Post ha gått til søksmål mot deg. Det skal nok mye til for at store selskaper retter økonomiske krav mot enkeltpersoner, men det skjer nå og da for eksempel ved bildetyveri.

En viss økonomisk risiko er det altså:

Unicef og kunstig intelligens

FNs barneorganisasjon Unicef ønsker barnevennlig kunstig intelligens (ekstern lenke) og jobber med barnevennlige retningslinjer.

Organisasjonen skriver at kunstig intelligens (AI) er innovativt, men at det også utgjør en risiko for barn og deres rettigheter. Det er snakk om privatliv, trygghet og sikkerhet. De fleste som utvikler AI, nevner sjelden noe om barn og deres rettigheter.

Unicef håper at både nasjonale myndigheter og private selskaper rundt omkring i verden kan bli mer bevisst på barnas rettigheter og behov ved kunstig intelligens.

Organisasjonen går inn for tre grunnleggende rettigheter for barn når det gjelder kunstig intelligens (AI):

  • AI policies and systems should aim to protect children
  • They should provide equitably for children’s needs and rights
  • They should empower children to contribute to the development and use of AI

Barnevaktens tolkning av disse tre punktene oppsummeres slik: Beskyttelse, likhet og kunnskap. Kunstig intelligens skal beskytte barn, sørge for at barn seg i mellom ikke forskjellsbehandles og gjøre det mulig at barn får mer kunnskap om kunstig intelligens.

I følge en annen rapport fra Unicef er også de seks punktene nedenfor viktige i det videre arbeidet:

1. Uphold child rights
2. Prioritize children’s development and well-being
3. Protect and nurture children’s data agency
4. Ensure transparency, explainability and accountability for children
5. Prioritize safety, protection and AI literacy of children
6. Prioritize equity and inclusion of children

Her nevnes altså «transparency» som et viktig punkt, Barnevakten forstår det slik at det er viktig at barn, foreldre og andre får vite hvordan AI-en er skrudd sammen i det enkelte tilfelle. Og det bør forklares slik at også barn forstår.

Les mer om de seks punktene her

EU-regler om AI

EU har retningslinjer for kunstig intelligens; Artificial Intelligence Act.

Microsofts seks idealer for bruk av kunstig intelligens

Microsoft har satt opp seks idealer for kunstig intelligens:

  • Fairness: AI systems should treat all people fairly.
  • Reliability & Safety: AI systems should perform reliably and safely.
  • Privacy & Security: AI systems should be secure and respect privacy.
  • Inclusiveness: AI systems should empower everyone and engage people.
  • Transparency: AI systems should be understandable.
  • Accountability: People should be accountable for AI systems.

Men det er umulig for foreldre å sjekke om den nye robotleken til barna er blitt laget med slike idealer eller om produsenten kun har gått etter billigste løsning som kan gi størst fortjeneste. En del leker og spill er for øvrig produsert i ikke-demokratiske land som kan ha en annen kulturell tilnærming til forbrukerrettigheter, barns rettigheter, personvern og så videre.

Nyhetsartikler og råd som ikke er skrevet av mennesker

Les om robotartikler

Les også:

(Denne artikkelen ble publisert 14. desember 2022 og har blitt oppdatert flere ganger. Hovedbilde øverst: Shutterstock / Sergii Kozii.)