Google-KI får aldersgrense null år i skolene

Hva er forskjellen på Gemini og Notebooklm?

Både Gemini og Notebooklm er kunstige intelligenser fra Google.

• Gemini har trent seg opp på tekster fra «halve internett» og kan svare på spørsmål som du stiller. I tillegg løper den ut på nettet for å finne ferskere informasjon. Den kan også generere kreativ tekst, oversette språk og en del annet.
• Notebooklm jobber kun med de filene som du gir den. Du kan for eksempel laste opp et referat og en rapport og be Notebooklm gi deg forskjellene mellom filene. Eller du kan be Notebooklm sy sammen filene til et kortere sammendrag, for eksempel.

Enkelte skoleapper krever samtykke fra foreldrene

Google, Microsoft og Apple er de tre største leverandørene av digitale skoleløsninger, elevene kan boltre seg i skriveapper, KI-er og andre tjenester. Datatilsynets veileder sier at det er kun kjernetjenestene i de digitale skoleløsningene som kan benyttes av elevene. Skal tilleggstjenestene i skoleløsningene benyttes, må skolene få samtykke fra foreldrene – dersom tilleggstjenestene samler inn personopplysninger.

Barnevakten har ikke tatt dypdykk i alle dataavtaler som skoleeiere har inngått med bigtech-selskaper, men det grove utgangspunktet er at kjernetjenester har bedre personvern enn tilleggstjenestene. Derfor bør lærere kjenne kommunens dataavtale godt slik at elevene ikke bruker tilleggstjenester. I prinsippet kan en skriveapp være kjernetjeneste og en nettleser fra samme leverandør være en tilleggstjeneste, det spørs hva som står i dataavtalen.

Fjerner aldersgrensen på KI-ene

Google opplyser at dataprogrammet Notebooklm skal bli ansett som en kjernetjeneste i skoleløsningene fra august 2025. Elevenes bruk av Notebooklm vil derfor ikke bli lest av Google-ansatte, slik ansatte har mulighet for i andre avtaler. Elevenes bruk vil heller ikke bli benyttet til å trene KI-en, lover selskapet.

Google skriver at Notebooklm dekkes av vilkårene for å bruke Googles skoleløsning, de vilkårene finner du her. Det er 12.000 ord i vilkårene samt lenker videre til andre vilkår, så det er umulig å vite hvor vilkårene slutter. Men hovedvilkårene (3.3) sier at kunden, altså kommunen, må sørge for samtykke fra foreldrene dersom tilleggstjenester tas i bruk av personer under 18 år. Vilkårene har lenke videre til vilkårene for tilleggstjenestene, der står det at man krever foreldresamtykke dersom brukeren er under 16 år.  Det er slike detaljer den enkelte kommune må sette seg inn i og tolke.

Uansett gjelder vilkårene kun dersom kommunen har inngått avtale med Google.

KI-ene skal tilpasses barn

Google skriver at Gemini allerede er programmert for å være mer passende for barn og at Notebooklm skal utstyres på tilsvarende måte:

«A distinct experience for users under 18 — Gemini has stricter content policies that help prevent potentially inappropriate or harmful responses for users under 18, as will NotebookLM when it becomes available to users under 18.»

Men hvor god denne barnetilpasningen blir, gjenstår å se. Det finnes ingen norsk etat som tar på seg jobben med å sjekke tryggheten til elevene. Oppdager foreldre upassende eller risikabelt innhold på skoleskjermene, finnes det heller ingen klageinstans. Utdanningsdirektoratet har utgitt en veileder om bruk av KI i skolen, men den har ingen krav til skolene.

Barnevakten har tidligere vist at skole-KI-er for eksempel kan benyttes til mobbing eller vise upassende svar. KI-er generelt kan også levere fantasifulle faktafeil eller være diskriminerende. Samtidig er KI et nyttig verktøy som kan lese korrektur, foreslå bedre formuleringer og mye annet.

En KI leverer et annet svar dersom du gjentar spørsmålet, det er derfor vanskelig å etterprøve om KI-ene i skolene er trygge og tilpasset norsk etikk. Flere amerikanske aviser har fått rettsvesenet til å kreve at OpenAI (ChatGPT) tar vare på alle samtaler som brukerne har med KI-en, for å kunne etterprøve om KI-en kopierer artikler fra avisene. Men kravet om lagring ser ikke ut til å gjelde skoleløsningene.

Markedsføringskampanje for KI i skolene

For å få flere til å benytte Gemini og Notebooklm, har Google laget blant annet ferdige e-poster som lærere kan sende ut med informasjon.

Både Gemini og Notebooklm er gratis å bruke for elevene, skriver Google.

Tips til foreldre

Unngå hemmeligheter: Si til barnet at det aldri må fortelle hemmeligheter eller private opplysninger til en KI, det gjelder også for skolens KI. Og det gjelder også for filene som barnet laster opp til en KI. Riktignok har skole-KI-er bedre personvern, men det er greit å ha en enkel regel forholde seg til.

Mange barn har fått råd om å ikke legge ut personlige opplysninger i spillchat eller sosiale medier. Samme råd gjelder altså ved bruk av KI.

Bruk KI selv: Bli kjent med bruken av KI slik at du kan hjelpe barnet med leksene. En KI kan for eksempel kjapt lage en quiz om det temaet som barnet har i lekse.

(Hoivedbilde øverst: Foto: Shutterstock)

Les også

KI-er mangler barnefilter og alderskontroll

Barnevaktens startside om KI