Kunstig intelligens fra Google får filter for tenåringer

Barnevakten besøkte denne uken Googles europakontor i Dublin hvor selskapet holdt et seminar om hvordan vokse opp i en digital verden. En av nyhetene var at Googles AI, som heter Gemini, vil få et ungdomsfilter. Dette filteret er allerede på plass i USA og vil etter hvert tilbys i flere land.

Google skrev om dette allerede i fjor høst da deres AI gikk under navnet Bard.

Slik virker Gemini Teens

For å benytte Gemini, enten man er voksen eller tenåring, må du opprette en konto. I opprettelsen blir du spurt om fødselsdato. Det er fødselsdatoen som avgjør om tenåringsfilteret slås på eller ikke. Uten dette filteret, slik Gemini tilbys i Norge for tiden, er det aldergrense 18 år i vilkårene.

Barnevakten og andre gjester på seminiaret fikk teste Gemini med tenåringsfilteret påslått, la oss kalle det Gemini Teens. Et av spørsmålene som gjestene stilte, gjaldt hva som er de beste stedene for «clubbing in Dublin». Gemini Teens nektet å opplyse om steder som har alkoholservering, for aldersgrensen for å drikke alkohol er 18 år i Irland, forklarte AI-en før den viste alternative steder å oppsøke for tenåringer, for eksempel historiske og kulturelle steder eller en park.

Gemini Teens foreslo også et besøk til Guinness Storhouse, hvor det er alkoholservering. Man kan mene at dette var en feil når den først begrunnet sitt generelle «nei» med aldersgrense for alkohol, men man kan også mene at Guinnes Storhouse er tryggere å oppsøke enn nattklubber og uteliv.

Uansett begrenset Gemini Teens sitt svar. Barnevakten testet senere voksenversjonen av Gemini og da opplyste den om fire populære steder for «clubbing».

Et tilsvarende tradisjonelt Google-søk ga som første treff en liste med åtte populære steder for «clubbing» og «party all night», selv om «sikker søk» var slått på. Når tenåringene er skuffet over svaret som Gemini Teens gir, er det kort vei til et søk i Google eller en annen søkemotor.

Norske skoler gir elevene AI uten barnefilter

AI-er er gjerne utstyrt med et etisk filter. Det skal forhindre bombeoppskrifter og rasistiske uttalelser. Et etisk filter er ikke det samme som et barnefilter. Et etisk filter sier ja til uteliv om natten i Dublin, et barnefilter sier nei.

En del norske kommuner har allerede kjøpt inn en kunstig intelligens som kalles ChatGPT som leveres av selskapet OpenAI hvor Microsoft har spyttet inn enorme pengebeløp. Så langt Barnevakten forstår, er ikke ChatGPT utstyrt med noe barnefilter for elevene. Skolene kan skrive overordnede ledetekster på bakrommet og be AI-en bruke et enkelt språk og så videre, men det er ikke det samme som et fullverdig barnefilter eller tenåringsfilter levert av AI-utvikleren.

Et opplagt spørsmål fra foreldre til kommunen er om den nyinnkjøpte kunstige intelligensen på skolene har barnefilter.

Gemini har en fin faktasjekk-funksjon

Kunstig intelligens har ikke nødvendigvis løpende tilgang til nettsider, men bygger sine setninger ut fra hva den har lest på nettet tidligere. Teknologien er ikke perfekt og AI-er kan dessverre finne opp «fakta».

Derfor er det viktig med kildekritikk når AI-er serverer deg påstander. Gemini har en egen knapp som utfører en slags kildekritikk av en del av påstandene som Gemini serverer i sine svar. Trykker du på knappen, vil Googles søkemotor søke opp noen av påståndene og gi deg nettsider som sier noe om emnet. Så blir det opp til deg å avgjøre om nettsidene er seriøse og om de er enige med påstandene som Gemini la frem ut fra sitt eget hode.

Gemini har aldersgrense 18 år

Barnevakten fikk spurt Google om hvilken aldersgrense det er i vilkårene for å benytte Gemini, for det var litt vanskelig finne ut av da tjenesten byttet navn fra Bard til Gemini. Svaret er at det er aldersgrense 18 år for den versjonen som finnes i Norge i dag. Når tenåringsfilteret etter hvert også kommer til Norge, vil aldersgrensen bli lavere, men da vil altså filteret slå inn når man oppretter en konto med lavere alder enn 18 år.

I følge informasjonen fra i fjor, må brukere uansett være minst 13 år. Google bekreftet til Barnevakten på seminaret at Gemini samler inn persondata fra brukerne. Dette er nok grunnen til at brukerne av Gemini må være minst 13 år, for oppfylle personvernlovene.

Gemini samler ikke inn personopplysninger dersom en skole eller kommune kjøper inn tjenesten, dette bekreftet Google til Barnevakten i Dublin.

Gemini finnes også i en mer avansert versjon der AI-en kan jobbe direkte i dine Google-apper som for eksempel G-mail. Hva som da samles inn av persondata, er ikke lett å finne ut av.

(Hovedbilde øverst, foto: Barnevakten.)

Les også

• Gemini ble rasist