Barnevakten besøkte Google i Irland

Google arbeider aktivt for å alderstilpasse sine tjenester. Dette var et av budskapene i de 14 sceneinnslagene på Googles europeiske hovedkontor i Dublin under eventen «Growing Up in the Digital Age». I pausene kunne gjestene mingle eller snakke med Google-ansatte på ulike stasjoner.

Bildet over viser Mindy Brooks som leder «Head of Google Kids & Families and Android Consumer Experience» i Google.

KI anslår alderen din

Google benytter kunstig intelligens for å anslå alderen på brukerne av tjenestene. Dersom Google er ganske sikker på at brukeren er et barn, skrus de barnevennlige grepene på. På Youtube vises da, forenklet sagt, kun kattevideoer og tegnefilmer. Skal brukeren inn på tjenester som passer mest for voksne, må brukeren i tilfelle bevise sin alder, for eksempel ved å sende inn kopi av ID.

Google skriver på sine hjelpesider at norske brukere bør dekke over fødselsnummeret på ID-en som sendes inn som kopi til Google. Hjelpesidene advarer også om svindel. Google sender aldri ut e-post der du blir bedt om å bekreften alderen. Alderskontrollen skjer alltid inne på Google-kontoen.

Les også: Google-KI sjekker hvilke nettsider du leser, for å anslå alderen din

E-postadressen kan være nok

En Google-ansatt fortalte Barnevakten at selskapet kan anslå alderen ut fra e-postadressen til brukeren, det enkleste er at Google sjekker hvor gammel g-mail-kontoen er. Slike kontoer er jo opprettet av Google selv. Dersom den er mange år gammel, er eieren av e-postadressen sannsynligvis voksen.

Google kan også sende e-postadressen din til VerifyMy som utfører alderskontroll for Google. VerifyMy har avtaler med mange andre selskaper der du kan ha lagt igjen den samme e-postadressen. Har du for eksempel brukt e-postadressen i forbindelse med å søke om boliglån, er du sannsynligvis voksen og ikke et barn.

Googles hjelpesider sier at VerifyMy har e-postadresse-avtaler med:

• finansinstitusjoner
• leverandører av spill, strømming og underholdning
• offentlige etater og kredittbyråer
• boliglånstilbydere
• profesjonelle tjenester og programvare
• detaljhandelstjenester
• reise- og fritidstjenester
• leverandører av kraft og andre tjenester

Et eller annet sted med liten skrift i vilkårene til din reiseoperatør, bank eller strømmetjeneste står det antagelig at din e-postadresse kan deles med andre aktører slik som VerifyMy.

Tenåringer i panelet

Et av innslagene på scenen i Googles hovedkontor i Dubin var intervjuer med fem tenåringer. De fortalte blant annet at de ønsker mer privatliv overfor foreldrene enn hva en del digitale foreldreløsninger legger opp til. De ønsker ikke at foreldrene skal kunne se alle nettsider de er innom eller alt hva de søker etter.

To av de fem ungdommene brukte kunstig intelligens flittig for å få svar på alt mulig de lurer på. Også den omdiskuterte Deepseek ble benyttet.

Ungdommene var engstelige for svindel på nettet og mente at skolene bare var opptatt av kildekritikk. Lærerne burde forklare elevene også om svindel samt at sosial kommunikasjon kan være risikabel, mente de. Skolene bør bli flinkere til å forklare hvordan kildekritikk kan overføres til andre sider av livet, sa en av tenåringene.

Tenåringene følte også at appene for lett sugde persondata fra dem.

Risikoen ved gjentagelser

Jessica Piotrowski (bildet over) er professor ved universitetet i Amsterdam og deltar i en gruppe på 13 fagpersoner som vurderer Youtube-tjenester kritisk mot et mål om å være familievennlig. Hun sa at et nytt grep er «content category».

Det handler om risikoen ved gjentagelser. Hvis et barn ser en sminkevideo, så er det liten risiko ved det. Å se 20 sminkevideoer er noe annet, da kan barnet få feil tanker om sitt eget utseende.

På skolen og ellers i livet handler repetisjoner om å lære noe. Men repitisjoner har også en risiko, det spørs hva repetisjonene handler om. Og det forsøker Google å gjøre noe med, i sine algoritmer på Youtube.

Alderskontroll i operativsystemet?

Arcom er en fransk etat som kan sammenlignes med Medietilsynet i Norge. Arcom går inn for at alderen skal ligge i operativsystemet i telefonen og datamaskinen, slik at myndighetene sterkere kan kreve at alle plattformer sjekker alderen.

Zeta Rizikianou fra personvern-organisasjonen CIPL minnet om at en del barn deler telefoner, maskiner og kontoer med andre, for eksempel med foreldrene.

• Les mer om alderskontroll.

Kunstig intelligens benyttes ved overgrep

Dessverre kan kunstig intelligens brukes til å skape barnestemmer slik at barn blir lurt til å tro at de snakker med andre barn. Men så er det kanskje en voksen overgriper som er på den andre siden av skjermen. Å bli manipulert til et overgrep tar i gjennomsnitt tre kvarter, men det kan også skje så raskt som 19 sekunder, ifølge organisasjonen Thorn.

Kunstig intelligens benyttes også til å lage overgrepsbilder, kanskje basert på tidligere overgrepsbilder. 6 prosent av amerikanske ungdommer er ofre for KI-overgrep, fortalte Rebecca Portnoff fra Thorn (bildet over).

Google fortalte at et krav ved deres KI-er at overgrepsmateriale ikke skal benyttes som treningsdata. Dette er et grunnleggende grep for å kneble KI-en til en viss grad mot produksjon av nye overgrepsbilder. Men KI-en må selvsagt også utstyres med etiske regler slik at den ikke lager alt hva brukerne ber om av kunstige bilder og filmer.

På scenen i Dublin ble det opplyst at på det mørke nettet hjelper overgripere hverandre til å få kunstige intelligenser til å lage overgrepsfilmer.

• Les mer om grooming og hvilke triks overgripere bruker for å lure barn

Risiko ved KI

Google bygger en tryggere KI-tjeneste for tenåringer, forklarte Danielle Osler som er leder for Trust and Safety. Hun nevnte disse risikoene ved bruk avKI:

• Upassende innhold (unsafe content and toxicity).
• Overtramp ved personvern (privacy violations)
• Svindel og falske fremstillinger (fraud, deep fakes)
• Partiskhet og diskriminering (bias and discrimination)

Også på fjorårets event i Dublin ble det snakket om en tenåringssversjon av Googles kunstige intelligens. Men så langt vi forstår, er denne tjenesten ikke tilgjengelig i Norge.

Barnevakten har mange ganger advart om risikoene ved kunstig intelligens, for eksempel at KI kan være partisk eller diskriminerende. Da Google i fjor forsøkte å justere sin KI til å bli mindre diskriminerende, tok de for hardt i. KI-en overkompenserte og ble rasistisk.

Nye grep i Family Link

I Dublin ble det også vist nye grep i Googles foreldrekontroll Family Link. Google kan forstå om barnet er i ferd med å sende et nakenbilde, dersom «sensitiv content warning» er skrudd på i innstilingene. Da kommer det frem en advarsel på telefonskjermen som spør om barnet er sikker på at et slikt bilde skal deles.

Advarselen sier at når et slikt bilde er sendt, kan det deles videre til mange andre. Advarselen opplyser også om muligheten for å blokkere personen som har bedt om et nakenbilde.

• Les mer her om nyheter i Family Link.