Barnevakten besøkte Google i Dublin

Det var stinn brakke og høyt lydnivå i mingleområdet i arrangementet «Growing Up in the Digital Age Summit» på Googles europeiske hovedkontor i Dublin 5. mars 2024.

Dette var andre gang Google arrangerte et slikt seminar. Gjestene kom fra hele Europa, fra stiftelser som Barnevakten til forskningsmiljøer, profesjonelle bedrifter og statlige etater. En del Google-ansatte var fløyet over fra USA, både fra kontorene i New York og fra California.

Panelsamtaler, men ikke plass til kritikk

Auditoriet i Googles lokaler har plass til flere hundre gjester som fikk følge panelsamtaler og informasjon fra Google på scenen. Bildet over viser Mindy Brooks som er leder for «Kids and Families» i Google. Hun arbeidet tidligere som psykolog og forklarte hva Google gjør for å beskytte barn og unge.

I pausene fikk man en sjanse til å knytte nye kontakter eller stille spørsmål til Google-ansatte.

På slutten ble det også holdt en mindre workshop om hvordan forhindre overgrep mot barn, Barnevakten deltok i en idégruppe som sammen foreslo en “grooming-detektor” som kan hjelpe barn å bli varslet om mulige overgripere, basert på innholdet i en løpende samtale.

• Les om grooming her.

Google er et kommersielt selskap og scenen ga heller ikke i år plass til kritiske spørsmål. Og når det en sjelden gang kom kritikk fra en paneldeltaker, fikk man ikke skikkelige svar. Men panelsamtalene og innslagene ga likevel gjestene ny innsikt og en del å tenke på.

Bildet over viser redaktør Sjur Jansen og markedsleder Rune Rasmussen, begge fra Barnevakten, ved Googles hovedkontor for Europa.

Skal bli mer barnevennlig

DSA-reglene i EU sier at online-plattformer som kan bli brukt av barn, må sørge for at tjenestene er gode for barn, med høyt nivå av personvern, trygghet og sikkerhet. Selv om globale tech-selskaper kan ha sin egen motivasjon for å tilby barnevennlige tjenester, får de uansett en god dytt i ryggen av DSA-reglene.

Man fikk inntrykk av at Google går denne veien:

• Apper skal helst være forhåndsinnstilt som barnevennlige. For eksempel når en tenåring laster opp en film på Youtube, skal den mest private visningsinnstillingen være slått på automatisk. (Eksempelet med Youtube skrev vi om i 2021.)
• Man skal gi barn og unge sikkerhetsråd underveis ved bruk av apper. Man sammenlignet dette med gammeldags brettspill, ingen husker reglene hvis du forteller alt før man begynner å spille. Det er bedre å fortelle en ny regel i det man kommer i en ny situasjon i spillet. På samme måte skal sikkerhetsinformasjon gis til barn og unge, det skal gis i riktig øyeblikk.
• Personifisert reklame som rettes mot barn, skal blokkeres.
• Også reklame som er upassende for barn, slik som alkohol, dating og slanking, skal blokkeres.
• Apper bør ha pauseinnstillinger. Man kan for eksempel velge at Youtube skal varsle at det er på tide med en pause. Dette er slått på automatisk for alle kontoer som eies av tenåringer.
• Ingen barn, eller foreldre for den saks skyld, er like. Dette må man ta høyde for når man utvikler tjenester, man må kunne tilby skreddersydde løsninger.
• Barn skal tas mer med i utviklingen av tjenestene.
• Man jobber hele tiden med å gjøre søk sikrere. Ved bestemte søk svarer Google med en plakat hvor man kan få helsehjelp eller hvor man kan få snakke med noen.
• I avdelingen for barn i appbutikken Google Play lar man lærere og psykologer bestemme hvilke apper som har godt innhold.

Den kunstige intelligensen Gemini får tenåringsfilter

Mange av innslagene handlet om kunstig intelligens. Google tilbyr AI-en som kalles Gemini, denne kommer i en versjon for tenåringer. Her ga Google et mer ansvarsfullt inntrykk enn norske kommuner som deler ut AI-konkurrenten ChatGPT til skoleelever.

Barnevakten er ikke kjent med at det er noe barnefilter i ChatGPT. Men hvilken av AI-ene som i praksis er tryggest for barn, det må forskning i tilfelle avgjøre. Barnevakten mener at før man deler ut kunstig intelligens til elever, bør AI-en være testet av andre enn kommunen selv.

Som du ser av bildet helt øverst, minnet Google nok en gang om at man ikke skal gi kunstig intelligens privat informasjon. Men det ble ikke forklart hvorfor man ikke skal røpe hemmeligheter til AI-er. Er det fordi Google-ansatte kan lese hva som står i samtalene? Eller kan informasjonen du gir Gemini faktisk havne som åpne opplysninger som andre søker etter? AI-er fortsetter gjerne sin opplæring ved hjelp av alle samtalene de har med brukerne. Et eller annet sted havner det du skriver.

I samtale med Google-ansatte i pausen oppfordret Barnevakten selskapet til å være mer åpen om hvordan AI-en deres er konstruert.

Kan bli avhengig av en kunstig venn

I en av panelsamtalene ble det sagt at AI-er så vennlige og støttende at enkelte brukere kan bli avhengig av å snakke med dem. Dessverre for enkelte barn er AI den eneste vennlige og støttende stemmen de kan høre, sa en av paneldeltakerne og tenkte på barn som vokser opp med dårlige forhold i hjemmet og på skolen.

Det finnes kunstige intelligenser som er skrudd sammen for å oppføre seg som kjærester, slik som for eksempel Replika. Google opplyste at deres Gemini vil nekte å bli kjæreste med noen.

Når det gjelder hva Gemini kan brukes til, ble det ofte nevnt at man kan skape musikk, dette ble gjerne nevnt som første poeng flere ganger. Med fare for å overtolke begynte Barnevaktens medarbeidere seg imellom å undre om Google planlegger en ny musikktjeneste for tenåringer.

Fra scenen ble det for øvrig sagt fra en av paneldetakerne at stadig flere skoler i USA stenger tilgangen til ChatGPT, muligens er man mer skeptisk til umoden kunstig intelligens der enn i Norge.

Skal forhindre spredning av overgrepsbilder

Google har løpende tiltak for å forhindre overgrep mot barn, blant annet ved å legge inn advarsler når folk søker etter slike bilder. Man forbedrer advarslene slik at de blir så effektive som mulig. Skal man varsle at slike bilder er ulovlige og at man kan få straff? Eller skal man veilede personer til steder hvor det er hjelp å få? Ved å justere budskap og valg av ord, kan må få bedre effekt, forklarte Google-ansatte som jobber med dette til daglig. Google ga et godt og seriøst inntrykk om arbeidet med å bekjempe overgrep.

Barnevakten skrev i fjor om CSAM og et nytt og større samarbeid om å begrense overgrepsbilder, her deltar Google sammen med mange andre, kanskje klarer man i en del tilfeller til og med å stanse pågående aktivitet fra overgripere.

I fjor

Barnevakten besøkte samme type seminar i Dublin i fjor. Da fikk vi høre blant annet at Frankrike påbyr foreldreinnstillinger i telefoner. Vi fikk også snakket med Youtube-ansatte som bekreftet at det er aldersgrense i deres vilkår også for personer som kun surfer innom nettstedet Youtube uten å opprette noe konto.

Det er fint at Google arrangerer seminarer om barns trygghet på nettet, forhåpentligvis vil andre store aktører henge seg på med lignende seminarer. I tilfelle vil det ganske sikkert foregå i Dublin, det er der store aktører etablerer hovedkontor for Europa, fordi Irland har lave skatter og færre reguleringer. Men aktørene slipper neppe unna EUs stadig nye digitale rettigheter som beskytter innbyggerne, og spesielt barn.

Les også

• Rask test av Gemini
• Gemini ble rasistisk
• Kunstig intelligens i skolen er ikke nøytral
• Barnevaktens startside om kunstig intelligens