Instagram bruker kunstig intelligens mot aldersbrudd

Bildet er todelt. På den ene siden viser sosiale medier til strenge aldersgrenser og kaster ut barn som har opprettet konto før de er 13 år. Flere foreldre har fortalt  Barnevakten at kontoene til deres barn er blitt stengt.

På den andre siden viser spørreundersøkelser at halvparten av alle niåringer er på sosiale medier, ifølge Medietilsynet (Barn og Medier, 2020).

Når så mange barn benytter sosiale medier til tross for strenge aldersgrenser, kan man lure på hvor alvorlig appene tar sine egne aldersgrenser. Men det ser i alle fall ut til at når en app blir oppmerksom på et barn som ikke har rett til å bruke appen, så stenges kontoen raskt.

Siden det er så ekstremt mange brukere, er det i utgangspunktet ikke lett for appselskapene å oppdage brukere som er under aldresgrensen. En løsning er å ta i bruk kunstig intelligens.

Instagram nå ta i bruk kunstig intelligens som utfører ansiktsanalyser for å gjette alderen på brukerne, ifølge selskapets egen blogg. Dette er ikke det samme som ansiktsgjenkjenning som skal identifisere en person. Med en aldersanalyse av ansiktet konsentrerer man seg kun om å gjette alderen.

Slik foregår den digitale «trynesjekken»:

• Barnet må filme ansiktet sitt
• Barnet må sende filmen til Instagram
• Instagram sender filmen videre til selskapet Yoti
• Yoti bruker kunstig intelligens for å «verifisere alderen»
• Yoti forteller Instagram om antatt alder
• Instagram bruker informasjonen til å avgjøre om barnet får lov til å ha konto

Filmen slettes av selskapene. De lover også at identiteten til barnet ikke røpes mellom selskapene. Det er kun alderen som Yoti tar stilling til, filmen av barnet brukes ikke til å identifisere barnet.

Yoti skriver at systemet er i harmoni med GDPR-reglene i Storbritannia, reglene sier at det ikke er lov til å samle inn biometriske data for å identifisere en person. Med andre ord virker det som at man kan samle inn biometriske data hvis man har en annen begrunnelse, for eksempel at man vil finne alderen på personen. Eller sagt på en annen måte: Da kalles det ikke lenger biometriske data. Se side 15 i denne Yoti-teksten, der skriver Yoti at dataene som samles inn, ikke er biometriske data.

Yoti-sjekk utføres på titalls millioner personer hver eneste dag. Over en halv milliard mennesker er blitt ansiktssjekket av Yoti hittil.

Foreløpig tester Instagram slik alderskontroll kun i USA, og enn så lenge gjelder det kun i tilfeller der kontoeieren ønsker å endre sin egen alder fra under 18 år til over 18 år. For man kan jo spørre hvorfor noen oppga feil alder for noen år siden og nå vil rette dette opp. Mistanken er stor for at man har løyet bevisst på alderen. Og kanskje er man fremdeles under aldersgrensen?

Maksimum feilmarginer til den kunstige intelligensen er ifølge Yoti:

•  2,96 år for personer i alderen 6-70 år
• 1,52 år for personer i alderen 13-19 år
• 1,56 år for personer i alderen 6-12 år

I praksis gjør den kunstige intelligensen få feil ifølge selskapet. For personer i alderen 6-11 år, gjetter man riktig i 98,91 prosent av tilfellene at de er under 13 år.

Det ser ut til at Yoti-sjekk også kan benyttes i videomøter. Eller for å verifisere alderen til personer som vil se porno, slik Europarådet har foreslått. Yoti foreslår at systemet også kan brukes i butikker. Hvem vet, kanskje om noen år må du glane inn i et Yoti-kamera på Vinmonopolet for å få kjøpt vin til helgen.

Kan man lure den kunstige intelligensen?

Hva hvis man ber storebror på over 13 år filme seg selv og sende inn til Instagram? Er det så enkelt å lure Instagrams aldersregler? Vel, det får tiden vise, det kan hende det bygges inn enda mer kunstig intelligens etter hvert som sjekker også de selfiene som barna legger ut.

Derfor er alderen viktig

Instagram lar alderen til brukeren styre en del av funksjonene i appen. Personer over 18 år kan ikke sende meldinger til personer under 18 år, med mindre den yngste følger den eldste. Og for personer under 16 år settes kontoen som privat, som et utgangspunkt.

I teorien kan også sosiale apper styre algoritmene slik at tenåringer ser mildere innslag enn hva voksne ser.

Flere måter å bevise sin alder

Instagram godtar flere måter å bevise alder på:

• Sende inn kopi av ID
• Be minst tre personer over 18 år på Instagram bekrefte alderen
• Kunstig intelligens

Men dette gjelder altså kun barn over 13 år, foreldre kan ikke samtykke for yngre barn. Instagram har absolutt aldersgrense på 13 år.

Kan brukes i mobbing

Instagram ber brukere rapportere inn til selskapet dersom de vet at noen er under 13 år. Selskapet skriver:

«Our content reviewers are also trained to flag reported accounts that appear to be used by people who are underage. If these people are unable to prove they meet our minimum age requirements, we delete their accounts.»

Slik rapportering kan også brukes som hevn. Dersom to tolvåringer krangler, kan den ene hevne seg ved å rapportere inn den andre. Og så sletter Instagram kontoen.

Kunstig intelligens leser også innleggene til brukerne

«Kunstig intelligens er vår hjørnestein.» Dette skrev Instagram i 2021, ett år før selskapet nå varslet samarbeidet med Yoti.

Også Instagrams egenutviklede kunstige intelligens benyttes til å avsløre alderen på brukerne. Den oppdager for eksempel at noen har skrevet “Happy 21st Bday!” eller “Happy Quinceañera.” Sistnevnte er en feiring av jenters 15-årsdag.

Kunstig intelligens blir stadig bedre, så man kan regne med at med tiden vil bilder av norske konfirmanter eller meldinger som sier «Hurra! Jeg har tatt mopedlappen!» vil brukes for sjekke alderen nærmere.

Instagram sjekker også hvilken alder den enkelte bruker har oppgitt i de ulike Meta-tjenestene som for eksempel Facebook.

Les også

• Sosiale apper sletter barn under 13 år
• Slik gikk det da vi logget oss på Instagram som 13-åring
• Vår anmeldelse av Instagram
• Sosiale medier kobles til depresjoner

---

Tips og råd hver uke, pluss tilgang til webinarer: Ønsker du tips og nyheter om nettvett for barn tilsendt på e-post hver uke? Bli medlem av Barnevakten.

Lærere, her er undervisningsressurser om nettvett.