Foto: Shutterstock / Jar Tee

Tiktok vet at appen er skadelig for barn, påstår 13 amerikanske stater

Tiktok har i mange år visst at appen er skadelig for barn og tenåringers helse, det hevder staten Kentucky i sitt søksmål mot selskapet.

Publisert |Av Sjur Jansen|KategorierMyndigheter, Sosial på nett

13 amerikanske stater, samt hovedstaden Washington, har gått til søksmål mot Tiktok. De mener at Tiktok er skadelig for barns helse og at Tiktok vet det. Appselskapets advokater vil få det travelt fremover når de skal håndtere 14 søksmål som er blitt forberedt gjennom to år. Så langt vi forstår, er søksmålene ganske like, men likevel delvis lokalt basert.

Kinesiske barn har strengere Tiktok

Morselskapet til Tiktok heter Bytedance, dette kinesiske morselskapet forsøker aktivt å beskytte kinesiske barn ved å tilby en annen versjon av Tiktok i Kina enn den som tilbys amerikanske barn, står det i søksmålet.

Den kinesiske versjonen av Tiktok kalles Douyin. Brukerne i Kina kan benytte Douyin i kun 40 minutter hver dag, appen er for øvrig kun tilgjengelig på dagtid. Og skrollingen er utstyrt med automatisk brems, den har fem sekunders pause mellom hvert innslag. Videre blir alle videoer sjekket slik at kun «inspirerende» innslag blir vist.

Tiktok har full anledning til å ta samme grep i USA, men velger å ikke gjøre det, hevdes det i søksmålet.

Vet at appen er skadelig

Justisministeren i Kentucky viser også sitater fra Tiktok-ansatte som skal bevise at selskapet vet at appen er skadelig, for eksempel:

«Men jeg tror vi må være bevisste på hva det kan bety for andre muligheter. Og når jeg sier andre muligheter, mener jeg bokstavelig talt søvn, og spising, og det å bevege seg rundt i rommet, og å se noen i øynene.»

Hvilken makt har morselskapet over Tiktok?

De rettsansatte i Kentucky sladdet en del av søksmålet før det ble gjort offentlig tilgjengelig. Det har kommet en rekke lekkasjer i pressen fra søksmålet fordi det er lett å lese hva som står under sladdene.

En av sladdene dekker til opplysningen om at ansatte i Tiktok og det kinesiske morselskapet Bytedance snakker sammen i meldingssystemet Lark – og at det derfor er mulig at koblingen mellom det kinesiske morselskapet og Tiktok er sterkere enn hva Tiktok gir inntrykk av.

Man kan lure på hvorfor denne opplysningen er sladdet, for sjefen i Tiktok bekreftet i den amerikanske høringen i mars 2023 at de to selskapene snakker sammen med meldingssystemet Lark.

Privat-funksjonen brukes til overgrepsfilmer

Tiktok har en funksjon der brukeren kan lagre videoer som ikke skal vises for andre, denne funksjonen kalles “Your Private Videos.” Funksjonen brukes også til å lagre overgrepsvidoer, samt spre slikt materiale, hevdes det i søksmålet. Man kan dele innholdet ganske enkelt ved å dele passordet. (Eller å bestemme hvem som skal være «viewers» eller «owners».)

Søksmålet sier at det finnes kontoer som er fulle av overgerpsmateriale og barnemishandling og at Tiktoks kunstige intelligens ikke makter å fange det opp.

Tiktoks algoritmer øker til og med spredningen av slike private overgrepskontoer, hevdes det:

«Even more alarming, TikTok’s algorithm actually amplifies CSAM to predators using the Post-in-Private feature. Within days of following a small number of “Post-in-Private” accounts, TikTok’s algorithm begins recommending dozens of other “Post-in-Private” accounts to follow, making it easy for predators to view and share even more CSAM.»

Les om CSAM-bilder her og her.

Tiktok kunne lett ha stanset denne formen for deling av overgrepsmateriale ved å kreve to trinns innlogging der SMS er en del av innloggingen, hevdes det i søksmålet.

Søksmål er kun den ene siden av en sak

Det er viktig å huske at vi her kun hører argumentene fra den ene siden. Tiktok har så langt kommet med få uttalelser. Noen av påstandene i søksmålet kan ligge flere år tilbake i tid, og det kan hende at Tiktok har innført tiltak for å gjøre appen tryggere etter det.

Barnevakten skrev i 2021 at Tiktok hevder å slette 90.000 videoer hver eneste dag, det er videoer som bryter med retningslinjene til Tiktok.

I en rapport fra 2024 hevder Tiktok at selskapet hele tiden forbedrer de automatiske systemene som skal oppdage upassende innslag og fjerne disse før noen ser dem;

«As a result, automated technology now removes 80% of violative videos, up from 62% a year ago. At the same time, our proactive detection rate has continued to improve; this quarter saw our highest result so far at 98.2% of videos removed before a user report.»

98 prosent høres imponerende ut, men tallet gjelder sannsynligvis kun innslag som folk rapporterer. Altså: Av de videoene som folk rapporterer inn, så har kunstig intelligens allerede oppdaget 98.2 prosent av dem. Men det er ganske sikkert mange innslag som aldri blir rapportert inn, og som er like upassende eller skadelige som de som blir rapportert inn.

Da er det kanskje tallet 80 prosent som man kan se på. Her må vi anta at Tiktok har gjort manuelle kontroller over hvilke upassende innslag som den kunstige intelligensen ikke får med seg. Dersom man tar det tallet for god fisk, er det altså to av ti upassende innslag som slipper gjennom, det kan bety at ganske mange upassende innslag vises hver dag. Hvor mange innslag er dette og hvor mange personer ser slike upassende innslag? Det vil vi kanskje få vite gjennom rettssakene.

President Biden klargjorde i april 2024 muligheten for et forbud mot Tiktok innen ett år. Tiktok vil antagelig gå til retten dersom appen blir forbudt i USA, så Tiktok vil ganske sikkert fremdeles kunne tilby sine tjenester i en del år til i USA.

Les også

(Hovedbilde øverst: Foto: Shutterstock / Jar Tee)