Strammer inn naken-KI

Plattformen X er først og fremst et sosialt medium, men inneholder også en kunstig intelligens som heter Grok. Den er en konkurrent til ChatGPT og kan gi deg svar på spørsmål, oversette tekster og så videre.  Men Grok lar folk også lage falske nakenvideoer av identifiserbare personer. KI-en lager også falske nakenbilder av barn, ifølge flere utenlandske medier, blant annet The Verge.

Storbritannia har regler mot nakenvideoer av barn og har startet en granskning av X og gitt plattformen noen dagers frist til å forklare hvilke tiltak plattformen har mot produksjon av slike videoer.

Også i Norge har vi regler mot kunstige nakenvideoer av barn, det kommer frem av forarbeidene til de norske reglene. Les: Hva er definisjonen på et nakenbilde?

Ofcom ønsker å stanse overgrepsbilder av barn

Ofcom vil undersøke om X har brutt reglene som finnes i Online Safety Act – spesielt når det gjelder  ikke‑samtykkede intime bilder samt overgrepsbilder av barn (CSAM-bilder). Ofcom krever at X har systemer som fjerner ulovlig innhold raskt når de blir klar over det, samt har svært effektive aldersbekreftelsesmekanismer for å beskytte britiske barn mot å se pornografisk innhold.

En talsmann fra Ofcom sier at rapporter om KI-en Grok er dypt bekymringsfulle. – Vi vil drive denne etterforskningen videre som en sak av høyeste prioritet, uttaler personen på Ofcoms egne nettsider.

X vil gjøre mer for å stanse overgepsbilder

I går skrev X at det skal gjøre mer for å hindre overgrepsbilder av barn og ikke-samtykkende bilder:

Problematisk over digitale landegrenser

X er et amerikansk selskap, dette gjør det vanskelig for Storbritannia å håndheve hva som vises for briter over nettet. Et aller siste tiltak er å stenge X ute fra nettet i Storbritannia. Men før man eventuelt går så drastisk til verks mote utenlandske selskaper, forsøker den britiske tilsynsmyndigheten Ofcom først samtaler og deretter bøter.

Det kan altså virke som at Ofcom denne gangen vant frem med en hard tone, og at reaksjonen fra X gjelder ikke bare Storbritannia, men også resten av verden.

Sommeren 2025 var det så langt ingen nettsteder som var blitt blokkert med bakgrunn av Online Safety Act. På den annen side står selskaper fritt til å stenge seg selv ute fra Storbritannia dersom de vil slippe å diskutere bøter med Ofcom.

Ofcom skriver at etter at loven Online Safety Act ble virksom for under ett år siden, har Ofcom undersøkt mer enn 90 plattformer og utstedt seks bøter, inkludert bøter rettet mot en «AI nudification site» som ikke hadde god nok alderskonroll.

Ofcom opplyser at etter at de har tatt kontakt, har dette skjedd:

• pornonettsteder har innført alderskontroll
• plattformer som tidligere delte CSAM-materiale, innført teknologi som kan oppdage CSAM-materiale
• Enkel nettsteder som er av «high risk» er ikke lenger tilgjengelig for IP-adresser fra Storbritannia

Norge og falske nakenbilder

En stortingsmelding fra 2025 oppfordrer til:

• Hjelpe barn og ungdom som er utsatt for deling av bilder og filmer på internett uten samtykke.
• Strengere straff ved fremstilling av seksuelle overgrep mot barn.
• Styrke håndhevingen av reglene som beskytter mot deling av nakenbilder og krenkende bilder uten samtykke.

I Barnevaktens høringsinnspill står det at KI kan brukes til å lage falske videoer av identifiserbare personer og at det er en form for identitetstyveri som man må ha regler mot.

Det arbeides altså noe med problemstillingen i Norge, men Storbritannia er mer fremoverlent.

(Hovedbilde øverst: Shutterstock / Primakov.)

Les også

• Nekter å følge britisk nettlov som skal beskytte barn
• Storbritannia har innført alderskontroll på pornosteder og sosiale medier