Digitaliseringsministeren må svare om nakenapper

–

Mirell Høyer-Berntsen fra SV viser til at en KI på elleve dager produserte tre millioner seksualiserte bilder, hvorav 23.000 gjaldt barn. Hun skriver i sitt spørsmål til digitaliserings- og forvaltningsministeren at norsk lov forbyr enkeltpersoner å dele slikt materiale og at det er en svakhet at det ikke stilles samme krav til KI-selskapene, som jo produserer og deler enormt mye mer.

Digitaliserings- og forvaltningsminister Karianne Oldernes Tung (Ap) har seks virkedager på seg til å svare skriftlig.

Mirell Høyer-Berntsen skriver også: «SV vil derfor i behandlingen av stortingsmeldingen Trygg oppvekst i et digitalt samfunn foreslå et forbud mot at teknologiselskaper genererer eller sprer seksualiserte KI‑bilder av personer.»

Appene er blitt nedlastet over 700 millioner ganger.

Det er ikke bare den kontroversielle KI-en Grok fra Elon Musk som har røske de digitale klærne av folk uten samtykke. Det var minst 100 nudify-apper i nettbutikkene Google Play og App Store (Apple) da Tech Transparency Project (TTP) undersøkte dette. Appene er blitt nedlastet over 700 millioner ganger.

Skoler forteller om problemet

Barnevakten har foredragsholdere ute på skoler over hele landet og kjenner på pulsen hvilke problemstillinger som er aktuelle. På noen skoler viser det seg at elevmaskinene kan brukes til å skape falske filmer av lærere og elever i seksuelle situasjoner.

Global kampanje mot avkledningsteknologi

Det pågår en global kampanje mot teknologi som produserer og deler falske nakenbilder og filmer av folk, over 100 organisasjoner støtter et forbud.

– Vi er med på kampanjen mot avkledningsteknologi fordi påtvunget nakenhet av gjenkjennbare personer er en form for digitalt overgrep. Det er kjent fra undersøkelser at digitale overgrep setter dype spor i mange år, det er derfor opplagt at også at påtvunget digital nakenhet kan være en stor påkjenning i mange år, sier Kjellaug Tonheim Tønnesen som er faglig leder i Barnevakten (bildet over).

Ecpat Sverige har en hotline som barn kan kontakte. Basert på egen statistikk har Ecpat varslet at KI-baserte avkledningsapper er et økende problem i Sverige. Internasjonalt er det kjent at skolebarn kan benytte slike apper for å mobbe eller presse andre i klassen, skriver Ecpat i sin kvartalsrapport.

Det ligger i kortene at falsk digital nakenhet kan benyttes som pressmiddel for å lure barn og unge til å sende ekte nakenbilder, eller trues til å betale penger i frykten for at seksualiserte KI-filmer og bilder av dem skal spres. Les om grooming og nakenpress.

Hva sier norsk lov allerede?

Når det gjelder forbud mot seksualiserte bilder av barn, sier forarbeidene til loven at også animerte eller manipulerte bilder kan være straffbare. Men i 2024 skrev Stortingets utredningsseksjon: «Vi tar ikke endelig stilling til hvorvidt straffeloven § 267 a kommer til anvendelse på deepfakes.»

– I Norge har vi lover mot nakenmateriale av barn, det tolkes også til å gjelde animert nakenhet. Samtidig har det oppstått usikkerhet fra Strtingets utredningsseksjon om loven er tydelig nok til å gjelde avklednings-KI generelt. Problemet er uansett så stort globalt at man bør ta problemet ved roten og forby selve teknologien. Det bør være lett for KI-utviklerne å skrive inn koder som forbyr produksjon av falske nakenfilmer og bilder.  I tillegg bør det være et forbud mot å spre slikt materiale, sier Tonheim Tønnesen.

Straffelovens paragraf 311 sier:

«Fremstilling av seksuelle overgrep mot barn eller fremstilling som seksualiserer barn: Med bot eller fengsel inntil 3 år straffes den som

• a. produserer fremstilling av seksuelle overgrep mot barn eller fremstilling som seksualiserer barn,
• b. utgir, tilbyr, selger, overlater til en annen, gjør tilgjengelig eller på annen måte søker å utbre fremstillinger som nevnt i bokstav a,
• c. anskaffer, innfører eller besitter fremstillinger som nevnt i bokstav a, eller forsettlig skaffer seg tilgang til slikt materiale,
• d. holder offentlig foredrag eller istandbringer offentlig forestilling eller utstilling av fremstillinger som nevnt i bokstav a, eller e. forleder noen under 18 år til å la seg avbilde som ledd i kommersiell fremstilling av rørlige eller urørlige bilder med seksuelt innhold.

Med barn menes i denne paragrafen personer som er eller fremstår som under 18 år.

Den som uaktsomt foretar handling som nevnt i første ledd, straffes med bot eller fengsel inntil 6 måneder. På samme måte straffes den innehaver eller overordnede som forsettlig eller uaktsomt unnlater å hindre at det i en virksomhet blir foretatt handling som nevnt i første ledd.

Straffen kan falle bort for den som tar og besitter et bilde av en person mellom 16 og 18 år, dersom denne har gitt sitt samtykke og de to er omtrent jevnbyrdige i alder og utvikling. Bestemmelsen rammer ikke fremstillinger som må anses forsvarlige ut fra et kunstnerisk, vitenskapelig, informativt eller lignende formål.»

(Hovedbilde øverst: Shutterstock / Ground Picture.)

Les også

• Straff ved bildedeling
• Hva er definisonen på et nakenbilde?
• Barn bruker KI-apper for å skape falske nakenfilmer av andre barn
• Digitale seksuelle overgrep mot barn fører til alvorlige langvarige konsekvenser i voksen alder
• Strammer inn naken-KI
• Ber regjeringen innføre forbud mot avklednings-KI
• Ny rapport: Her deles overgrepsmateriale om barn
• Nettkriminelle bruker kunstig intelligens til å presse unge gutter for penger
• Bildeplattform fikk bot for dårlig bekjempelse av overgrepsmateriale
• Ny lov i USA krever at sosiale medier sletter nakenbilder av barn