Avkledningsapper kan brukes til mobbing og utpressing

Det er ikke bare den kontroversielle KI-en Grok fra Elon Musk som røsker de digitale klærne av folk uten samtykke. Det var minst 100 nudify-apper i nettbutikkene Google Play og App Store (Apple) da Tech Transparency Project (TTP) undersøkte dette.

Appene er blitt nedlastet over 700 millioner ganger. Apputviklerne har allerede tjent en millard kroner på dette, det betyr at også Apple og Google har tjent mye med sine provisjoner fra salget.

Etter at TTP avslørte omfanget av nakenapper, har Google og Apple fjernet omkring 40 av dem.

Flere land forbereder forbud mot avkledningsapper. Også EU arbeider med tiltak. Storbritannia har åpnet sak mot KI-en Grok på X. USA vedtok Take it down act i 2025, loven trer i kraft 19. mai 2026. I Frankrike fikk man i 2024 lovparagraf 226-8-1 som sier at det er forbudt å dele seksuelle montasjer av stemme og bilde uten samtykke, dette gjelder også materiale som er behandlet med algoritmer. Strafferammen er fengsel i tre år og bøter på opptil 75.000 euro.

Er avkledningsapper ulovlig i Norge?

Norsk lov krever samtykke ved deling av bilder. Man kan få to års fengselsstraff ved  å dele nakenbilder eller andre krenkende bilder, uten samtykke. Disse reglene tar utgangspunkt i delingen, ikke produksjonen.

Paragraf 267 a i straffeloven sier at det er forbudt å spre krenkende materiale av andre personer, loven nevner i den sammenheng intime kroppsdeler. Lovteksten tar med kroppsdeler kun som et eksempel, det er ordet krenkende som er det innledende poenget. Mobbere kan altså få straff selv om de ikke deler personens faktiske intime kroppsdeler, så langt Barnevakten tolker lovteksten.

Her er lovteksten:

«§ 267 a. Deling av krenkende bilder mv. Med bot eller fengsel inntil 1 år straffes den som uberettiget gjør tilgjengelig for en annen bilde, film eller lydopptak av krenkende eller åpenbart privat karakter, for eksempel av noens seksualliv eller intime kroppsdeler, noen som utsettes for vold eller andre ydmykelser, eller noen som befinner seg i en svært sårbar eller utsatt situasjon. Grovt uaktsom overtredelse straffes med bot eller fengsel inntil 6 måneder.»

I 2024 skrev Stortingets utredningsseksjon at EUs KI-forordning inneholder regler som spesifikt adresserer deepfakes. Dersom Norge innlemmer forordningen i norsk lov, vil temaet bli tydelig berørt.

Utredningsseksjonen skriver at der et deepfake-bilde har til hensikt å avbilde en konkret person, vil bildet kunne anses som en personopplysning, og at dermed er aktiviteten forbudt under GDPR-reglene som er innlemmet i norsk lov. Seksjonen skriver også at GDPR ikke gjelder for familiemessige relasjoner. Barnevakten ser her et lovhull der søsken kan mobbe hverandre med falske nakenfilmer.

I samme utredning fortelles det at vi har et ulovfestet vern av vår personlighet. På side 15 står blant annet:

«Saken dreide seg om en fotobutikk som hadde laget en radioreklame hvor stemmen til en
kjent filmjournalist var etterlignet. Dette fant retten at var i strid med det ulovfestede
personlighetsvernet. «

Når det gjelder 267 a sier utredningen:

«Etter ordlyden er det straffbart å dele bilder, filmer og lydopptak som er av krenkende eller åpenbart privat karakter. Bestemmelsen rammer imidlertid ikke fremstilling av slikt materiale.
Det ikke krav om at bildene mv. må deles med allmenheten eller lignende for at handlingen skal
være straffbar; det er tilstrekkelig at materialet er gjort tilgjengelig for én annen (forutsatt at det er «uberettiget»).»

Lovteksten i 267 a sier ikke noe hvordan filmopptakene er produsert, dermed kan teksten også gjelde KI.

I forarbeidene til 267 a står det at krenkende tegninger faller utenfor lovteksten. Men manipulasjoner omfattes av 267 a:

«Straffebudet er avgrenset til å gjelde deling av «bilde, film eller lydopptak». Med «bilde» og
«film» menes fotografiske bilder og filmopptak. Animasjoner, tegninger og lignende vil
dermed falle utenfor. Det må imidlertid ikke være tale om reelle bilder eller opptak.
Manipulasjoner kan derfor også omfattes.»

Så hva ble konklusjonen fra Stortingets utredningsseksjon? Svaret er at den ville ikke konkludere, men skrev:

«Vi tar ikke endelig stilling til hvorvidt straffeloven § 267 a kommer til anvendelse på deepfakes. På grunn av forarbeidenes avgrensning for «fotografisk» materiale, anser vi vurderingen som usikker med hensyn til deepfakes som fullt ut er fremstilt ved digital konstruksjon. Formodentlig må spørsmålet avklares av domstolene og i siste instans Høyesterett.»

Man bør lenge merke til at i konklusjonen brukes uttrykket «fullt ut». Dersom det falske bildet har tatt utgangspunkt i et ekte bilde en person, er ikke det falske bildet «fullt ut» en digital konstruksjon.

Stortinget utredningsseksjon skriver videre at både Politiet og Kripos  har uttrykt at 267 a kan ramme deling av deepfakes. Seksjonen skriver så at dersom 267 a ikke dekker deepfakes, kan man eventuelt støtte seg til 266 (hensynsløs atferd), 267 (krenkelse av privatlivets fred) og 311 (bildekrenkelser av barn). I forarbeidene til 311 brukes også ordene «kunstig fremstilt».

Siden det er en viss usikkerhet omkring 267 a, kan det være en idé å lovfeste en tydeligere tekst som forbyr deling av KI-produsert nakenmateriale av gjenkjennbare personer.

KI-er har trent seg opp på så mange bilder, spesielt når det gjelder kjendiser, at det er lett å produsere et bilde av en person uten ha et nytt bilde av personen tilgjengelig. En eventuell ny lovtekst må ta høyde for hva KI-teknologien kan få til.

Hvordan hindre falske nakenbilder?

Her er noen områder politikere kan se nærmere på:

• Produksjonen (KI-er og nakenapper).
• Delingen (sosiale medier, meldinger og så videre).
• Oppfølging fra myndigheter (politi og tilsynsmyndigheter).
• Bøter, straffer, blokkering.
• Antimobbetiltak i skolene.
• Samarbeid med andre land.

Naken-KI-er og nakenapper finnes gratis eller mot betaling på nettet. Normalt må disse appene være koblet til internett for å ha hjernekraft nok til å lage nakenbilder. Appene må altså, når de er lastet ned til en telefon, sende en forespørsel hjem til «KI-moderskipet» ute på nettet, som så utfører oppgaven og sender en bildefil tilbake.

Men KI-utviklingen går raskt, det finnes allerede KI-er som kan lage bilder uten å måtte oppsøke moder-KI-en for hjelp.

Dette er problemstillinger som politikere må tenke på når regler og tiltak skal utformes. Det er neppe nok å kreve at de store sosiale mediene skal overvåke sine brukere for å fjerne falske nakenbilder i etterkant.

Man kan i teorien lovregulere:

• KI-ene og nakenappene (selskapene)
• folks produksjon (personene)
• sosiale medier og meldingstjenester (selskapene)
• folks deling (personene)

Blokkere tilgangen for norske brukere?

Enda en mulighet er blokkering av nettsteder som tilbyr naken-KI-er. For eksempel Telenor blokkerer millioner av nettsider som mistenkes for å drive med svindel og virusangrep. Politiet har tidligere bedt skolene blokkere bestemte nettsteder. Det finnes to Kripos-filter som kan benyttes for blokkere nettsteder lokalt, for eksempel på skoler.

Det er forskjell på å stenge et nettsted og det å blokkere nettstedet. Å stenge et nettsted betyr at myndighetene tar kontroll over domenet og tilgangen til webhotellet der filene ligger. Å blokkere betyr å hindre at et utvalg personer (maskiner) får tilgang til nettstedet som fremdeles finnes der ute.

• Blokkere selv: Man kan ha et personlig filter som blokkerer på sin egen maskin.
• Blokkere på skole: Man kan ha et skolefilter som blokkerer på skolemaskinene.
• Blokkere nasjonalt: Man kan ha et filter som hindrer alle nordmenn tilgang til nettstedet. For eksempel er mange utenlandske lotterisider blokkert av norske  lotterimyndigheter.

Å blokkere en utenlandsk tjeneste hindrer kun nordmenn tilgang, men det kan redusere omfanget av norske ofre for nakenvideoer. For hvis noen ønsker å mobbe, så er det gjerne noen man kjenner. Og man kjenner som regel flest fra sitt eget land. Samtidig blir man ikke helt kvitt problemet, for mobbere kan med innsats makte å komme seg rundt slike blokkeringer. Men blokkeringer vil forhindre en del.

Å blokkere en app er vanskeligere, men det finnes foreldreinnstillinger som kan blokkere. Det gjør det vanskeligere for barnet å få tak i en naken-KI. Men fremdeles kan barnet få tilsendt nakenvideoer fra andre. Norske myndigheter kan også henvende seg til Google og Apple og be selskapene hindre nordmenns tilgang til naken-KI-er som ligger i appbutikkene. Da er det Google og Apple som blokkerer selv.

Utpressing

Når det er mulig å lage falske nakenfilmer av gjenkjennbare personer, vil det også oppstå utpressinger av typen: «Alle dine venner kommer til å se dette nakenbildet med mindre du betaler». Politiet oppfordrer til å ikke betale, for det resulterer bare i nye krav.

(Hovedbilde øverst: Shutterstock / New Africa.)