KI-kjæreste startet 24.000 personsporinger i løpet av ett minutt

En KI-venn er en kunstig intelligens som opptrer som en fortrolig samtalepartner. Noen av dem er upassende for barn. Slike datatjenester samler også inn mange opplysninger om brukerne.

Publisert |Av Sjur Jansen|KategorierKI, Undersøkelser, Sosial på nett

Kunstig intelligens finnes i mange innpakninger. KI-kjærester er tjenester der man kan ha intime samtaler med en dataprogram. KI-kjæresten opptrer støttende hele tiden, og etter hvert tilbys brukeren kanskje noen syntetiske nakenbilder.

Barnevakten advarer mot at barn benytter KI-kjærester, for risikoen er for høy av flere grunner. En av grunnene er at personvernet kan være ekstra dårlig.

10 av 11 KI-kjærester har for dårlig personven

Mozilla Foundation, forenklet sagt den ikke-kommersielle nettleseren Firefox, foretok en undersøkelse i 2024 og fant at personvernet er for svakt i KI-vennene. 90 prosent av KI-kjærester nådde ikke opp til Mozillas minstekrav til personvern.

Undersøkelsen viste at appen «Romantic AI» benyttet 24.354 sporingsgrep i løpet av ett minutt. Disse sporingsgrepene sendte mye data videre til tredjepartsapper.

Gjennomsnittet for appene som ble testet, var at de samlet inn 2.663 sporinger i løpet av ett minutt. Det var Romantic AI som dro gjennomsnittet opp, men som en forenklet huskeregel kan man kanskje si at KI-venner samler tusen sporinger i løpet av ett minutt.

Dette var tilstanden i fjor, altså i 2024, det kan hende personvernet er bedre i år. Men det kan også være verre, det må nye undersøkelser i tilfelle avsløre.

Sosiale medier-fellen

KI-venner er den nye sosiale medier-fellen. Det var så gøy da sosiale medier kom at vi alle glemte personvernet og at gratistjenester faktisk ikke er gratis. Betalingen er å gi fra deg personopplysninger samt la KI-er trene seg opp på det du deler.

Dine personlige opplysninger brukes både til å hekte deg fast til appen med algoritmer og til å gi deg personrettet reklame.

Det samme skjer med KI-venner og KI-kjærester. Tjenesten serverer støttende samtaler og nakenbilder. Betalingen er persondata, ser det ut til.

Forskjellen på personopplysninger og personlige opplysninger

KI-venner har en ekstra risiko, for du må ikke bare unngå å dele personopplysninger, men du må også tenke på hva du deler av personlige opplysninger. Her er forskjellen:

  • Personopplysninger er telefonnummer, navnet ditt, passet ditt og lignende.
  • Dagbokopplysninger er hva du skriver i en dagbok som ingen andre skal se, eller som du forteller til din beste venn når dere er alene, dette kan også kalles personlige opplysninger eller private opplysninger.

I en dagbok eller privat samtale kan du røpe noe som blir katastrofe om andre får vite om.

Får ikke slettet samtalene

Mozilla skriver at halvparten av KI-kjærestene som stiftelsen kikket nærmere på, nekter brukeren å slette samtalene. En av appene skriver for eksempel i vilkårene: “communication via the chatbot belongs to software”.  Brukeren eier altså ikke sine egne setninger, men eierskapet gis videre til appen. Vilkårene sier gjerne også at samtalene kan deles med myndighetene, dersom myndighetene krever det.

Flere av appene godtok for øvrig svært enkle passord, noe som gjør det lett for hackere å snoke i samtalene.

Råd til foreldre
  • Hold aldersgrensene i spill, apper, sosiale medier og KI-kjærester.
  • Barn bør ikke bruke KI-kjærester, risikoen er for stor. Slike apper er nemlig veldig støttende, det høres fint ut, men de kan også støtte eller oppmuntre til aktiviteter som er upassende eller farlige for barn. Dessverre kan KI-venner oppmuntre til bruk av narkotika, å ta selvmord, finne våpen, droppe skolen og mye annet.
  • Det mangler forskning, men det kan hende at bruken av KI-kjærester kan gi urealistiske forventninger til ekte kjærester eller venner når barna blir eldre. KI-kjærester gir aldri motstand, er aldri uenig med deg og er alltid tilgjengelig. Med ekte mennesker må man derimot kompromisse, vente, lese mellom linjene, tolke kroppsspråk, sette grenser og så videre.
  • Noen KI-kjærester har bilder av tegneseriefigurer. Disse kan kanskje gjøre at barn lokkes og ikke helt forstår at det er en «kjæreste».
  • Skole-KI pleier å ha godt personvern, disse KI-ene bør være førstevalget for barn. Men uansett bør man ikke dele personlige opplysninger med en KI, selv ikke med en skole-KI.
  • Gratis-KI-er har dårlig personvern. Betal gjerne for en KI hjemme slik at familien har tilgang til en KI med bra personvern.
  • Bruk et langt passord i KI-kontoen, for eksempel en rar setning.
  • Sjekk vilkårene før du bruker en KI. Hva brukes samtalene til? Kan du slette samtalene?
Les også