Ny lov i California skal beskytte barn mot KI-venner

Den nye KI-loven i California kalles LEAD. Den starter med å si at KI-venner allerede har skapt skade på barn, med grooming, seksuelt materiale, selvskading, avhengighet, alkohol og selvmord. Lovens innledning sier også at sikkerhetskodene som utviklerne har lagt inn, virker dårligere når samtalene er lange eller når brukerens stress og skadelige tanker kommer til uttrykk mer indirekte i samtalene.

Loven sier at å gi barn tilgang til KI-venner uten tilstrekkelig programkoding for trygghet, er et hodeløst sosialt eksperiment med sårbare brukere. LEAD-loven ble vedtatt i delstaten med 31 mot 6 stemmer i senatet og 60 mot 8 i representantenes hus.

Noen punkter i loven:

• Barn defineres som personer under 18 år.
• KI-selskapet må med rimelig sikkerhet vite om brukeren er et barn eller ikke.
• Loven gjelder ikke KI-er som svarer på kundespørsmål i butikker og lignende. Den gjelder for KI-er som er sosiale.
• Det er ikke lov å gjøre en KI-venn tilgjengelig for barn, med mindre den er helt trygg mot selvskading, bruk av rusmidler, spiseforstyrrelser og så videre.
• KI-er skal ikke tilby terapi til barn uten direkte tilsyn fra kvalifisert fagperson.
• KI-er skal ikke fraråde barn å søke hjelp hos passende voksne eller fagpersoner.
• KI-er skal ikke oppmuntre barn til ulovlige handlinger eller vise dem overgrepsmateriale.
• KI-er skal ikke prioritere følelsesmessig dialog foran fakta og barnets sikkerhet.
• Hvert enkelt brudd på loven kan utløse opp til 25.000 dollar i bot.
• Foreldre kan kreve erstatning ved KI-skade på barna.

Hvordan finne ut om brukeren er et barn?

Hvordan KI-selskapene med «rimelig sikkerhet» skal vite om brukeren er et barn, sier ikke loven noe om, men typisk finnes disse to hovedmetodene: Enten alderskontroll før opprettelse av konto eller KI-analyse av brukerens oppførsel etter opprettelse av konto. Dersom rettspraksis senere sier at analyse av oppførsel ikke er sikkert nok, og krever alderskontroll før opprettelse av konto, finnes en rekke løsninger:

• Digital lommebok eller andre apper som allerede har verifisert alderen, kan gi KI-selskapet beskjed om alderen.
• Sanntidsselfie som anslår alder ut fra ansiktet.
• Kopi av pass sendes til tredjepart som har automatiske systemer som sjekker alderen og som sletter kopien straks etterpå.
• Kopi av pass sendes direkte til KI-selskapet.

Det er ulik grad av personvern i disse løsningene. Man bør unngå å sende kopi av pass direkte til selskapene man ønsker å opprette konto i. Les dette før noen i familien skal gjennom en alderskontroll.

Delstatsadvokatene har sendt brev til bigtech

Statsadvokatene i 44 av delstatene i USA har sendt brev til en rekke store selskaper innen KI med krav om selskapene skal beskytte barn:

• Anthropic
• Microsoft
• Apple
• Nomi AI
• Chai AI
• OpenAI
• Character Technologies
• Google
• Replika
• Luka
• Xai
• Meta

Stadsadvokatene ønsker lykke til med KI-satsningen, men krever at den ikke skal gå ut over barns sikkerhet. Advokatene er bekymret over at Meta tillater at deres KI-er flørter med barn. Statsadvokatene forteller i brevet at mange skrev til dem tidligere i år at Metas «kjendis-KI» viser høyt upassende seksuelt innhold til barn.

Statsadvokatene skriver også: «A recent lawsuit against Google alleges a highly-sexualized chatbot steered a teenager toward suicide. Another suit alleges a Character.ai chatbot intimated that a teenager should kill his parents.»

Advokatenes beskjed til bigtech sammenfattes i to sitater:

Don’t hurt kids.

If you knowingly harm kids, you will answer for it.

Hva med Norge?

Barnevakten har tidligere advart mot KI-venner og bedt den norske regjeringen innføre krav om barnefilter på KI-venner. Vi har også tatt opp temaet i EU-parlamentet.

(Hovedbilde øverst: Shutterstock / Brandon Bourdages.)

Les også

• Barnevaktens startside om KI