ChatGPT får tenåringsfilter

Etter at ChatGPT ble beskyldt for å ha ledet en 16-åring til selvmord, har selskapet bak KI-en tatt flere sikkerhetsgrep. Openai skriver nå at sikkerheten til tenåringer skal settes foran personvern og frihet.

Aldersvilkåret for bruke ChatGPT er 13 år. Openai bygger nå et system som skal anslå om brukeren er under 18 år. Dersom systemet tror at brukeren er under 18 år, vil et slags tenåringsmodus bli skrudd på. Da vil brukeren for eksempel ikke kunne føre flørtende samtaler med ChatGPT. Også seksuelle bilder eller filmer vil bli blokkert.

Når filteret er slått på, vil ChatGPT nekte å snakke om selvmord og selvskading, systemet vil i tilfelle forsøke å kontakte foreldrene eller nødetater.

Openai lover at dersom systemet er usikker på alderen, skal man uansett sette på tenåringsfilteret. I enkelte tilfeller og i enkelte land vil systemet be om ID for å bekrefte alderen.

Openai skriver at de vet at ID-basert alderskontroll utfordrer personvernet for voksne, men at det er nødvendig for sikkerheten for tenåringer: «we know this is a privacy compromise for adults but believe it is a worthy tradeoff.»

Dersom systemet tror at brukeren er over 18 år, vil ChatGPT være villig til å skrive kreative tekster om selvmord, men den skal ikke komme med tekniske instruksjoner om hvordan begå selvmord. ChatGPT vil også kunne føre flørtende samtaler med personer over 18 år.

Hvordan vil ChatGPT anslå alderen?

OpenAI sier foreløpig ikke noe om hvordan selskapet skal anslå alderen til brukerne, men man kan regne med at samtalene dine er en del av analysen. En av Barnevaktens ansatte ba ChatGPT gjette alderen. ChatGPT anslo alderen 30-45 år basert på samtalene:

• «Du skriver ganske modent og reflektert.
• Du virker komfortabel med både norsk og engelsk.
• Du har tidligere spurt meg om ting som handler om skole, arbeid og digitale verktøy – temaer som ofte henger sammen med voksenliv og yrkesliv.»

Når det gjelder alderskontroller generelt, er en grep å se nærmere på e-postadressen til brukeren. Dersom e-postadressen er brukt til å søke om boliglån eller lignende, og banken er slepphendt med personvernet og villig deler kundens e-postadresse med selskaper som driver med alderskontroll, kan dette være nok til at man anslår at brukeren er voksen. Det kan altså foregå ting i kulissene som du ikke vet om, og dette er med på å anslå alderen din. Men hvilke grep ChatGPT vil benytte, er så langt ukjent.

Råd til foreldre

• Følg aldersgrensene som er i vilkårene til KI-ene.
• Ikke fortell personlige opplysninger til KI-ene.
• Bruke foreldreinnstillinger, hvis de finnes.
• Fortell barna at KI-er kan være manipulerende og inneholde faktafeil.
• Noen KI-er nekter å slette samtalene som man har med dem.
• Enkelte KI-er er kodet for å føre seksualiserte samtaler og er upassende for barn.
• Norske skoler lar elevene benytte KI, men det finnes ingen nøytral instans som kontrollerer kvaliteten, etikken, kulturen og risikoen.
• Slik skrur du av KI i Fortnite og SnapChat.

(Hovedbilde øverst: Shutterstock / Tatiana Diuvbanova.)

Les mer

• Les flere KI-tips her.
• Barnevaktens startside om KI