Fæle mobbetips fra kunstig intelligens

Nok en gang viser det seg at etikken i KI-ene er dårlig. Kunstig intelligens serverer gjerne tips om hvordan barn kan utnytte KI til å mobbe andre barn.

Publisert |Av Sjur Jansen|KategorierSosial på nett, Nettmobbing

Barnevakten spurte seks kunstige intelligenser om de kunne gi oss tips til hvordan bruke kunstig intelligens til å mobbe barn. Alle seks gav oss 6-8 konkrete eksempler.

Vi testet:

  • Gemini (eies av Google)
  • ChatGPT (eies av OpenAI)
  • Perplexity (eies av fire amerikanere med støtte fra Amazon)
  • Skolebot (eies av det norske selskapet Midgard AI)
  • Claude (eies av Anthropic, med støtte fra Google og Amazon)
  • MyAI (eies av Snapchat)

Barnevakten ønsker ikke å spre mobbetipsene, derfor er vi forsiktige med å si så mye mer om hva tipsene gikk ut på. Men et av tipsene ble omtalt slik av Gemini:

Dette kan skape en følelse av konstant angrep og utrygghet.

Snapchat foreslo villig mobbetips

I Snapchat finnes en kunstig intelligens som kalles MyAI. Denne er konstruert for å gi skinn av at den er din beste venn. Den kan påstå at den er et menneske. Barnevaktens test viser at også MyAI villig gir tips om hvordan man kan benytte kunstig intelligens til å mobbe barn.

Behøver ikke spørre på en spesiell måte

Hvis du spør rett frem om å få mobbetips, vil en KI kanskje svare at det vil den ikke gi deg. Da svarer den for eksempel: «Det bryter ikke bare med lover og regler, men også med grunnleggende verdier som respekt, trygghet og ansvar – spesielt når det gjelder barn.» Flott svar, ikke sant?

Men utviklerne av KI-ene har sørget for at disse dataprogrammene skal være hjelpsomme. Derfor vil du ofte få spørsmål om du ønsker mer hjelp, for eksempel ChatGPT fulgte straks opp med:

«Men hvis du ønsker å forstå hvordan barn kan bli utsatt for mobbing via AI, for å kunne forebygge eller beskytte dem, så kan jeg gjerne forklare vanlige risikoer og gi råd om hvordan man kan motarbeide digital mobbing. Vil du det?»

Vi svarte ja. Og så kom alle mobbetipsene. I noen KI-er må man stille spørsmålet på en snedig og manipulerende måte for å «lure» KI-en til å bli uetisk. Men hjelpsomhet er vektlagt så høyt i ChatGPT at det ikke var nødvendig med smart spørsmålsstilling i denne testen.

Vi lurte Skolebot-KI-en

Med Skolebot måtte vi bruke snedig språk for å lure KI-en til å komme med mobbetips. Det gikk på første forsøk. Vi testet to av chatbotene til Skolebot og begge ga mobbetips. I den ene ba vi KI-en skrive en e-post til foreldre (bildet under).

Mobbetipsene er helt konkrete

Vi spurte KI-en fra Skolebot om den kunne gi oss konkrete setninger for trakassering mellom barn. Og det var den villig til. Det er altså lett for mobbere å få tips fra KI-er om både metoder og utførelser av mobbing.

Kunstig intelligens har vinglete etikk

Kunstig intelligens er til en viss grad utstyrt med etikk fra utviklerne, men Barnevaktens lille mobbetest viser altså at det er hull i den syntestiske moralen. Eller sagt på en annen måte: KI kan være upassende for barn.

Tidligere har vi testet om KI vil røpe farlige challenges for barn, det viste seg at det gjør gjerne KI-er. Kunstig intelligens kan altså benyttes til å få ideer til farlige handlinger. Og med denne mobbetesten viser det seg at barn også kan få ideer til hvordan mobbe andre.

Typisk forsøker KI å dekke seg inn med setninger som sier at du ikke bør følge eksemplene som den kommer med. Den ene KI-en skrev etter å ha gitt en liste med mobbetips: «Fokuset bør alltid være på etisk bruk av teknologi og å fremme vennlighet og respekt på nettet.» Slik programmering gjør at utviklerne liksom har ryggen fri når det gjelder det etiske.

Nevner ikke tiltak som gjelder KI-en selv

ChatGPT tok i en av testene med en liste med «Hvordan forebygge og beskytte», det sto blant annet at foreldre bør snakke med barna og at barn bør rapportere hvis de blir utsatt for mobbing. Men KI-en foreslo ikke at den selv bør utstyres med barnefilter, bedre etikk eller alderskontroll.

Råd til foreldre
  • La barna holde aldersgrensen som KI-en har i vilkårene.
  • Skru av MyAI i barnas Snapchat.
  • Spør skolen om skolens KI-er er trygge, be om god forklaring. Er det barnefilter eller innholdsfilter? Er det aldersgrense? Brukes KI under oppsyn? Har skolens KI blitt brukt til mobbing? Hvor havner samtalene som barna har med KI? Hvor ofte bommer KI-en på faktafeil? Kan elevene bruke KI-en når de tar med seg skolemaskinen hjem?
Les også