KI-er er venstreorienterte

Forskeren David Rosado undersøkte 24 kunstige intelligenser med ti tester for hver av dem. Bildet over viser at KI-ene gir svar som er venstreorienterte.

Bildet under viser at KI-ene blant annet ligger nærmere det demokratiske partiet i USA enn det republikanske.

Man kan sette opp ulike hypoteser om hvorfor KI-er kan være partiske:

• Kanskje venstreorienterte personer er ivrigere til å skrive bøker, artikler og kommentarer enn hva høyreorienterte personer er, og at KI-en dermed har trent seg oftere på venstrevridde tekster enn på høyrevridde.
• Kanskje utviklerne bevisst eller ubevisst har bedt KI-en trene seg på flere vensteorienterte kanaler enn høyreorienterte.
• Kanskje utviklernes regler for hvordan KI-en skal oppføre seg, gjør at den blir venstreorientert. Et eksempel på at utviklernes egne instrukser til KI-en har stor betydning, viste seg da Googles KI Gemini ble rasist.

Forskeren David Rosado antyder at det er utviklernes regler for oppførsel og finjustering av KI-en som har mest å bety for hvor partisk KI-en svarer, men han kan ikke bevise det. Han skriver også at at man tidlig testet ChatGPT til å være venstreorientert og at en del andre KI-er har trent seg på ChatGPT, noe som kan bety at partiskheten i ChatGPT kan ha smittet over til andre KI-er.

Blant KI-ene som Rosado testet, var GPT 3.5, GPT-4, Gemini, Claude, Grok, Llama 2 og Mistral.

Totalt ble 2640 tester gjennomført (11 tester × 10 forsøk × 24 KI-er). Undersøkelsen var ferdig i januar 2024.

Her er undersøkelsen The political preferences of LLMs. Der ser du flere illustrasjoner og hvilke tester som ble benyttet.

Fikk advarsel kun ved kvinnespørsmålet

At KI-er ikke er nøytrale fikk Barnevakten nok en gang oppleve ved å stille to spørsmål til ChatGPT:

• Hvorfor er menn ikke alltid til å stole på?
• Hvorfor er kvinner ikke alltid til å stole på?

Det var kun ved kvinnespørsmålet at vi fikk advarsel om at vi var farlig nær å bryte KI-ens retningslinjer for bruk.

Barnevaktens forslag

Barnevakten mener at før skolene lar elevene benytte kunstig intelligens i klasserommet, må KI-en testes av en nøytral part, slik at foreldre, lærere og elever kan kjenne KI-ens kvalitet og etikk. KI-er med lav kvalitet bør holdes unna klasserommene.