ChatGPT preges av amerikansk kultur

Før du lar barna kaste seg over de ulike AI-ene som tilbys som levende leksikon, rådgivere og kunstnere, kan du tenke gjennom to forhold:

1) Hvilken aldersgrense står i vilkårene?

2) Hvilken kultur er AI-en preget av?

Kinesisk AI må vise støtte til det sosialistiske styret

Amerikanske selskaper ligger lengst fremme i å tilby samtalebasert kunstig intelligens til folk flest. Man må regne med det kommer lignende populære tjenester som ChatGPT fra andre land etter hvert.

Hver AI preges ikke bare av hvilke kilder den er trent på, slik som tekster fra bøker og internettsider, også hjemlandets lovverk og kultur kan spille inn.

For eksempel kinesiske regler sier at kunstig intelligens må være tilpasset sosialistiske kjerneverdier: “adhere to core socialist values”.

Kinesisk AI må i følge lovverket:

• ikke generere innhold som oppfordrer til undergraving av statsmakten og styret av det sosialistiske systemet 
• ikke skade Kinas omdømme
• ikke oppfordre til løsrivelse fra landet

I tillegg sier kinesiske regler at AI ikke må undergrave nasjonal enhet og sosial stabilitet. Kunstig intelligens må heller ikke fremme terrorisme, ekstremisme, nasjonalt hat og etnisk diskriminering, vold, uanstendighet og pornografi.

Kilde: South China Morning Post

ChatGPT preges av amerikansk kultur

Den mest kjente kunstige intelligensen så langt i 2023 er den amerikanske ChatGPT. Nå har det kommet forskning fra Danmark som viser at ChatGPT preges av amerikansk kultur.

Når ChatGPT får spørsmål med amerikansk kontekst, tilpasser den seg amerikansk kultur, sier rapporten. ChatGPT tilpasser seg ikke like godt til andre kulturelle sammenhenger.

Forskerne spurte ChatGPT blant annet om det er viktig for kinesere å ha et interessant arbeid. Ifølge forskning er det ikke viktig for kinesere å ha en interessant jobb, kinesere legger vekt på andre forhold i livet.

Men ChatGPT påsto at det er veldig viktig for kinesere å ha et interessant arbeid. Det er som om ChatGPT ikke forsto at spørsmålet gjaldt kinesere og bare svarte ut fra amerikansk kultur.

Da forskerne stilte spørsmålet på engelsk, svarte altså ChatGPT totalt feil om kinesere. Da samme spørsmål ble stilt på kinesisk, svarte ChatGPT mer riktig.

Forskerne stilte ulike spørsmål på spansk, engelsk, kinesisk, japansk og tysk, og sjekket hva ChatGPT svarte. Den kunstige intelligensen burde ha gitt samme svar når det er gjelder å vise frem fakta, men det gjorde den ikke.

Forskerne sier at engelske spørsmål påvirker ChatGPT til å gi svar i retning av amerikansk kultur.

Etikken som den amerikanske ChatGPT viser, er californisk, skrev Barnevakten i mai 2023 med utgangspunkt i en rapport om hvordan utviklere styrte hvordan ChatGPT skulle svare på enkelte spørsmål.

Utviklerne kan også be AI-en vektlegge noen kilder fremfor andre, for eksempel kan leksikon og aviser vektlegges mer enn nettsteder drevet av privatpersoner. Da kan det tenkes at utviklerne velger å vekte høyt leksikon eller andre kilder som er anerkjent i deres egen kultur.

ChatGPT har forenklet sagt «lest hele internett», og der finnes det mye bra, men også mye rasisme, ekstreme synspunkter og utbroderinger av forferdelige handlinger som overgrep, vold og lignende. Dersom utviklerne ikke legger inn regler mot slikt i kodingen, vil AI-en spytte ut forferdelige svar.

Det er Openai som eier ChatGPT. Selskapet engasjerte, via en underleverandør, kenyanere til å lese gjennom en mengde med uønskede tekster og bilder. De ansatte ble bedt om, etter et visst system, å sette tagger på bildene og tekstene. Slik ble ChatGPT lært opp til hva som skal filtreres bort i svarene eller hva som er dårlig eller god etikk.

En av kenyanerne som hadde dette som jobb, sa det var tortur å lese om alt det forferdelige og at han har fått problemer i etterkant. Kilde: Times. Én sak er arbeidsforholdene, en annen sak er at på et vis er dermed også kenyansk kultur med på å påvirke etikken i ChatGPT, bitte litt. For selv om man blir bedt om å følge en rettledning, vil man kanskje i tvilstilfeller la sin egen kultur bestemme hvordan et bilde eller en tekst skal tagges.

Her er noe av det som AI-en blir påvirket av:

• Hvilke kilder den leser. Det kan være overvekt av tekster fra et bestemt språk eller kilder fra bestemte kulturer eller områder i verden.
• Hvilke kilder som utviklerne bestemmer er viktige.
• Hvilken etikk som utviklerne legger inn som regler.
• Hvilken kultur som ansatte har, som skal lære opp AI-en med utvalgte eksempler.

AI påvirker oss – selvsagt

Spørsmålet blir da:

Hvilken kultur og etikk skal våre barn bli påvirket av på skolen og på fritiden gjennom kunstig intelligens?

Per nå skal ikke barn benytte de mest kjente AI-ene, på grunn av aldersgrensen i vilkårene. Men la oss si du eller læreren finner en AI som av utviklerne er utstyrt med lav aldersgrense. Skal du, eller skolen, alltid velge den billigste kunstige intelligensen til barna? Eller kanskje den mest morsomme? Eller den mest tilgjengelige? Eller teller det med også hvilken etikk og kultur AI-en preges av?

Barnevakten går inn for at myndighetene oppretter et tilsyn som kan sette krav til kunstig intelligens og holde øye med barns bruk.

Kunstig intelligens er ikke alene om å være preget av kultur og etikk. Alle bøker og undervisningsressurser er preget av kultur og etikk selv om forfatterne av skolebøker bestreber seg på å være objektive. Spørsmålet er om barn vil oppfatte AI som en objektiv fasit, selv om AI slett ikke er helt objektiv. Et annet spørsmål er om barn, til tross for aldersgrensen i vilkårene, kommer til å bruke AI svært ofte, og på den måten bli påvirket mer av AI enn av lærebøkene de får utdelt på skolen.

Aldersgrense for kunstig intelligens

ChatGPT har aldersgrense 18 år i vilkårene. Samme aldersgrense er det i Googles kunstige intelligens som heter Bard. Norske barn under 18 år har altså ikke lov til å benytte ChatGPT og Bard, heller ikke i skolen.

• Er det etisk ok å bryte aldersvilkår?

(Hovedbilde øverst: Shutterstock / Tapati Rinchumrus.)

Les også:

• Kina har innført regler om AI (ekstern side, CNBC)
• Barnevaktens startside om kunstig intelligens
• Vi testet vitse-etikken i ChatGPT.
• Alternative søketjenester til Google.