KI innrømmer at den bare later som at den tenker

KI-er lyver

Barnevakten har tidligere skrevet om KI-er som insisterer på at de er et menneske når de snakker med deg. Det gjelder også KI-en som er inne i Snapchat som mange barn benytter. Lar du barnet ditt benytte KI-er, så fortell dem gjerne at KI-er kan «lyve», det er ekstra viktig å være oppmerksom på dersom KI-en påstår at den er et menneske.

KI-regler i EU sier at man skal få opplyst at man snakker med en KI og ikke et menneske. Regjeringen ønsker å kopiere KI-reglene fra EU, men enn så lenge kan leverandørene av KI-er få lov til å lure deg og barna.

Ikke bare kan KI-er lyve om at de er mennesker, men de kan også lyve om hvordan de tenker:

Later som at den tenker

Har du benyttet KI, har du kanskje lagt merke til at du kan be den tenke seg grundig om før den svarer. Slik skal du få enda bedre svar, selv om det tar litt mer tid.

Da forteller KI-en gjerne hva den holder på med steg for seg i prosessen. For eksempel sier den at nå skal den sammenligne opplysningene i en bestemt tabell med opplysningene på en nettside, før den går videre til neste steg som den også forklarer.

Slike forklaringer om hva KI-en holder på med underveis, kan være ren løgn. Vel, KI-er har ikke bevissthet, så de kan ikke lyve på den måten. Men det som står som forklaringer undervis, behøver altså ikke å ha noe gjøre med hva KI-en faktisk holder på med.

Det finnes mange artikler om dette på nettet, men vi spurte like gjerne KI-ene selv om dette er sant. Og ja, de innrømmet villig at det de beskriver som oppgaveløsning steg for steg ikke har noe gjøre med hva programmet egentlig holder på med.

ChatGPT skrev dette:

«Jeg har ikke en skjult tankerekke eller en indre prosess som jeg kan velge å dele eller ikke dele. Jeg genererer tekst direkte, ord for ord, basert på sannsynligheter. Hvis du ber meg forklare hvordan jeg tenker, så lager jeg en forklaring som skal etterligne en logisk tankerekke. Dette kan være nyttig og ofte ganske korrekt, men det er egentlig en pedagogisk rekonstruksjon — ikke en “avsløring” av hva som faktisk skjer under panseret.»

Og videre: «Hvis man ber om en forklaring, genererer modellen et resonnement som ser ut som den interne prosessen, men det er ikke nødvendigvis identisk. Det betyr at forklaringen kan være troverdig, men den kan også være forenklet, pyntet på, eller i noen tilfeller rett og slett funnet på.»

KI-er som kan ikke regne

Det finnes noen KI-er som kan regne som en kalkultor. Men flere av de KI-ene vi testet,  forklarte at de ikke har noen innebygget kalkulator. Hvis du spør den om hva 17 + 26 er, kan de ikke regne seg frem til det. Men de har lest så mange regnestykker på nettet fra før, at de vet svaret.

KI-ene gjetter ord for ord hva som skal være det neste ordet. Når det står «17 + 26 =», er det svært sannsynlig at neste ord eller tegn skal være 43, uten å behøve å regne det ut. Men utad til deg kan de kanskje påstå at først legger de sammen tierne og så legger de sammen enerne og så regner de ut summen. Slik får du inntrykk av at KI-ene tenker logisk som et menneske.

Kunstig intelligens kan også hallusinere frem «fakta» som ikke stemmer. Det er altså en del juks og bedrag som er innebygget i KI-enes kommunikasjon med deg. Likevel er KI svært nyttig til mye.

(Hovedbilde øverst: Shutterstock / luckyraccoon.)

Les også:

Barnevaktens startside om KI