ChatGPT har muligheter, men er ikke alltid til å stole på

«Lag en argumenterende tekst om hvorfor mobilbruk er bra for ungdom». På bare noen sekunder produserer ChatGPT overraskende troverdig tekst basert på informasjon fra internett.

– ChatGPT er en språkmodell som produserer tekst basert på enorme mengder med data. Den kan lage all slags tekst enten det er kreative tekster eller fagartikler. I tillegg oppleves språket som naturlig og velformulert, sier Marte Foldvik-Høgås som jobber i Tenk, skoleavdelingen til Faktisk.no.

Med bakgrunn som lærer og med mastergrad i norskdidaktikk ser Foldvik-Høgås mange muligheter med den nye teknologien.

– Sammenlignet med chatteroboter som mange kundesentre har, og som er veldig begrenset er ChatGPT kreativ og kan gi et svar de fleste spørsmål. Dersom man prøver å bruke den som en søkemotor vil den kunne gi deg ett svar, ikke en liste med kilder du skal gå inn på. Utfordringen er at dette nødvendigvis ikke er sant, forteller Foldvik-Høgås.

Kan lyve til deg

Samtidig er Foldvik-Høgås klar på begrensninger som denne teknologien byr på. Vi har sett flere eksempler på at ChatGPT gir feil informasjon.

Blant annet skrev VG om at Anders Behring Breivik kommet opp som svar på de største heltene i Norge etter andre verdenskrig. Bibliotekarer får opp forespørsler på titler som ikke finnes.

– Det ser også ut til at ChatGPT er ganske kjønnsstereotypisk, der sykepleiere og barnehagelærere blir omtalt som “hun” og leger og professorer blir omtalt som “han”. ChatGPT har også gitt informasjon om oppdiktede hendelser. For eksempler gir den meg mange kilder for hvor jeg kan gå for å få informasjon om heksejakten i Oslo i 2010, forteller Foldvik-Høgås.

ChatGPT er først og fremst trent til å kommunisere, ikke til å informere

Hun fortsetter: ChatGPT er først og fremst trent til å kommunisere, ikke til å informere. Så den har ingen mekanismer for å skille mellom formidling av sann eller usann informasjon, eller hvilken informasjon som er den viktigste. I noen tilfeller ser det ut til at programmet heller vil finne på ting fremfor å ikke gi et svar. I tillegg er det mye vi ikke vet om dette verktøyet.

Det ser også ut til at den som kan mye om et emne, får best utbytte av programmet, forteller Foldvik-Høgås.

– Da kan man stille mer konkrete spørsmål som igjen gir mer nøyaktige svar, og man vil kunne avsløre dersom den sier noe som er feil Ellers bør man tenke over når og hvorfor man skal bruke ChatGPT. Det er viktig å lære om og forholde seg til ny teknologi, men det betyr ikke at man skal slutte å skrive tekster og utvikle basiskunnskaper på egenhånd. ChatGPT kan samtidig være nyttig i noen sammenhenger. For eksempel til å forklare et begrep eller fenomen hvor man kan be programmet om å gjøre dette på flere måter, sier Foldvik-Høgås.

Vanskelig å avsløre juks

Flere skoler forteller om plagiat og juks som følge av at elever bruker ChatGPT til å lage tekster. Vi har sett flere eksempler i media på lærere som har delt ut gode karakterer i den sammenheng, forteller Foldvik-Høgås.

For barn og unges del gjelder de samme prinsippene for kildekritikk på nett

– Det er nesten umulig å avsløre om en tekst er blitt skrevet av ChatGPT. For barn og unges del gjelder de samme prinsippene for kildekritikk på nett. Sjekk om flere kilder har skrevet om det temaet du leser om, og vurder påstandene opp mot det du kan fra før om emnet. Ofte bør man sjekke hvem avsenderen er, samt kildene som oppgis. Men ChatGPT oppgir ingen kilder. Det er derfor ekstra viktig å ettergå påstandene og faktaene som dukker opp i programmet, sier Foldvik-Høgås.

Hun anbefaler derfor ikke ChatGPT som erstatning for et leksikon.

– ChatGPT er basert på data fra internett, og produserer tekst basert på hvilke ord det er sannsynlig at kommer etter hverandre. Hvilken ord den velger er dermed basert på både sann og usann informasjon, og den har ingen mekanismer for å vurdere om dette er sant eller ikke. Programmet mangler også data fra hendelser som har oppstått etter 2021, sier Foldvik-Høgås.

Steng for, eller bruk av ChatGPT i klasserommet?

I utgangspunktet er Foldvik-Høgås positiv til at skolen tar i bruk nye muligheter med teknologi. Blant annet for å kunne bidra til sosial utjevning.

Det er liten tvil om at kunstig intelligens bare vil få en større rolle i fremtiden

– Hvis ikke kan det bli slik at det kun er ressurssterke foreldre som introduserer dette til barna sine, slik at de får et fortrinn. Da er det disse barna som lærer om teknologien og blir kildekritiske, og andre blir hengende etter. Det er liten tvil om at kunstig intelligens bare vil få en større rolle i fremtiden, og da må man også lære seg å forholde seg til den, mener Foldvik-Høgås.

Hun gjør samtidig obs på personvernhensyn for bruk av denne type teknologi.

– Enn så lenge er ChatGPT gratis å bruke. Dette kan blant annet være for å samle inn mye data slik at programmet trenes opp. Å ta en vurdering opp mot personvern er viktig også her, avslutter Foldvik-Høgås.

Barnevakten gjør også obs på at det er 18-årsgrense for bruk av programmet i vilkår. Tenk har også utviklet en kompetansepakke om kunstig intelligens rettet mot skoleledere og lærere.

(Hovedbilde øverst Foto: Shutterstock / Family Stock.)