Tenåringsjenter liker KI-svar om helse bedre enn svar fra helsepersonell

Hvordan forholder ungdom seg til helseråd gitt av enten KI helsepersonell? Dette ville forskere finne ut av. De lot 123 ungdommer (16-20 år) og 31 helsepersonell lese svar på spørsmål om ungdoms psykiske helse.

Svarene som helsepersonell ga, ble hentet fra ung.no. Svarene fra KI ble hentet fra ChatGPT. Deltakerne fikk ikke vite om svarene var levert av KI eller av helsepersonell. De vurderte så svarene for blant annet klarhet og nytteverdi.

Overvekt av tenåringsjenter

Det var stort sett unge kvinner som var rekruttert til undersøkelsen, med 98 kvinner og kun 17 menn, pluss 8 uspesifiserte eller ikke-binære. Dette står i en parentes, men burde ha vært fremhevet, for undersøkelsen kunne like gjerne hatt overskriften «Hva mener unge kvinner om helsesvar».

Helsesvarene ble altså hentet fra hva pedagoger, psykologer og sosialarbeidere har skrevet på ung.no. Disse fagpersonene besto av 27 kvinner, 2 menn og 2 som ikke oppga kjønn. Også i denne gruppen var det altså i hovedsak kvinner.

Medianalderen på deltakerne var 17 år. Disse unge kvinnene vurderte KI-svarene som noe bedre innen relevans og nytteverdi. Helsepersonell syntes at KI-svarene var for detaljerte eller manglet empati.

Undersøkelen ble gjennomført i 2023

KI-svarene ble generert i mai 2023, med norsk språk. KI-ene har utviklet seg etter det og man ville kanskje fått andre svar og en annen bedømming i dag. Det kan også hende at helsepersonell i dag hyppigere benytter KI som støtte når de gir sine svar.

En av respondentene satte for eksempel pris på at besvarelsen var satt opp punktvis slik at det er lett å finne frem. Det er noe som helsepersonell lett kan be KI fikse for dem, når de selv har skrevet svaret og ønsker litt hjelp til finpussen.

Datainnsamlingen foregikk i klasserom i skoletiden høsten 2023. Forskerne fjernet ord som kunne avsløre at svaret kom fra en KI eller fra helsepersonell, slik som «jeg er en AI og…» eller «takk for at du kontaktet ung.no».

Undersøkelsen viser altså at unge kvinner er mer fornøyde med KI-svarene enn hva kvinnelig helsepersonell er med KI. Men svarene fra de unge kvinnene er subjektive opplevelser og betyr ikke nødvendigvis at svarene fra KI er faglig gode eller faktisk fører til bedre mental helse. Forskerne minner om at KI kan hallusinere frem feil fakta.

Forskerne foreslår hybridløsning

Forskerne skriver:

«Funnene tyder på at unge oppfatter ChatGPT annerledes enn helsepersonell, og verdsetter ChatGPTs evne til å gi klare, relevante og validerende svar. Disse egenskapene gjør at ChatGPTs svar føles rikere for unge, selv innenfor rammene av et tekstbasert medium. Helsepersonell ser imidlertid ut til å være mer kritiske til ChatGPTs svar, sannsynligvis på grunn av et misforhold mellom svarene og opplæringen deres, samt retningslinjene de er forpliktet til å følge på rådgivningsplattformen.» (Avsnittet er KI-oversatt av Barnevakten fra engelsk.)

Forskerne foreslår at fremtidens digitale helsetjenester bør basere seg på en hybridmodell hvor både KI og helsepersonell er med i løsningen:

«En hybridmodell som kombinerer LLMs skala og effektivitet med klarhet og helsepersonells dømmekraft og ekspertise kan forbedre rådgivningstjenestene for ungdom. Fremtidig forskning bør fokusere på den langsiktige effekten av disse integrasjonene, spesielt med tanke på brukertillit, tjenesteeffektivitet og de etiske implikasjonene av å distribuere AI i sensitive rådgivningssammenhenger.»

Studien er gjennomført av forskere fra SINTEF og Universitetet i Oslo (Skjuve, Følstad og Brandtzæg).

(Foto: Shutterstock / Halfpoint.)

Les også

• Meta etterforskes for KI som kan ha gitt helseråd til barn uten autorisasjon (2025)
• Advarer mot My AI og sosiale medier som kilde til psykiske helseråd (2023)
• Barnevakten advarer mot KI-venner
• Barnevaktens startside om KI
• Ny Minecraft-server løfter barn og unges psykiske helse (2024)
• Undersøkelser og forskning