– Kunstig intelligens i Snapchat reiser etiske dilemmaer

Leonora Onarheim Bergsjø forsker på digital etikk. Hun mener at det er en for enkel etikk som er lagt inn i den kunstige samtalepartneren My AI i Snapchat.

Publisert |Av Leif Gunnar Vestbøstad Vik|KategorierSosial på nett, Digital dømmekraft

– Kunstig intelligens rettet mot barn og unge har vi hatt lenge, for eksempel i sortering av informasjon og underholdning på Youtube, Tiktok og Google. Det nye med My AI er at barn og unge får lettere tilgang til en veldig «personlig» versjon som de kan snakke med å få råd av. Det reiser viktige etiske dilemmaer, sier Leonora Onarheim Bergsjø (bildet øverst).

Hun forsker på digital etikk og er førsteamanuensis ved Høgskolen i Østfold, for øvrig er hun styreleder i NORDE – Norsk råd for digital etikk. I tillegg er Bergsjø medforfatter i Barnevaktens fagbok om digital dømmekraft i barnehage og skole.

Tren på kunstig intelligens sammen med barna

– Barn og unge må lære å vurdere chatbot-svar kritisk, slik at de får øvet opp sin digitale dømmekraft. Derfor må voksne være nysgjerrige på barns bruk og “gjøre sammen” med dem. Skal virkelig chatboten få råde barn om gavekjøp, reisemål og kosthold, slik Snapchat selv foreslår i beskrivelsen i My AI? spør Bergsjø.

Kritisk til at kunstig intelligens fremstilles som en venn

Snapchat presenterer My AI som en venn på en vennelisten i appen blant andre ekte venner, dette er Bergsjø særlig kritisk til. Det gjør det vanskelig å skille chatboten fra andre venner i det fysiske, det skaper et tillitsproblem.

Venner skal vi kunne stole på og ha tillit til, det kan vi ikke med My AI. Snapchat sier selv at My AI kan gi råd som er dårlige. Det viser også en rekke undersøkelser om kunstig intelligens, for eksempel:

  • Kunstig intelligens sa til en mann at han burde forlate sin kone fordi hun ikke elsket ham (og at det var den kunstige intelligensen som var den som elsket ham).
  • Kunstig intelligens sa at en professor hadde vunnet en pris, og begrunnet hvorfor, men alt var feil.
  • Kunstig intelligens sa at brukeren hadde foretatt en tidsreise.

Samtidig gis rådene av en som fremstår som en nær venn, en som står øverst på vennelisten. Det kan gjøre noe med vår tillit til teknologi, men også med vår tillit til andre mennesker og råd fra venner.

Hvilken amerikansk etikk er lagt inn?

Bergsjø er også bekymret for hvilke verdivalg My AI vil påvirke. My AI er programmert av noen mennesker som har laget regler for hva som er rette og gale svar, men som ikke kjenner konteksten til den som spør. Dette er et klassisk problem innenfor denne måten å tenke etisk handling på, såkalt pliktetikk. Det gjør at den kan gi svar som treffer dårlig og i verste fall kan være direkte skadelige eller få alvorlige konsekvenser for den enkelte. Hun utdyper:

– Svaret på “hva skal jeg spise til middag” innebærer valg om sunnhet eller usunnhet, og kan være tilpasset kostholdsråd eller slankeråd, alt etter som hva brukeren er interessert i. Det kan hjelpe noen, men trigge andre og i verste fall bidra til et forstyrret forhold til mat. Når jeg leser hvordan de har jobbet for å gjøre chatboten “etisk” ser jeg at de har tatt en rekke verdivalg i spørsmål om hva som er riktig. Det er fint at de har valgt prinsippet om å ikke skade andre, men de har også tatt valg i spørsmål om alt fra abort til samlivsmåter. Disse valgene er i stor grad gjort innenfor en amerikansk kontekst, samtidig som de prøver å balansere verktøyene slik at de passer globalt. Verdivalgene legger føringer for hvilke svar den kunstige intelligensen gir om hvordan vi bør leve livene våre, og derfor blir det viktig hvordan barn og unge bruker My AI, sier Bergsjø.

Blir livet bedre? Eller bare enklere?

Bergsjø mener det er viktig å nærme seg My AI og all teknologi med spørsmålet: “Gjør det livet bedre for meg og mine medmennesker, eller bare enklere, og hva er ulempene for meg og de rundt meg?” Dette er en konsekvensetisk måte å tenke på som kan være fin å supplere pliktetisk tenkning med.

Hva skal barna selv ta ansvar for?

Livene våre leves gjennom alle de små valgene i hverdagen. Det er de som er med å forme oss som individer og medmennesker. Det lett å spørre en kunstig intelligens om hjelp og få enkle råd. Men hva skal barna ta ansvar for å svare på selv? Og hvilke spørsmål skal barna overlate til andre å svare på, for eksempel en kunstig intelligens?

Dette er spørsmål som det er fint å snakke om hjemme, men også på skolen, understreker Bergsjø. Hun er opptatt av at lærerne i skolen tar samtalen med elevene om bruk av kunstig intelligens i sosiale medier. Det er særlig viktig for å støtte barn i hjem der foresatte ikke er så engasjerte i barnas nettbruk og kanskje mangler kunnskap om alt fra mulighet for personverninnstillinger til hvordan de kan veilede barna om tilpasning av innhold etter barnets modenhet og alder.

– For barn i sårbare livssituasjoner kan samtalene på skolen virkelig gjøre en forskjell. De trenger å få mulighet til å reflektere og øke bevisstheten om egne valg og hvem de søker råd hos i ulike spørsmål. Dette kan læreren forklare ved å vise fram PC-versjonen av den kunstige intelligensen ChatGPT og reflektere med elevene om verdiene som fremmes gjennom teknologien og samtale om hvordan det kan påvirke elevenes liv på god og vondt, sier Leonora Onarheim Bergsjø.

Les også