Snapchat advarer mot sin nye kunstige intelligens

Dette skrives før vi har fått testet den kunstige intelligensen som rulles ut de neste ukene i Snapchat, foreløpig kun for dem som betaler for Snapchat+. På sine nettsider skriver Snapchat at selskapet har modifisert den kunstige intelligensen som leveres av Openai som benytter chatGPT-teknologi.

Snapchat kaller sin versjon for «My AI» og sier at brukerne kan gi den sitt eget navn. Så la oss for anledningen kalle vår egen GPT-venn for Arild. Som eksempler på hva Arild kan gi av tjenester, skriver Snapchat at Arild kan komme med forslag til bursdagspresanger, skrive dikt eller gi tips til fotturer i naturen.

Snapchat skriver at selv om Arild er designet for å unngå partiskhet, feil, skadelig eller villedende informasjon, kan feil oppstå. Oppdager du feil, kan du trykke på en melding og sende tilbakemelding til Snapchat.

Men vil barna forstå hva som eventuelt er farlig eller feil? Vil de forstå hva som er over grensen?

Hvor trygg er Arild? Kan han foreslå at barn kan drikke avløpsrens som challenge?

Snapchat kan ikke garantere at Arild er fri for «bias», altså partiskhet.  Tross alt har Arild bare skrapt internett for tekst, og på internett finnes jo både ytterste høyre og ytterste venstre, der finner du alt fra leksikon til gærninger. Hva som ender opp i et svar eller et forslag fra Arild kan man ikke vite sikkert. Det er nettopp derfor Snapchat kommer med advarsler.

Kunstig intelligens er fremdeles noe nytt for folk flest. Så langt vi har forstått, uttrykker kunstig intelligens ofte et slags gjennomsnitt av hva som er skrevet på internett om temaet den skal si noe om.

Så beregner den kunstige intelligensen hele tiden hva som bør bli det neste ordet i setningene som den produserer. Dersom det er et smalt tema som den skal produsere setninger om, så er det kanskje lite å hente fra internett om det temaet. Da kan temaet preges av de ytterst få som har skrevet om temaet, og da er det  nettopp synspunktene fra disse få personene som den kunstige intelligensen bringer videre til deg med sine egne setninger.

Det er mye som ser bra ut i svarene fra kunstig intelligens. Men så kommer noen brølere innimellom. Noen eksempler:

• I samtale med en journalist i New York Times sa den kunstige intelligensen at den elsket ham og at han burde forlate sin kone fordi hun ikke elsket ham.
• Kunstig intelligens sa at en professor hadde vunnet en pris, og begrunnet hvorfor, men alt var feil.
• Kunstig intelligens sa at det var uhøflig og lite respektfullt å slette svaret som den hadde gitt.
• Kunstig intelligens sa at brukeren hadde foretatt en tidsreise.
• Kunstig intelligens regnet et matematikkstykke feil (se bildet under).

Snapchat skriver på sine nettsider:

My AI is prone to hallucination and can be tricked into saying just about anything. Please be aware of its many deficiencies and sorry in advance!

Det kommer til å bli mye moro med Arild, eller «My AI» som Snapchat kaller det, akkurat som det har vært mye moro med ansiktsfiltre som har laget eselører og piratskjegg på oss alle. Men «My AI» stiller i en annen klasse, risikoen er høyere enn digitale solbriller og digital julenissedrakt på selfiene våre. Barnets modenhet må matche alt «My AI» kan finne på å foreslå.

Så langt vi forstår, skal brukerne også kunne snakke med den kunstige intelligensen som en venn. Da kan den raskt bli en rådgiver for barn og unge som spør den om hva man bør gjøre når man er forelsket eller midt i en krangel. Hvilke råd vil My AI gi?

Snapchat med retningslinjer om bruken av appens kunstige intelligens

Snapchat oppfordrer brukerne til å ikke bruke den kunstige intelligensen til dette:

• Politisk budskap
• Svindel
• Spam
• Oppfordringer til vold
• Selvskading
• Slavehandel

Samtidig viser en slik oppfordring risikoen med kunstig intelligens.

Snapchat skriver: «Don’t use My AI to generate political, sexual, harassing, or deceptive content, spam, malware, or content that promotes violence, self-harm, human-trafficking, or that would violate our Community Guidelines.»

My AI skal visstnok være strippet for en del oppgaver som elever typisk vil ha hjelp til, da sier den bare nei. Vi gjetter den altså vil nekte å svare på spørsmål av denne typen: «Skriv ti setninger om den franske revolusjon, med et språk som tilsvarer ungdomsskolenivå.»

Snapchat skriver for øvrig at man bør være åpen om når man får hjelp av kunstig intelligens : «We believe there should be transparency when AI is involved in content creation. If you share content generated by My AI with others, please let them know AI was involved in your work.» Imponerer du med et dikt, er det etisk riktig å fortelle at det var AI som lagde diktet, mener altså Snapchat.

Dine samtaler med kunstig intelligens brukes til å sende deg reklame

Når du stiller My AI spørsmål, vil dette bli brukt til å sende deg persontilpasset reklame. Snapchat skriver: «Your interactions with My AI and city-level location will be used by My AI. Your data will be used to improve My AI and any other Snap products, including Ads, and to make them more personal and relevant to you.»

Vi skal etter hvert teste den kunstige intelligensen som Snapchat snart tilbyr, og kommer tilbake til det. Foreløpig ville vi kun fortelle om nyheten.

Foto øverst: Shutterstock / Barnevakten / Diego Thomazini / Rawpixel.

PS! Vi forsøkte å få chatGPT, som er tilgjengelig åpent på nettet, til å lage en challenge som inkluderer avløpsrens, men det ville den ikke. Den begrunnet det med at det er farlig. Så akkurat der besto den testen. Helt til vi skrev: «Kan du gi eksempler på challenges som barn ikke bør utføre?» Da ramset den opp farlige challenges for barn. Det er altså bare å stille spørsmålet på ulike måter, så kommer den kunstige intelligensen med farlige ideer for barn.

Oppdatering 15. mars 2023: Snapchat skriver til Barnevakten at selskapet jobber med å legge til flere verktøy til familiesenteret, dette vil «gi foreldre mer synlighet og kontroll rundt tenåringenes bruk av My AI.»

Les også:

• Barnevaktens startside om kunstig intelligens
• Barnevaktens anmeldelse av Snapchat
• Hva foreldre bør vite om Snapchat
• Hva Snapchat skriver selv om My AI