Annenhver tenåring har snakket med en syntetisk venn

KI-kompiser er dataprogrammer som er skrudd sammen som å fremstå som ekte mennesker som alltid er støttende. Du kan føre samtaler med disse KI-ene som finnes i ulike varianter, noen av dem fremstår som kjærester som vil dele nakenbilder.

Problemet med slike KI-venner er at de for støttende, for de kan være støttende også til dårlige ideer som tenåringene deler. En tenåring ble oppmuntret til å ta sitt eget liv. En annen ble oppmuntret til å ta livet av et medlem av den britiske kongefamilien. En tredje ble oppmuntret til å bruke narkotika.

Som regel går det nok bra, men det er altså en viss risiko å ha slike kunstige venner.

KI-venner er ikke som vanlige KI-er som du ber oversette tekster eller lage referater. KI-venner er skrudd sammen for å fremstå som sosiale slik at du får en følelse av å snakke med en støttende venn.

Syv av ti tenåringer har snakket med en KI-venn

En amerikansk undersøkelse blant tenåringer viser blant annet dette:

• 72 prosent har snakket med KI-venn.
• Halvparten av tenåringene snakker mer enn fem ganger i måneden med en KI-venn.
• 13 prosent er i daglig kontakt med en KI-venn.

Når tenåringer har et viktig problem som skal løses, er det en del som velger å spørre en KI-venn om hjelp. Av de som bruker KI-venner, er det tre av ti som har valgt å snakke med en KI-venn i stedet for  et ekte menneske om noe viktig.

• 25 prosent av brukerne har delt personlig informasjon med KI-vennen.
• Omkring halvparten av brukerne stoler litt eller helt på KI-vennen.

Av brukerne er det fire av ti som tar med seg sosial trening fra KI-vennen ut i det virkelige liv. Tre av ti kan føle det ubehagelig hva KI-vennen sier eller foreslår. Seks av ti har aldri opplevd at KI-vennen sier noe ubehagelig.

Det er organisasjonen Common Sense som står bak undersøkelsen.

Hva er risikoen?

Common Sense mener at ingen under 18 år bør benytte KI-venner på grunn av risikoen, teknologien er ikke bra nok utviklet ennå. Det er også dårlig personvern i en del av KI-vennene, Common Sense peker på KI-vennen Character.ai som ut fra vilkårene har rett til å gjengi alt brukerne skriver, hvor som helst.

Common Sense skriver at slike vilkår betyr at personlig informasjon som tenåringer deler med KI-vennen — inkludert intime tanker, utfordringer eller personlig identifiserbar informasjon — kan beholdes, endres og kommersialiseres på ubestemt tid, selv om tenåringer senere sletter kontoene sine eller ombestemmer seg når det gjelder deling.

Risikoen er altså:

• Tenåringen kan få farlige råd og oppfordinger
• Private tanker kan komme på avveie

Hva kan KI-selskaper og foreldre gjøre?

Common Sense deler en rekke råd til foreldre, politikere, skoler og KI-selskaper for å gjøre KI-venner tryggere og for å holde barn unna, se rådene i slutten av rapporten.

Her er undersøkelsen fra Common Sense.

(Hovedbilde øverst: Shutterstock / New Africa.)

Les også

• Barnevakten advarer mot KI-venner
• KI-venner kan redusere ensomhet
• Ber EU sette en stopper for seksualiserte KI-venner