Foto: Miko.

Barn samtaler med robotleker som har kunstig intelligens

Robotleker med kunstig intelligens og ansiktsgjenkjenning betyr at det er enda et område der man må drøfte nettvett og forbrukerrettigheter.

Film er monolog – robotleke er samtale 

Barn blir påvirket av filmer, spill og sosiale medier, i tillegg til venner og fremmede som de chatter med. Gir du barnet en robotleke, dukker det opp en ny dimensjon, nå er barnet ikke i samtale med mennesker, men med en datamaskin som kan være utstyrt med kunstig intelligens og ansiktsgjenkjenning.  

En del av dagens robotleker er ganske så enkle, de er hverken koblet til internett eller har noe kamera, men barna kan lære enkel koding og få roboten til å kjøre til venstre eller høyre. Det er de mer avanserte robotene det mangler en debatt om, de som selv tar initiativer overfor barnet og som er delvis koblet opp mot internett. Man bør spørre: Hva er greit innen barn og «robotrelasjoner»?

Robotleken Miko 3 

For eksempel den indiske lekeroboten Miko 3 kjenner igjen barnet via kameraet som roboten er utstyrt med. Miko 3 kan så tolke barnets følelser og respondere på det. Ser det ut til at barnet kjeder seg, byr roboten opp til dans. Ser barnet lei seg ut, forteller roboten en vits.  

Men roboten vet for eksempel ikke hvorfor barnet er lei seg. Kanskje det er storesøster som har stjålet legoklosser? Som forelder ville du ha valgt en annen respons enn å fortelle en vits. 

En reklamefilm for Miko 3 viser at den kan leke gjemsel med barna. Det er gøy, men ansiktsgjenkjenning er for eksempel ikke tillatt i norske skoler dersom persondata kan hentes ut. I norske skoler bruker man «læringsbrett», altså nettbrett med skoleapper. Kan det tenkes at om noen år ønsker man å innføre også «læringsroboter»?  Les om foreldres digitale rettigheter i skolen.

Nettbrett på hjul 

Det finnes mange robotleker for barn, modellen Miko 3 er et slags avansert nettbrett som er utstyrt med hjul, den kan bevege seg på gulvet slik robotstøvsugere gjør, sensorer sørger for at den ikke faller ned trapper.  

Barnet har tilgang til haugevis med apper på robotskjermen og kan se filmer, lære nye språk, spille spill eller drive yogaøvelser. Mange av disse appene er ganske sikkert til berikelse for barnet, men det kan også være at du som forelder mister oversikten over påvirkningen av barnet.

Positive sider ved kjedsomhet

Samtidig må man spørre: Skal for eksempel kjedsomhet alltid møtes med en ytre respons som kan dekke over kjedsomheten? Det er slik enkelte barneroboter er konstruert når de følger med på barnets ansiktsuttrykk. 

Kjedsomhet kan ha positive sider, kanskje blir man kreativ eller kanskje trenger man rett og slett en liten pause fra stimuli, korte tanker og dopaminjakt.

Ikke noe nytt at teknikken responderer på barnets oppførsel 

Datasystemene i sosiale medier tar utgangspunkt i barnets oppførsel. Ser barnet noen sekunder ekstra på et bilde, tolkes det til at barnet har interesse for akkurat slike bilder og de tilhørende temaene. Og så svarer systemet med persontilpassede algoritmer og overvåkingsbasert reklame. Det er ikke noe nytt at teknikken responderer på barnets oppførsel.

Men robotleker kan komme enda tettere på barnas liv ved at et kamera kan filme hva som foregår i hjemmene. Responsene fra robotlekene vil komme i stadig mer avanserte samtaler og former for påvirkning. I fremtiden vil slike robotleker ganske sikkert kunne redde liv, alarmen hyler og varsler foreldrene dersom barnet setter fast noe i halsen, eller så ringer roboten til brannvesenet hvis den lukter røyk. De er mye bra med kunstig intelligens, overvåkingskameraer og lignende, men det hører med å drøfte også de eventuelle negative sidene.

Barns samtaler med kunstig intelligens 

Barnet kan føre samtaler med robotleketøyet mens du er på kjøkkenet eller i butikken. Du aner ikke hva den kunstige intelligensen sier til barnet eller hva ingeniørene eller tekstforfatterne har lagt inn som mulige svar og spørsmål.   

Når det gjelder kunstig intelligens, kan man aldri være helt trygg. Microsoft startet en twitterkonto i 2016, den ble utstyrt med den kunstige intelligensen «Tay». Et døgn senere måtte man stenge kontoen fordi Tay sendte ut rasistiske meldinger og syntes Hitler var en bra fyr. Det var fordi Tay lærte seg selv opp av omgivelsene og så koblet sammen ord til setninger. 

Produsentene av Miko 3 lover at samtalene er helt trygge for barn, det kan være at den er skrudd sammen slik at den ikke går ut på nettet for å finne svar. Barnevakten har stilt produsenten spørsmål om dette, men har ikke fått svar.

Når barnet ellers chatter i spill eller sosiale medier, er det med venner og ukjente mennesker. Et av Barnevaktens mange råd er at samtaler med fremmede ikke skal flyttes over til private rom der barnet er alene med den fremmede, for der kan barnet i verste fall bli manipulert. Det er litt tryggere å være med i en spillchat med flere tilfeldige fremmede som spillet har plukket ut, for da reguleres chaten til en viss grad av fellesskapet. 

Med robotleker er samtalen mellom barnet og roboten ofte i private fysiske rom, for samtalen kan foregå når barnet leker alene i kjellerstuen. Du vet egentlig ikke noe om hvordan barnet kan bli påvirket av den kunstige intelligensen som kanskje delvis henter inspirasjon fra internett slik den mislykkede Tay gjorde.

Foreldre har kort sagt ikke en sjanse til å vurdere kvaliteten på den kunstige intelligensen som den enkelte robotleke er utstyrt med.  

Når det gjelder filmer, kan du se hele filmen selv fra a til å, eller lese en anmeldelse, før du lar barnet se. Robotleker og kunstig intelligens stiller i en helt annen klasse, det finnes ingen begynnelse eller slutt.

Roboten skal utvikle barns følelsesliv 

Sneh R. Vaswan er gründer og direktør i selskapet Miko. Robotleken Miko 3 er designet i India og produsert i Kina. På pressevisningen for Miko 3 sa han: 

«As a father, I understand the stresses parents are feeling and the need for technology-driven products that support both learning and emotional development in kids.» 

Man kan spørre om det virkelig er et behov for teknologidrevet utvikling av barns følelser. Er det positivt at barns følelsesliv styres av kunstig intelligens? Akkurat som internett er en normal del av livet nå, vil roboter og kunstig intelligens bli det i fremtiden. Man kan drøfte spørsmål som dette: 

  • Hva bør foreldre kreve av gode foreldreinnstillinger i barns møte med kunstig intelligens og ansiktsgjenkjenning på hjul?  
  • Hva bør være retningslinjer og krav for god forbrukerinformasjon ved robotleker?  

Kunstig intelligens er i seg selv veldig bra i mange situasjoner, den kan mates med svært mye data og selv finne sammenhenger som vi mennesker ikke makter å regne ut, for eksempel innen sykdommer og helse. Men mates den feil, fordi man kanskje velger billigste tilgjengelige data, kan den for eksempel ende opp med å diskriminere noen. 

Noen spørsmål man kan stille, er for eksempel:  

  • Hvem står bak den kunstige intelligensen i hvert tilfelle?  
  • Hvilke data ligger til grunn for opplæringen av den kunstige intelligensen? 
  • Hvordan utøve kildekritikk når en robot bare leser opp “fakta” som man ikke vet hvor stammer fra? 
  • Har roboten barnefilter som siler hva roboten serverer fra nettet? 
  • Hvilken etikk er bakt inn i den kunstige intelligensen eller i samtalene fra tekstforfatterne? 

Hvis du forsøker å holde igjen tilgangen til internett for de yngste barna, kan det være store hull i gjerdet i en robotleke. Barnet kan for eksempel spørre roboten hva som er verdens høyeste fjell eller hva klokka er i et annet land. Da kan det hende roboten går ut på nettet for å finne svar. Enda et spørsmål dukker derfor opp:

  • Vil alle robotleker ta hensyn til barnets alder og ikke svare på enkelte spørsmål?

Robot-etikk  

Kunstig intelligens blir stadig flinkere til å gjenkjenne ting. Se for deg at datteren din Anne på åtte år er på vei ut i hagen en vinterdag og så oppdager roboten at hun ikke har tatt på seg lue, den sier: “Anne, ta på lue, for nå er det minus åtte grader ute.” 

Se så for deg at du kommer inn fra hagen en sommerdag og oppdager at en knust tallerken ligger på kjøkkengulvet. Du spør roboten om hva som har skjedd. Den hadde med sine små hjul fulgt etter Anne fra stuen og inn på kjøkkenet og fikk med seg hele hendelsen. Den sladrer og sier: ”Det var Anne som knuste tallerkenen da hun tok sjokolade fra den øverste hyllen. Jeg sa at sjokolade er forbudt fordi det er hverken lørdag eller søndag i dag.” 

Hvilken etikk skal roboter utstyres med? I hvilke situasjoner er det greit at roboten griper inn? Hva slags innsamlede data er det greit at roboten deler med deg eller internett? Har du som forbruker eller forelder rett til å få informasjon om dette?

Mange av disse spørsmålene er ikke aktuelle nå, for robotlekene er ganske enkle. Men en bevegelig robot med kamera og ansiktsgjenkjenning kan i fremtiden samle mye data om familielivet, og respondere på ulike måter, så vi kan like gjerne begynne å drøfte grensesettingen allerede nå.
 

Vi snakker med telefonen i dag 

Det at vi snakker til de digitale dippeduttene våre, er ikke noe nytt. Gir du barnet for eksempel en Iphone, kan barnet muntlig spørre «Siri» om noe, så kommer svaret enten direkte fra telefonen eller via telefonens eget søk på nettet. Du kan for eksempel spørre «Hvor lang tid tar toget mellom Drammen og Kristiansand?»  

Du kan også knytte en telefon til for eksempel taklampen hjemme og så muntlig be telefonen skru på lyset. 

Men i slike tilfeller er det ingen egentlig samtale, telefonen viser bare svaret, gir en beskjed eller følger din kommando, og ferdig med det. Telefonens kamera leser heller ikke kroppsspråket ditt for å gjette hvilket humør du er i og for å påvirke deg uten at du har bedt om det. 

Enkelte robotleker er altså noe ekstra fordi barnet kan ha samtaler med kunstig intelligens. Roboten kan spørre hva barnet har opplevd i dag, for eksempel, og føre en samtale om det. 

Vel, lignende samtaler kan også venner og fremmede føre i spillchaten. Når du lar barnet chatte i spill eller være på sosiale medier, vet du ikke hva som foregår der, barna snakker med både venner og fremmede. Men forskjellen er at hvis det skjer noe ubehagelig der, kan du sammen med barnet blokkere den andre brukeren eller rapportere til kanalen. Er det snakk om en robotleke, er det vanskeligere å få til en blokkering eller rapportering. 

Når det gjelder barnets samtaler med ekte mennesker, er også ytringsfriheten en del av bildet. Det er naturlig å tillate at mennesker snakker, selv om vi ikke liker en del av synspunktene som blir ytret. En robot har ingen ytringsrett. Roboten har like lav etisk indre verdi som noen steiner på stranden eller nullene og enerne i programvaren for en vaskehall for biler. Det betyr at du kan stille forbrukerkrav uten å ta hensyn til samtalepartneren.

Nyttig kunstig intelligens 

Kunstig intelligens vil bli en like naturlig del av våre liv som det internett er i dag. Og barn opplever svært mye positivt med internett i dag, de holder kontakt med familie og venner, de har underholdning, de lærer noe, og så videre. Vi stenger ikke internett bare fordi det har en del negative sider. Men vi regulerer i alle fall noe. Vi har personvernregler, anbefalte aldersgrenser, anmeldelser, forbrukerrettigheter, bøter og mye mer. 

Også robotleker og kunstig intelligens bør drøftes slik at foreldre, barn, produsenter og myndigheter blir klar over de negative sidene og kan finne gode rammer.  

Man kan le av kritikken som kom den gangen kino, telefon og farge-tv kom på markedet. Men likevel har vi aldersgrenser på kino i dag og en del foreldre utsetter å gi barnet en telefon med full tilgang til nettet. Så noe av den opprinnelige kritikken var ikke bare en naiv motstand mot all teknologisk utvikling. 

Derfor: Kjør debatt om barns forhold til robotleker, ansiktsgjenkjenning, kunstig intelligens og lignende som barn kommer til å møte mer av fremover. 

Les også: 

 


Medlemskap i Barnevakten.