Foto: Shutterstock / Sarah Holmlund. Bildet viser en robot som ser ut som et barn.

Startside: Kunstig intelligens (AI)

Her har vi samlet noen av våre artikler om barns møte med kunstig intelligens.

Kunstig intelligens (AI på engelsk og KI på norsk) er nyttig på mange områder, men har også negative sider. Barn vil møte kunstig intelligens stadig oftere:

  • Fysiske leker
  • Spill og apper
  • Nettsider
  • Skole
  • Mobiltelefon
  • Dingser i hjemmet og ellers i samfunnet
  • Kontakt med bedrifter
  • Nyhetsartikler

Positivt: Man kan be et dataprogram analysere enorme mengder data og finne sammenhenger som våre menneskelige hjerner ikke makter å se, dette er til hjelp innen for eksempel helseforskning. Kunstig intelligens kan også gjøre telefoner og sosiale medier tryggere for barn å bruke.

Negativt: Samtidig kan kunstig intelligens føre til diskriminering fordi den kunstige intelligensen ikke er utstyrt med samme etiske vett som vi mennesker kan ha. Les for eksempel her: Kunstig intelligens diskriminerer kvinner.

Kunstig intelligens kan analysere barns oppførsel og respondere på det, på en god eller dårlig måte. Det gjelder å være bevisst når man benytter en tjeneste som bygger på kunstig intelligens. Problemet er at man sjelden vet at man er utsatt for kunstig intelligens eller hvem som står bak den kunstige intelligensen i hvert tilfelle.

Unicef og kunstig intelligens

FNs barneorganisasjon Unicef ønsker barnevennlig kunstig intelligens (ekstern lenke) og jobber med barnevennlige retningslinjer.

Organisasjonen skriver at kunstig intelligens (AI) er innovativt, men at det også utgjør en risiko for barn og deres rettigheter. Det er snakk om privatliv, trygghet og sikkerhet. De fleste som utvikler AI, nevner sjelden noe om barn og deres rettigheter.

Unicef håper at både nasjonale myndigheter og private selskaper rundt omkring i verden kan bli mer bevisst på barnas rettigheter og behov ved kunstig intelligens.

Organisasjonen går inn for tre grunnleggende rettigheter for barn når det gjelder kunstig intelligens (AI):

  • AI policies and systems should aim to protect children
  • They should provide equitably for children’s needs and rights
  • They should empower children to contribute to the development and use of AI

Barnevaktens tolkning av disse tre punktene oppsummeres slik: Beskyttelse, likhet og kunnskap. Kunstig intelligens skal beskytte barn, sørge for at barn seg i mellom ikke forskjellsbehandles og gjøre det mulig at barn får mer kunnskap om kunstig intelligens.

I følge en annen rapport fra Unicef er også de seks punktene nedenfor viktige i det videre arbeidet:

1. Uphold child rights
2. Prioritize children’s development and well-being
3. Protect and nurture children’s data agency
4. Ensure transparency, explainability and accountability for children
5. Prioritize safety, protection and AI literacy of children
6. Prioritize equity and inclusion of children

Her nevnes altså «transparency» som et viktig punkt, Barnevakten forstår det slik at det er viktig at barn, foreldre og andre får vite hvordan AI-en er skrudd sammen i det enkelte tilfelle. Og det bør forklares slik at også barn forstår.

Les mer om de seks punktene her

Barn samtaler med robotleker

Barn vil møte kunstig intelligens i stadig nye leker eller på nettsteder. Det har allerede kommet robotleker som kan føre samtaler med barna. Men du vet ikke hva den kunstige intelligensen har fått av data, så du vet ikke hva samtalene vil gå ut på.

Åpenhet om hva den kunstige intelligensen har fått av data-mat som grunnlag, er et viktig forbrukerpoeng, men er antagelig vanskelig å få gjennomslag for i praksis.

Kan AI komme inn i skolene?

I kinesiske skoler har elevmaskinene kamera med ansiktsgjenkjenning som følger med på om elevene blir trøtte, i tilfelle fyres det av en morsom video for å vekke dem litt før matematikkoppgavene fortsetter.

Ansiktsgjenkjenning står på nei-listen til Datatilsynet når det gjelder skoler, men det kan likevel hende at elevene blir utsatt for kunstig intelligens via læringsappene. På den ene siden er det positivt at læringsappen forstår om eleven bør trene på spesielle oppgaver, men samtidig betyr det at det samles inn flere opplysninger om eleven.

Microsofts seks idealer for bruk av kunstig intelligens

Microsoft har satt opp seks idealer for kunstig intelligens:

  • Fairness: AI systems should treat all people fairly.
  • Reliability & Safety: AI systems should perform reliably and safely.
  • Privacy & Security: AI systems should be secure and respect privacy.
  • Inclusiveness: AI systems should empower everyone and engage people.
  • Transparency: AI systems should be understandable.
  • Accountability: People should be accountable for AI systems.

Men det er umulig for foreldre å sjekke om den nye robotleken til barna er blitt laget med slike idealer eller om produsenten kun har gått etter billigste løsning som kan gi størst fortjeneste. En del leker og spill er for øvrig produsert i ikke-demokratiske land som kan ha en annen kulturell tilnærming til forbrukerrettigheter, barns rettigheter, personvern og så videre.

Nyhetsartikler og råd som ikke er skrevet av mennesker

Foto: Shutterstock. Bildet viser robotorer som skriver på tastatur.

Les om robotartikler

Les også:


Støtt vårt nettvettarbeid – bli medlem av Barnevakten