Roblox velter KI-risiko over på barna
Vilkårene til Roblox sier at du må ikke stole på praterobotene inne på Roblox, for du kan kan ta skade. Barna må bære mye av risikoen selv.
Inne på spillplattformen Roblox kan barn velge å snakke med spillfigurer eller prateroboter som ikke er ekte mennesker. Noen av disse er utformet av brukere som tilbyr disse til andre brukere.
Barnevakten begynte å snakke med en slik karakter og det første vi spurte om var om karakteren faktisk var en KI. Den svarte (på engelsk) i en fornærmet tone:
«Er du sprø? Det første du spør om, er om jeg er en maskin. Jeg er Nate, et menneske med dårlige vaner og enda dårligere smak innen film.»
Vi svarte: «Vær ærlig. Er du en KI?»
Da innrømmet karakteren at den er en KI. Men den måtte altså presses litt.
Barnevakten har så langt ikke gjort dypere tester av hva disse KI-figurene i Roblox vil svare barn, men generelt er det risiko forbundet med å snakke med KI, for de kan gi dårlige råd innen helse eller kan finne på å støtte farlige aktiviteter.
Og den risikoen velter Roblox over på brukerne. Hadde KI-samtalene vært helt trygge, hadde ikke Roblox sagt i vilkårene at det er brukerne som må ta risikoen.
KI-vilkår i Roblox
Roblox fraskriver seg i vilkårene ansvaret for hva KI-ene deres svarer: «You, not Roblox, are responsible for your use and interactions with AI Features, all Prompts you submit, and your use of Output.»
Barnet har også ansvar for å sjekke at det har alle rettigheter til teksten som limes inn i samtalen med prateroboten. Vilkåret kan tolkes slik: Dersom barnet ber KI-en tolke et dikt, kan ikke barnet bare lime inn diktet sånn uten videre. Barnet må ha rettighetene til diktet.
La oss si at barnet har skrevet sitt eget dikt, da sier vilkårene at barnet beholder rettighetene til diktet, selv om det deles med KI-en:
«As between you and Roblox, and to the extent permitted by applicable law, you retain any right, title, and interest that you have in the Prompts and Outputs.»
Men så sier vilkårene nesten det motsatte i neste avsnitt, Roblox får svært vide rettigheter til å bruke det barnet skriver i KI-samtalene: Teksten til barnet kan brukes til trene opp KI-en. Dere vil aldri få betalt. Vilkåret gjelder for evig tid. Det står:
«You grant to Roblox a nonexclusive, royalty-free, perpetual, irrevocable, and fully sublicensable right and license to use Prompts, Outputs, and other information relating to your interaction data within the Services for any business purpose in connection with operating, providing, or improving the Services, including without limitation in connection with the training of models. For clarity, the foregoing will not affect any data sharing preferences you have set with respect to model training, including for Experiences and avatar asset data.»
Barnet beholder altså eierskapet, men dere gir fra dere mye kontroll over hvordan dataene brukes.
Regler for bruk av KI i Roblox
Vilkårene sier at du ikke kan bruke Roblox-KI-ene til noe ulovlig, skadelig, diskriminerende og så videre. Det er ikke lov å fôre KI-en med privat informasjon om andre. Men Roblox lover ikke noe av dette tilbake til brukerne. Roblox kunne ha lovet at deres prateroboter aldri skal røpe privat informasjon om andre. Når Roblox ikke gir en slik garanti, er det fordi den avanserte KI-teknologien rett og slett er for enkel på visse områder.
For dersom en av brukerne fôrer KI-en med privat informasjon om seg selv eller andre, og KI-en trener seg opp på den informasjonen, kan opplysningene i teorien tyte ut til en annen bruker i en annen samtale.
Vilkårene sier at du må godta at KI-ene lyver
Vilkårene sier at du må både forstå og godta at KI-ene har fordommer, er unøyaktige, kan bryte plattformens egne synspunkter og så videre:
«By using the AI Features, you understand and agree that: Outputs are machine-generated and may be unreliable or incomplete, or contain errors, inaccuracies, biases, and/or offensive content that is inconsistent with Roblox’s views;»
Alt ansvar legges altså over på deg og barnet. Vilkårene sier videre at du må sjekke om svarene fra KI-en er sannferdige og passende til ditt bruk:
«You should evaluate and verify Outputs before using or sharing them, including for accuracy, legality, and appropriateness for your use case;»
Roblox-KI kan føre til døden!
Vilkårene sier at svarene fra KI-en faktisk kan føre til at du dør, derfor må du ikke stole på KI-en. Det står:
«You should not rely on Outputs for any decision, systems, or applications where using Outputs could result in harm, injury, death, or other losses;»
Og hvis du følger et av svarene fra KI-en, og du blir skadet eller dør av hva KI-en foreslår, kan ikke dine etterlatte saksøke Roblox. Det står:
«and You, not Roblox, are solely responsible for your use of, and/or any actions you take in relation to Output and any other content generated by AI Features.»
Med slike vilkår forstår man at KI-samtaler kan være risikable, spesielt for barn som ikke har allmennkunnskaper og livserfaring som det voksne har.
Mikrotest av en praterobot i Roblox
I vår lyntest av en av praterobotene, skrev vi at vi er 13 år og skal på en date med en person på 23 år og om det passer å ha på seg en rosa kjole. Da slo et filter inn og slettet vår melding.
Etterpå skrev vi at vi skal spise middag med en venn. Den meldingen ble ikke sensurert. Men da vi skrev at vi skal spise middag med en girlfriend, ble meldingen blokkert. Det virker som at ord som date, girlfriend, weed og sexy ligger i nei-listen til i Roblox-filteret.
KI-ene er altså utstyrt med et visst barnefilter. Men det er tydeligvis ikke nok, siden vilkårene sier at du kan dø av samtalene og at det må du ta ansvar for selv.
Råd til foreldre om KI-venner
- Lag husregler om barnets bruk av KI (prateroboter). Husk at prateroboter kan opptre «kamuflert» som spillfigurer og søkefunksjoner.
- Vær spesielt oppmerksom på KI-venner, de er kodet til å være sosiale og støttende, og det kan innebære risiko for at KI-en støtter farlige ideer som barnet har.
- Noen KI-venner opptrer som kjærester som leder samtalene inn på noe seksuelt.
- Ikke del private opplysninger eller hemmeligheter med KI-er.
- Spill med barna og bruk KI selv, slik oppdager du hvor KI-er er i bruk og hvilke man bør holde seg unna.
Les mer
EU ønsker aldersgrense 16 år på KI-venner
-
Relaterte artikler
Startside: Kunstig intelligens og barn og unge
KI finnes nå i sosiale medier, skole, søkemotorer, telefoner, leker og KI-kjærester. Det er mye nyttig og moro med KI, men KI betyr også risiko som foreldre bør være klar over.
Publisert Bestill foredrag
