Nytt søksmål mot Chatgpt – etter skoleskyting

Foreldrene til tolv år gamle Maya Gebala saksøker Openai som eier KI-en (prateroboten) Chatgpt. Maya ble skutt flere ganger av en skoleskyter. Hun lever, men er svært alvorlig skadet.

Openai stengte Chatgpt-kontoen til skoleskyteren i juni i fjor fordi samtalene var urovekkende. Men selskapet sa ikke ifra til politiet. Openai har uttalt til BBC at selskapet skal gå gjennom rutinene for å forhindre at noe slikt skjer på nytt. Selskapet skal også samarbeide med myndighetene for å forbedre rutinene.

Skoleskyteren var bare 18 år, men maktet visstnok å opprette en Chatgpt-konto 17 år gammel, selv om vilkårene sier at man må være 18 år. Det er ingen alderskontroll for å opprette konto i Chatgpt.

Søksmålet sier visstnok at skoleskyteren samtalte med KI-en om ulike scenarier innen skyting. Tolv ansatte i Openai flagget samtalene med «indikerer umiddelbar risiko for alvorlig skade på andre», de anbefalte at politiet ble varslet.

Fra før er det søksmål fra foreldre rettet mot Openai fordi Chatgpt skal ha oppmuntret en tenåring til selvmord. Disse hendelsene viser at KI-selskapene henger etter med med sikkerheten. Først etter selvmordet la Openai inn koder som skal gjøre at prateroboten holder seg til sine sikkerhetsinnstillinger også i lange samtaler. Det har vist seg at Chatgpt blir på et vis «sliten» av lange samtaler og da begynner programmet å svikte.

Med andre ord gjennomførte ikke Openai gode nok stresstester før tjenesten ble sluppet løs på publikum.

Openai har også fått kritikk for å være for slepphendt med sikkerheten og personvernet for å kunne inngå avtale med det amerikanske militæret. En av sjefene i Openai sluttet i jobben i protest. Hundrevis av ansatte i Openai har protestert mot at KI-ene skal kunne brukes til masseovervåking av amerikanere og at robotvåpen skal ta avgjørelser på egen hånd om å drepe.

Konkurrenten Claude (Anthropic) holdt fast på sine prinsipper, og mistet avtalen med militæret.

Søksmålet fra familien til Maya Gebala  finner du her: OpenAI-soksmaal

(Foto: Shutterstock.)