OpenAI anklagas för att ha ignorerat varningssignaler inför skolskjutning i Kanada

Trettio nya klagomål har lämnats in mot OpenAI av överlevande efter en skolskjutning i Kanada. Anklagelsen: att bolaget kände till varningssignaler i användarnas konversationer med ChatGPT innan attacken, men aldrig varnade polisen. Det rapporterar AI Weekly och AI News Today. OpenAI bestrider anklagelserna.

Vad klagomålen påstår

Enligt de nya klagomålen ska ChatGPT-konversationer innan skjutningen ha innehållit tydliga varningstecken. De överlevande och deras juridiska ombud menar att OpenAI hade möjlighet att agera — men inte gjorde det. Exakt vilka konversationer det handlar om, och hur varningssignalerna sett ut i detalj, framgår inte av de uppgifter som finns tillgängliga just nu.

OpenAI å sin sida avvisar bilden av att bolaget aktivt ignorerat risker. Hur den processen ser ut rättsligt, och vilken bevisning som ligger bakom klagomålen, är ännu inte klarlagt offentligt.

En del av en växande våg

Fallet är långt ifrån isolerat. OpenAI möter just nu flera rättsprocesser kopplade till verkliga skadefall där chattbottar pekas ut som en bidragande faktor. Samma mönster syns hos konkurrenter — Sony och Warner stämmer AI-bolaget Anthropic för miljardbelopp i en helt annan typ av tvist, medan amerikanska tidningar stämmer OpenAI och Microsoft med stöd från det amerikanska justitiedepartementet i en upphovsrättstvist.

Det gemensamma är att AI-bolagen nu i allt högre grad hålls juridiskt ansvariga för vad som händer i samtalen deras modeller för med användare — inte bara för vad modellerna skriver, utan för vad de inte agerar på.

Chattbottar och kriser — ett känt problem

Att AI-chattbottar hanterar krissituationer illa är inte en ny observation. En studie om AI-chattbottar har tidigare visat att verktyg som ChatGPT ofta ger egna råd istället för att hänvisa användare till professionell hjälp i känsliga situationer. Det är precis den typ av brist som nu ligger till grund för anklagelserna i Kanada.

Frågan handlar i grunden om ansvar: ska ett AI-bolag agera som en aktiv väktare som flaggar farliga mönster till myndigheter, eller är det användarens och samhällets ansvar att fånga upp varningssignaler? Det är en gränsdragning lagstiftare fortfarande brottas med, både i USA och i EU.

Vad det betyder i Sverige

För svenska myndigheter och företag som bygger in ChatGPT eller liknande verktyg i sina tjänster är fallet en påminnelse om att ansvarsfrågan kring AI och krishantering växer snabbt. EU:s regelverk skärper redan kraven på transparens och riskhantering för AI-system — något som beskrivs närmare i artikeln om EU:s AI-förordning och nya transparenskrav.

Samtidigt växer oron hos privatpersoner kring hur AI hanterar känsliga samtal, något vi tidigare skrivit om i AI-ångest: varför så många känner oro — och vad som faktiskt hjälper. Fall som det i Kanada riskerar att förstärka den oron ytterligare, samtidigt som det sätter press på bolag att bygga tydligare skyddsmekanismer i sina produkter.

Vad händer nu?

Klagomålen är ännu i ett tidigt skede, och det är oklart hur processen kommer att utvecklas eller vilken bevisning som till slut läggs fram i rätten. Det som redan står klart är att OpenAI, i likhet med flera andra stora AI-bolag, nu befinner sig mitt i en period där juridiska prövningar av verkliga skadefall blir allt vanligare — och där utfallen kan komma att forma hur AI-chattbottar regleras och byggs framöver, även utanför USA och Kanada.