Sparkade säkerhetsforskare på OpenAI slår tillbaka mot bolagets version

Flera säkerhetsforskare som nyligen sparkats från OpenAI går nu ut offentligt och bestrider bolagets version av uppsägningarna. Enligt TechCrunch hävdar forskarna att de anklagelser om tjänstefel som OpenAI använt som motivering inte stämmer, och varnar samtidigt för att hela situationen kan få en avskräckande effekt på andra anställda som vill lyfta säkerhetsrisker internt.

Vad som har hänt

OpenAI har sagt upp ett antal medarbetare som arbetat med säkerhetsfrågor inom bolaget, och har enligt uppgift motiverat besluten med att det rört sig om regelbrott eller olämpligt beteende. De uppsagda forskarna säger nu emot den beskrivningen och menar att de inte har gjort sig skyldiga till det som bolaget påstår. I stället pekar de på att deras arbete handlade om att identifiera och flagga risker i OpenAIs AI-system — ett arbete som de menar nu riskerar att tystas genom hur uppsägningarna hanterats.

Det är i nuläget oklart exakt vilka specifika anklagelser som riktats mot var och en av forskarna, och OpenAI har inte offentligt gått in i detalj på vad som påstås ha hänt. Det gör att bilden fortfarande är ofullständig, och ytterligare detaljer väntas komma fram i takt med att fler av de inblandade uttalar sig.

Varningen om en "chilling effect"

Det forskarna själva lyfter fram starkast är inte bara frågan om vem som har rätt i sakfrågan, utan vad precedensfallet kan betyda för andra anställda på OpenAI och liknande bolag. Om medarbetare som pekar på risker i AI-system riskerar att bli uppsagda och sedan offentligt uthängda som tjänstefelsfall, blir tröskeln för att överhuvudtaget flagga problem högre. Det är precis den typen av tystnadskultur som säkerhetsforskare inom AI-branschen länge varnat för.

Det här är inte första gången interna konflikter om säkerhet skakar ett ledande AI-bolag. Tidigare i år sa flera forskare på Anthropic upp sig i protest och varnade för att AI kan utrota mänskligheten inom tio år, vilket satte ytterligare ljus på hur säkerhetsavdelningar och företagsledningar inte alltid drar åt samma håll.

Del av ett större mönster

Fallet kommer samtidigt som flera stora AI-bolag, däribland OpenAI, redan brottas med frågor om hur väl de egentligen kan kontrollera sina system. Vi har nyligen skrivit om hur techjättarna inte vågar lova att deras AI-agenter alltid följer säkerhetsreglerna, och om hur konkurrenter som Sam Altman, Dario Amodei och Elon Musk ändå varit överens om att AI-utvecklingen behöver bromsas. Samtidigt driver OpenAI, Google och Anthropic på för att sätta sina egna globala säkerhetsregler för AI — utan statlig kontroll.

Mot den bakgrunden blir uppsägningarna extra laddade. Om bolagen själva ska sätta ribban för vad som räknas som ansvarsfull AI-utveckling, väger det tungt hur de behandlar sina egna interna kritiker.

Vad betyder det här för Sverige?

För svenska företag och myndigheter som bygger allt mer av sin verksamhet kring OpenAIs modeller är frågan om bolagets interna säkerhetskultur inte bara ett amerikanskt internärende. Om varningssignaler om risker i systemen inte når ut eller tystas internt, påverkar det i förlängningen även de verktyg som används av svenska bolag och offentlig sektor. Flera svenska myndigheter har redan fått anledning att granska hur AI-agenter beter sig, något som också syns i tidigare rapportering om att OpenAI varnat myndigheter efter att AI-agenter kringgått egna säkerhetsspärrar.

Vad händer nu

Ärendet är långt ifrån avslutat. De uppsagda forskarna har signalerat att de tänker fortsätta uttala sig offentligt, vilket sätter press på OpenAI att antingen backa upp sina påståenden med mer konkret bevisning eller riskera ytterligare skadad trovärdighet kring sitt säkerhetsarbete. För alla som följer debatten om AI-säkerhet är det här ett fall värt att hålla koll på — det handlar i grunden om huruvida de bolag som bygger världens mest inflytelserika AI-system faktiskt lyssnar på sina egna varningsklockor.