OpenAI larmade FBI – stoppade tonårings planerade skolattack i Argentina

OpenAI larmade FBI efter att ha upptäckt att en 15-årig pojke i Argentina använde ChatGPT för att planera en skolattack till 2027. Tipset gick vidare till argentinsk polis, som kunde stoppa planerna innan de blev verklighet. Det uppger AI Weekly i sin dygnsöversikt.

Enligt uppgifterna hade tonåringen under en längre tid konverserat med chattboten om detaljer kring en attack. OpenAI:s system flaggade konversationerna som varningssignaler, vilket ledde till att bolaget kontaktade amerikanska myndigheter. FBI förmedlade sedan informationen till Argentina, där polisen kunde ingripa innan pojken hann genomföra något.

Så upptäckte OpenAI varningssignalerna

Exakt vilka tekniska system OpenAI använder för att flagga potentiellt farliga konversationer är inte offentligt i detalj, men händelsen visar att bolaget aktivt övervakar chattmönster som kan tyda på planerat våld. Det handlar inte om enstaka nyckelord utan om en sammantagen bedömning av hur en användare formulerar sig över tid.

Att ett AI-företag går så långt som att kontakta FBI är ovanligt och sätter fingret på en fråga som blivit allt mer aktuell: var går gränsen mellan att skydda användarnas integritet och att förhindra brott? OpenAI verkar här ha landat i att skyldigheten att förhindra en skolattack väger tyngre än att låta konversationen förbli privat.

Debatten som redan pågår i Sverige

Frågan om AI-chattbotars ansvar när unga användare visar tecken på att må dåligt eller planera våld är inte bara amerikansk eller argentinsk. Vi har redan sett svenska exempel på att chattbotar ger egna råd istället för att hänvisa vidare till professionell hjälp, något som en studie om AI-chattbottar och professionell hjälp visat kan få allvarliga konsekvenser.

Många unga i Sverige använder chattbotar dagligen, både för skolarbete och för att prata om känslor och problem. Det gör frågan om larmrutiner högaktuell även här — särskilt i takt med att skolor och lärare i allt högre grad låter eleverna använda AI-verktyg i vardagen, vilket vi skrivit om i hur AI förändrar den svenska skolan.

Vad betyder det här för svenska föräldrar och skolor?

Fallet i Argentina visar att stora AI-bolag som OpenAI faktiskt har system på plats för att upptäcka och agera på allvarliga varningssignaler, även om detaljerna kring hur ofta det sker eller vilka trösklar som gäller inte är offentliga. För svenska föräldrar och skolor blir slutsatsen att chattbotar inte är anonyma i den bemärkelsen många tror — extrema uttalanden kan flaggas och leda till att myndigheter kopplas in.

Samtidigt väcker det obekväma frågor. Hur mycket övervakning är rimlig, och vem avgör var gränsen går mellan ett tonårigt utbrott och en faktisk risk? Det är en balansgång som varken OpenAI eller svenska myndigheter ännu har ett färdigt svar på, men som med all sannolikhet kommer diskuteras mer i takt med att fler barn och unga använder AI-chattbotar dagligen. Den som själv känner oro kring AI:s roll i ungas liv kan läsa mer i vår genomgång av AI-ångest och vad som faktiskt hjälper.

Händelsen i Argentina blev en framgång — attacken stoppades innan den hann ske. Men den visar också att AI-bolagens roll som väktare av säkerhet just nu formas i realtid, fall för fall, utan tydliga regler för när och hur myndigheter ska kopplas in.