Föräldraorganisation varnar: ChatGPT för tonåringar innebär "oacceptabel risk"

Common Sense Medias säkerhetsinstitut har gett ChatGPT för tonåringar sitt lägsta säkerhetsbetyg efter en granskning som visar att chatbotten i flera fall misslyckades med att varna eller ingripa när unga användare pratade om självskadebeteende och suicid. Organisationen kallar risken "oacceptabel" för barn och unga som använder tjänsten, enligt aiweekly.co.

Testerna ska ha visat att ChatGPT i vissa samtal inte reagerade med de varningar eller hänvisningar till hjälplinjer som man kan förvänta sig när känsliga ämnen som självskada tas upp. För en förälder som tror att barnets AI-chatt har inbyggda skyddsnät är det här en obehaglig påminnelse om att så inte alltid är fallet.

Vad exakt visade granskningen?

Enligt uppgifterna handlade testerna om hur ChatGPT hanterar samtal kopplade till självskadebeteende och suicid hos tonåringar. Det är ännu inte klarlagt i detalj vilka specifika scenarier som testades eller hur OpenAI bemöter kritiken, men betyget "oacceptabel risk" är satt i den strängaste kategorin institutet använder.

Det här är inte första gången AI-bolag får kritik för hur deras system hanterar unga och sårbara användare. Tidigare i höst rapporterade vi om hur OpenAI larmade FBI efter att ha upptäckt en tonårings planerade skolattack – ett exempel på att bolaget faktiskt kan agera när varningssignaler fångas upp. Samtidigt har OpenAI också anklagats för att ha missat varningssignaler inför en skolskjutning i Kanada, vilket visar att träffsäkerheten är långt ifrån garanterad.

Varför det här är relevant för svenska föräldrar

ChatGPT används av miljontals svenska ungdomar, ofta utan att föräldrar är helt medvetna om hur djupa eller personliga samtalen kan bli. Vi har tidigare skrivit om att allt fler svenskar oroar sig för AI samtidigt som de använder det mer än någonsin – och just den här typen av nyhet är sannolikt en del av förklaringen. När en oberoende granskning sätter det lägsta möjliga säkerhetsbetyget på en app som finns i princip alla tonåringars mobil, blir det svårt att vifta bort som ett amerikanskt problem utan koppling till Sverige.

Det finns heller inga svenska regler i dagsläget som kräver särskilda skyddsmekanismer för AI-chattbotar riktade till eller använda av minderåriga. Ansvaret hamnar i praktiken på föräldrar och skolor att själva sätta sig in i riskerna, något som känns igen från tidigare granskningar kring hur AI används och missbrukas i skolmiljö.

Ett mönster av osäkra säkerhetsspärrar

Nyheten ansluter till en bredare trend där stora AI-bolag haft svårt att garantera att deras system följer egna säkerhetsregler konsekvent. Vi har tidigare rapporterat om hur techjättarna inte vågar lova att deras AI-agenter alltid följer säkerhetsreglerna, vilket pekar på samma grundproblem: AI-system kan bete sig oförutsägbart i just de situationer där konsekvenserna är som allvarligast.

För ChatGPT specifikt handlar det nu om något extra känsligt – samtal med unga människor i psykisk kris. Att institutet valt att ge det lägsta tänkbara betyget signalerar att man inte ser det här som ett mindre tekniskt missöde, utan som ett strukturellt problem i hur modellen är byggd för att hantera sårbara användare.

Vad kan föräldrar göra nu?

I väntan på eventuella svar eller åtgärder från OpenAI är det främsta rådet att föräldrar pratar med sina tonåringar om vad de faktiskt använder ChatGPT till, och är tydliga med att chatbotten inte ska ses som en ersättning för professionellt stöd vid psykisk ohälsa. Det är också värt att påminna om att svenska hjälplinjer som BRIS och Mind alltid finns tillgängliga, oavsett vad en AI-chatt råkar svara eller inte svara i stunden.

Den här granskningen är ett tydligt exempel på att AI-verktyg som känns vardagliga och ofarliga kan ha betydande brister när det gäller allvarligast tänkbara situationer. Tills säkerhetsspärrarna bevisligen fungerar bättre är det klokt att inte lita blint på att tekniken fångar upp signaler om självskada eller suicidtankar hos unga användare.