EU inleder utredning mot Musks X efter AI-genererade sexbilder från Grok

EU-kommissionen uppges granska Elon Musks plattform X efter larm om att AI-verktyget Grok använts för att skapa sexualiserade bilder av verkliga personer utan deras samtycke. Händelsen har satt fingret på en fråga som diskuteras allt mer intensivt i Bryssel: räcker EU:s AI-lagstiftning faktiskt till för att skydda vanliga användare, eller är reglerna redan på efterkälken när AI-verktyg sprids snabbare än lagstiftarna hinner reagera?

Vad vi faktiskt vet just nu

Uppgifterna om en EU-utredning mot X och Grok är ännu inte bekräftade i detalj, och det är oklart exakt vilka beslut som fattats eller vilken tidslinje som gäller. Det som däremot är tydligt är att frågan om AI-genererade sexbilder har blivit en av de mest akuta testerna för EU:s AI-förordning sedan den började tillämpas. The Local lyfter just den frågan — om de nya EU-reglerna verkligen räcker för att skydda européer mot den här typen av missbruk.

Grok är den AI-chattbot som utvecklats av Musks bolag xAI och som är djupt integrerad i X. Verktyget kan generera bilder på begäran, och det är just den funktionen som nu ifrågasätts när den uppges ha använts för att skapa sexualiserat material av personer som inte gett sitt samtycke.

Varför EU:s regler ställs på prov

EU:s AI-förordning, AI Act, bygger på en riskbaserad modell där olika AI-tillämpningar möts av olika grad av krav. Problemet är att verktyg som Grok kan generera innehåll i realtid, vilket gör det svårt för tillsynsmyndigheter att hinna ingripa innan skadan redan är skedd. Vi har tidigare skrivit om hur EU:s AI-förordning skärper transparenskraven för generativ AI — men just bilder av verkliga, namngivna personer utan samtycke är ett område där gränserna fortfarande känns otydliga.

Det här är inte första gången en stor techplattform hamnar i blåsväder för AI-genererat material som rör samtycke och integritet. Vi har tidigare rapporterat om hur Meta anklagats för att ha godkänt AI-genererade övergreppsannonser, vilket visar att problemet inte är unikt för X utan genomsyrar hela branschen.

Vad det betyder för svenska användare

För svenska X-användare är frågan högst konkret. EU-lagstiftning gäller i hela unionen, och om Grok verkligen kan generera sexualiserade bilder av verkliga personer utan spärrar, är det ett direkt hot mot alla som har en offentlig profil — allt från kända personer till vanliga privatpersoner vars bilder ligger uppe på nätet. Sverige har redan klassat spridning av AI-genererat sexuellt material som brott i vissa fall, men lagstiftningen hänger ofta efter tekniken.

Det är också en påminnelse om att gränsen mellan EU:s digitala regelverk, som DSA och AI Act, och plattformarnas egna innehållspolicyer fortfarande är ett lapptäcke. Vi har tidigare skrivit om hur EU klassat ChatGPT som en mycket stor sökmotor med nya krav som följd — ett exempel på hur regelverket ständigt omtolkas i takt med att nya AI-tjänster dyker upp.

Så skyddar du dig själv

Oavsett hur utredningen mot X landar är det klokt att känna till hur man upptäcker manipulerat material. Vår guide om hur du känner igen en AI-bild går igenom sju konkreta tecken som kan avslöja om en bild är genererad eller manipulerad. Vi har också samlat praktiska tips i artikeln om AI-bedrägerier 2026, där AI-genererade bilder är ett av flera växande hot.

Just nu återstår flera obesvarade frågor: exakt vad EU-kommissionen granskar, vilka sanktioner som kan bli aktuella och om X tvingas göra förändringar i Grok. Vi följer utvecklingen och uppdaterar så fort mer bekräftad information finns. Fram tills dess är den viktigaste lärdomen för svenska användare att vara extra vaksam på AI-genererat bildinnehåll — och att veta att lagstiftningen fortfarande springer ikapp tekniken, inte tvärtom.