Meta anklagas för att ha godkänt och tjänat pengar på AI-genererade övergreppsannonser

Meta anklagas för att ha godkänt och tjänat pengar på hundratals annonser med AI-genererat sexuellt övergreppsmaterial mot barn på sina plattformar. Uppgifterna kommer fram i en granskning som lyfts fram av AI Weekly, och de väcker nu allvarliga frågor om hur Meta kontrollerar sina annonssystem — och vilket ansvar techjättar har när AI-verktyg används för att skapa och sprida övergreppsmaterial.

Enligt uppgifterna ska annonser med AI-genererat material som sexualiserar barn ha godkänts i Metas system och därmed genererat intäkter för företaget, innan de upptäcktes och togs bort. Exakt hur många annonser det rör sig om, under vilken tidsperiod detta pågått och vilka specifika plattformar som drabbats är i skrivande stund inte helt klarlagt utifrån de uppgifter som finns tillgängliga. Meta har ännu inte kommenterat anklagelserna offentligt i någon detalj som framgår av rapporteringen.

Varför kunde det här ske?

Det som gör fallet extra allvarligt är att det inte handlar om användargenererat innehåll som smugglats förbi moderering i sociala flöden — det handlar om annonser, alltså material som ska ha passerat Metas granskningsprocess för betald reklam. Att sådant material ska ha godkänts, och att Meta ska ha tjänat pengar på det, sätter fingret på en grundläggande svaghet: automatiserade granskningssystem är inte tränade eller kalibrerade för att upptäcka AI-genererat övergreppsmaterial i samma utsträckning som traditionella bilder och videor.

AI-genererade bilder är svårare att fånga upp än äkta fotografier eftersom de inte alltid matchar kända hash-databaser som används för att identifiera tidigare känt övergreppsmaterial. Det skapar ett kryphål som tycks ha utnyttjats, och som understryker hur snabbt AI-verktyg för bildgenerering har sprungit ifrån de skyddssystem som ska stoppa missbruk.

Vad det betyder för svenska användare och myndigheter

För svenska föräldrar, skolor och myndigheter är fallet en påminnelse om att AI-genererat material redan är en del av vardagen på plattformar som miljontals svenskar använder dagligen. Sverige har inte varit förskonat från AI-relaterade bedrägerier och missbruk tidigare — vi har tidigare skrivit om hur AI-bedrägerier med röster, bilder och chattar blivit allt svårare att upptäcka, och samma tekniska utveckling som gör AI-bedrägerier mer sofistikerade ligger bakom att övergreppsmaterial nu kan genereras i stora volymer.

Fallet aktualiserar också EU:s regelverk. Genom AI-förordningen skärps redan kraven på transparens och ansvar för generativ AI, vilket vi gått igenom i vår genomgång av EU:s nya transparenskrav för AI. Samtidigt pågår ett arbete med att skriva om delar av förordningen i farten, vilket sätter press på både techbolag och svenska bolag som bygger tjänster ovanpå AI-modeller. Frågan är om nuvarande regler räcker för att hålla plattformar som Meta ansvariga när deras egna annonssystem godkänner och tjänar pengar på skadligt innehåll.

Ansvarsfrågan väntar på svar

Så länge Meta inte gett en fullständig offentlig redogörelse för omfattningen av problemet är många frågor obesvarade: hur länge pågick detta, hur mycket pengar rör det sig om, och vilka åtgärder vidtas nu för att förhindra att det upprepas. Det är uppgifter AI-Magasinet följer upp så fort mer information blir tillgänglig.

För läsare som vill förstå den bredare risken med AI-genererat innehåll på nätet — allt från bedrägerier till manipulerat material — är vår genomgång av AI-bedrägerier 2026 ett bra ställe att börja. Den viktigaste takeawayen just nu är dock enkel: granskningen visar att AI-genererat material redan flyter genom de mest använda plattformarna i världen, snabbare än skyddssystemen hänger med — och det är ett problem som varken Meta eller lagstiftare hittills löst.