AI och desinformation: deepfakes och källkritik inför valår

I september hölls riksdagsvalet i Sverige — och för första gången var AI-genererat material en del av valrörelsens vardag, inte en framtidsspekulation. Falska videor, klonade röster och AI-bilder spreds i sociala flöden, medan myndigheter och forskare försökte hinna med att varna allmänheten. Nu, med amerikanska mellanårsval i november och fler val i Europa under 2027, är frågan hur vi faktiskt skyddar oss mot nästa våg.

Vad hände under valrörelsen 2026?

Under sommaren och hösten rapporterade flera svenska medier om AI-genererade klipp där politiker tycktes säga saker de aldrig sagt. Inget av fallen var tekniskt avancerat — de flesta kunde avslöjas med enkel källkritik — men spridningshastigheten i sociala medier gjorde att felaktigheterna hann nå stora grupper innan rättelser kom ut. Det här mönstret känns igen från den internationella skandalen kring AI-genererade sexbilder på X, som ledde till att EU inledde en utredning mot plattformen tidigare i år.

Myndigheten för psykologiskt försvar (MPF), som inrättades 2022 specifikt för att möta informationspåverkan och desinformation, var aktiv under hela valrörelsen med varningar och faktagranskning. Myndighetens uppdrag handlar inte om att censurera innehåll, utan om att tidigt identifiera koordinerade påverkanskampanjer — något som blivit betydligt svårare i takt med att AI-verktyg gör det billigare att producera trovärdigt falskt material i stor skala.

Så fungerar dagens deepfakes

Det som skiljer 2026 års deepfakes från tidigare år är inte bara kvaliteten, utan tillgängligheten. Verktyg som tidigare krävde teknisk kompetens och dyr hårdvara finns nu som enkla appar och webbtjänster. En klonad röst kan skapas på några sekunders ljudmaterial, och en trovärdig videosekvens kan genereras på minuter snarare än dagar. Det är samma teknik som ligger bakom legitima verktyg för att klona sin egen röst eller skapa professionella AI-videor — skillnaden ligger helt i hur verktygen används.

EU:s nya regler mot AI-genererat innehåll

Sedan den 2 augusti 2026 gäller transparenskraven i artikel 50 i EU:s AI-förordning (AI Act). Reglerna innebär att AI-genererat eller manipulerat bild-, ljud- och videoinnehåll som föreställer verkliga händelser eller personer ska märkas ut som artificiellt framställt. I praktiken betyder det att plattformar och leverantörer är skyldiga att göra innehållet identifierbart — men hur väl det efterlevs varierar fortfarande kraftigt mellan tjänster, och sanktionerna har hittills varit få.

Det är samma typ av gränsdragningsfråga som dyker upp i andra sammanhang, som när AI-röster av kända personer används utan samtycke. Lagstiftningen hänger ofta efter tekniken, och det är i praktiken användaren som först möter det manipulerade materialet.

Källkritiken är fortfarande ditt bästa skydd

Reuters Institute Digital News Report 2024 visade att en betydande andel av tillfrågade i undersökningen oroade sig för att inte kunna skilja äkta nyheter från falska online — en oro som rimligen bara ökat sedan dess i takt med att verktygen blivit bättre. Samma mönster syns i Sverige, där allt fler svenskar oroar sig för AI samtidigt som de använder det mer än någonsin.

Några konkreta saker att leta efter i misstänkt material: onaturliga ljus- och skuggövergångar, oregelbundna blinkningar, mun­rörelser som inte riktigt matchar ljudet, och bakgrundsdetaljer som ser förvrängda ut. Vi har samlat de vanligaste tecknen i en genomgång av hur du känner igen en AI-bild — sju konkreta tecken som fungerar oavsett vilket verktyg som använts för att skapa bilden.

Vad händer härnäst?

Om en dryg månad, i november 2026, genomförs mellanårsvalen i USA — och flera bevakare väntar sig en ny våg av AI-genererat kampanjmaterial, både från inhemska aktörer och utländska påverkanskampanjer. Samtidigt pekar flera europeiska länder mot val under 2027, vilket gör att frågan om deepfakes och källkritik knappast försvinner från agendan.

Den enskilt mest användbara vanan du kan ta med dig är enkel: innan du delar något känslomässigt laddat — en video, ett citat, en bild av en politiker — ta tio sekunder och fråga dig var det ursprungligen publicerades. Är källan okänd eller obekräftad, vänta med att sprida vidare tills någon etablerad nyhetsredaktion har bekräftat innehållet.