Nytt AI-verktyg för att upptäcka deepfakes
YouTube utökar nu sitt arbete mot AI-manipulerade videor genom att ge fler offentliga personer tillgång till ett verktyg som kan hitta deepfakes där deras ansikten har kopierats digitalt. Satsningen är ett tydligt tecken på att plattformen ser AI-impersonation som ett växande problem – inte bara för kändisar, utan också för journalister, politiker och andra personer som påverkar samhällsdebatten.
Vad har hänt?
YouTube har meddelat att bolagets så kallade likeness detection-verktyg nu utökas till en pilotgrupp som inkluderar journalister, myndighetspersoner och politiska kandidater. Tidigare har funktionen främst funnits tillgänglig för utvalda kreatörer i YouTubes partnerprogram, men plattformen vill nu ge ett bredare skydd till personer som löper större risk att bli måltavlor för AI-genererade imitationer.
Bakgrunden är enkel att förstå. Det har blivit betydligt lättare att skapa trovärdiga videor där en persons ansikte eller röst manipuleras med hjälp av generativ AI. Tekniken kan användas till parodi eller underhållning, men också för att sprida falska budskap, skapa vilseledande klipp eller undergräva trovärdigheten hos offentliga personer. Just därför blir frågan särskilt känslig när det gäller journalistik, politik och annan offentlig kommunikation.
För YouTube handlar det här inte bara om en ny teknisk funktion, utan om att försöka ligga steget före en utveckling där AI kan användas för att manipulera människors uppfattning om vad som är äkta. Plattformens besked visar också att deepfakes inte längre ses som ett nischproblem för teknikvärlden, utan som något som direkt påverkar informationsflöden, valrörelser och förtroendet för medier.
Så fungerar verktyget
YouTube beskriver systemet som ett slags motsvarighet till Content ID, men för en persons likhet i AI-genererat innehåll. I stället för att leta efter upphovsrättsskyddat ljud eller video söker verktyget efter innehåll där en persons ansikte ser ut att ha simulerats eller kopierats med AI. Om systemet hittar möjliga träffar kan den berörda personen granska materialet och avgöra om det ska anmälas för borttagning.
Det betyder inte att alla videor automatiskt försvinner bara för att de innehåller AI-genererade element. YouTube har varit tydligt med att varje begäran fortfarande bedöms enligt plattformens regler, särskilt när det gäller integritet, kontext och undantag för satir eller parodi. Med andra ord är verktyget inte en automatisk censurknapp, utan snarare ett sätt att snabbare upptäcka innehåll som annars hade kunnat spridas länge innan den drabbade ens kände till det.
För att använda funktionen krävs också verifiering. Den som går med i programmet måste skicka in en video och en giltig ID-handling för att YouTube ska kunna säkerställa att rätt person står bakom begäran. Plattformen säger samtidigt att detta verifieringsmaterial inte ska användas för att träna företagets AI-modeller, vilket är en viktig detalj i en tid då många användare blivit mer skeptiska till hur teknikbolag återanvänder insamlad data.
I praktiken fyller verktyget två funktioner. Dels hjälper det den utsatta personen att upptäcka videor som annars hade varit svåra att hitta manuellt. Dels skapar det en tydligare process för hur en plattform ska hantera deepfake-liknande material när det rör verkliga individer. Det gör inte problemet obefintligt, men det gör reaktionstiden kortare och ansvaret tydligare.
Varför YouTube agerar nu
Tidpunkten är knappast slumpmässig. Under de senaste åren har generativ AI blivit snabbare, billigare och enklare att använda. Det innebär att en person med ganska begränsad teknisk kunskap i dag kan skapa klipp som ser övertygande ut, särskilt i sociala flöden där användare ofta reagerar snabbt och inte alltid granskar källan särskilt noggrant.
För just journalister, politiker och offentliga företrädare innebär det en ny typ av risk. Ett fabricerat klipp kan få stor spridning innan det hunnit granskas, och även om det senare motbevisas kan skadan redan vara skedd. Därför är YouTubes expansion av verktyget också ett försök att skydda den offentliga diskussionens integritet, inte bara enskilda individer.
Det är också tydligt att plattformar nu känner större press att visa att de har konkreta skydd på plats. Diskussionen om AI har gått från fascination kring nya möjligheter till en mer praktisk fråga om ansvar, verifiering och gränsdragningar. För YouTube blir detta särskilt viktigt eftersom videoformatet har hög trovärdighet hos många användare. När en falsk video känns verklig ökar risken för att den uppfattas som sann – särskilt om den bekräftar något tittaren redan vill tro.
Ur ett bredare perspektiv är detta ytterligare ett tecken på att AI-plattformar och innehållsplattformar närmar sig samma problem från två håll. De ena gör det enklare att skapa syntetiskt innehåll, de andra måste bygga system för att begränsa skadeverkningarna när samma teknik missbrukas.
Vilka får tillgång?
YouTube säger att utökningen sker som ett pilotprogram, vilket betyder att verktyget inte öppnas brett för alla användare direkt. Fokus ligger istället på grupper som bedöms vara särskilt utsatta för AI-impersonation: journalister, myndighetspersoner och politiska kandidater. Det följer logiken att skadan kan bli extra stor när manipulerade videor påverkar nyhetsrapportering, offentliga uttalanden eller politisk kommunikation.
Samtidigt visar upplägget att YouTube fortfarande rör sig försiktigt. Plattformen verkar vilja testa systemet i en mer kontrollerad form innan en eventuell bredare utrullning. Det kan handla om både tekniska och juridiska skäl. Om verktyget ska fungera i större skala måste det vara tillräckligt träffsäkert för att hitta relevant innehåll utan att skapa stora mängder felaktiga träffar eller onödiga borttagningskrav.
Det säger också något om hur plattformar prioriterar i AI-frågor just nu. Snarare än att försöka lösa hela deepfake-problemet på en gång fokuserar de på kategorier där samhällseffekten kan bli störst. På så sätt blir programmet också en signal: vissa typer av AI-manipulation är inte längre bara ett modereringsproblem, utan något som kopplas till demokratisk stabilitet och tillit i offentligheten.
Vad betyder det för framtidens AI-innehåll?
YouTubes besked visar att plattformarna nu börjar bygga ett nytt lager av försvar mot AI-genererat innehåll. Under en period har mycket av fokus legat på hur snabbt tekniken utvecklas och vad den gör möjligt. Nu blir frågan allt oftare vad som krävs för att systemen också ska vara hanterbara när de används på fel sätt.
Det här kan bli särskilt viktigt inför kommande valrörelser, större nyhetshändelser och kriser där falska videor kan få stor påverkan på kort tid. Men det har också betydelse långt utanför politiken. Om vanliga användare börjar känna att de inte längre kan lita på vad de ser i videoform riskerar hela ekosystemet för digitalt innehåll att påverkas.
För kreatörer och mediehus är utvecklingen dubbel. Å ena sidan blir det tydligare vilka verktyg som finns för att skydda identitet och material. Å andra sidan höjs ribban för transparens kring hur AI används i innehåll. Ju mer vanligt det blir att syntetiska röster, ansikten och videoelement förekommer i produktion, desto viktigare blir det att publiken förstår när något är manipulerat och när det inte är det.
Det betyder att kampen mot deepfakes sannolikt inte kommer avgöras av ett enda verktyg. Men YouTubes expansion är ändå ett viktigt steg, eftersom den visar att plattformen nu försöker bygga praktiska skyddsmekanismer innan problemet växer sig ännu större.
About the Author
