Nederländsk myndighet bötfäller Uber för AI-styrda beslut att avaktivera förare

Den nederländska dataskyddsmyndigheten Autoriteit Persoonsgegevens (AP) har bötfällt Uber med över 800 miljoner euro efter att ha slagit fast att bolaget fattat helt automatiserade beslut om att stänga av förare från sin plattform, utan att en människa varit inblandad i besluten. Det rapporterar CDT Europe's AI Bulletin, som pekar på fallet som ett av de tyngsta exemplen hittills på hur EU:s dataskyddsregler används mot algoritmiska beslutssystem inom gig-ekonomin.

Kärnan i beslutet handlar om att förare avaktiverats — alltså blivit avstängda från att ta uppdrag och därmed förlorat sin inkomst — genom system som fattat besluten på egen hand. Enligt de regler som gäller inom EU har individer rätt att inte bli föremål för helt automatiserade beslut som har betydande konsekvenser för dem, om inte tydliga undantag eller skyddsåtgärder finns på plats.

Varför blev boten så hög?

Böter i den här storleksordningen skickar en tydlig signal till hela plattformsekonomin: det räcker inte att ha ett AI-system som fungerar tekniskt korrekt. Företag måste också kunna visa att en människa faktiskt granskat och kunnat ompröva beslut som drabbar enskilda hårt, som att förlora sitt jobb.

Uber-fallet är intressant för att det inte handlar om en teknisk bugg eller ett enskilt misstag, utan om hur hela beslutsprocessen är byggd. När ett system automatiskt flaggar och stänger av en förare — utan att någon person med mandat att ändra beslutet varit inblandad — bryter det mot grundläggande principer om mänsklig kontroll över automatiserade beslut.

Vad betyder det här för Sverige?

Sverige har en växande skara gig-arbetare inom allt från matleveranser till persontransport, och många av dessa plattformar använder liknande algoritmiska system för att övervaka prestation, betyg och regelefterlevnad. Fallet i Nederländerna visar att tillsynsmyndigheter i EU är beredda att agera kraftfullt när företag låter algoritmer fatta beslut som slår hårt mot enskilda utan mänsklig inblandning.

Det här sker samtidigt som EU:s AI-förordning skrivs om i farten och sätter allt hårdare press på svenska bolag som använder AI i beslutsprocesser. Kombinationen av dataskyddsregler och den nya AI-förordningen gör att svenska företag inom gig-ekonomi, HR och kundhantering behöver se över hur deras automatiserade system fungerar — och framför allt dokumentera att människor faktiskt kan gripa in.

Det gäller inte bara transport- och leveransbranschen. Samma logik som ligger bakom Uber-boten kan i förlängningen appliceras på svenska arbetsgivare som använder AI för att sortera jobbansökningar, bedöma prestationer eller fatta beslut om uppsägningar. Läs mer om hur detta redan syns i Så förändrar AI den svenska arbetsmarknaden 2026.

Skärpta krav på transparens väntar fler bolag

Uber-fallet kommer samtidigt som EU:s AI-förordning skärper transparenskraven för generativ AI, vilket sammantaget pekar mot en tuffare linje från europeiska tillsynsmyndigheter mot företag som lutar sig på automatiserade system utan tillräcklig mänsklig insyn. För svenska bolag som bygger eller köper in AI-drivna beslutssystem blir slutsatsen tydlig: dokumentera mänsklig granskning, eller riskera att stå näst på tur.

Uber har enligt uppgifterna möjlighet att överklaga beslutet, och det återstår att se om böterna faller ut i sin helhet. Men signalvärdet är redan satt — nästa gång ett AI-system fattar ett beslut som kan kosta någon jobbet, måste det finnas en människa som svarar för det.