Uber is door Nederlandse privacytoezichthouders zwaar op de vingers getikt. De aanleiding: geautomatiseerde schorsingen van bestuurders, soms met permanente gevolgen, zonder dat er een menselijke controle was om te toetsen of het systeem een fout maakte.
De toezichthouder stelt dat Uber daarmee in strijd handelde met de AVG. Ook zou Uber bestuurders onvoldoende hebben geïnformeerd over het feit dat besluiten geautomatiseerd werden genomen.
Boete van 825 miljoen euro door AVG-schending
De Nederlandse datawaakhond legde Uber een boete op van 825 miljoen euro. Dat bedrag komt neer op bijna 1 miljard dollar. Volgens de autoriteit overtrad Uber de Algemene Verordening Gegevensbescherming (AVG) doordat het gebruikte maakte van geautomatiseerde besluitvorming die niet is toegestaan wanneer geen menselijke beoordeling plaatsvindt.
De AVG stelt namelijk grenzen aan besluitvorming die volledig op automatisering leunt, zeker wanneer die besluiten grote impact hebben op de rechten of mogelijkheden van de betrokkene. In dit geval ging het om schorsingen die bestuurders direct konden raken in hun inkomen.
Waarom volledige automatisering problematisch is
Het kernpunt van de zaak is helder: volledig geautomatiseerde beslissingen zonder menselijke toets zijn in de AVG niet de bedoeling wanneer die besluiten ingrijpen op iemands positie. De toezichthouder benadrukt dat het ontbreken van een menselijke review nodig is om fouten te detecteren en te corrigeren voordat iemand de dupe wordt.
Daarbij gaat het niet alleen om het technisch laten werken van een systeem, maar om de waarborgen rondom besluitvorming: kun je fouten tijdig vinden, en is er een route om het besluit aan te vechten?
Geen menselijke beoordeling en gevolgen konden permanent zijn
Volgens de toezichthouder gebruikte Uber geautomatiseerde software om driver accounts te schorsen. In sommige gevallen zou die schorsing zelfs permanent zijn geweest. Het probleem volgens de autoriteit was dat er geen menselijke check plaatsvond om te beoordelen of de uitkomst correct was.
De overtredingen zouden hebben plaatsgevonden over een periode van 2018 tot 2022. Dat is relevant omdat het laat zien dat geautomatiseerde besluitvorming niet om incidentele incidenten ging, maar om een patroon over meerdere jaren.
Informatie aan bestuurders schoot tekort
Naast de kwestie rond menselijke toetsing noemt de toezichthouder ook een schending van de informatieplicht. Uber zou bestuurders niet (voldoende) hebben laten weten dat er automatisch beslissingen werden genomen.
Voor bestuurders is transparantie cruciaal: pas als je weet dat automatisering meebeslist, kun je ook effectief beoordelen wat je kunt aanleveren of betwisten. Zonder heldere communicatie wordt de kans groter dat iemand zich niet kan verweren, of dat pas ontdekt wordt nadat de gevolgen al zijn ingetreden.
Uber: we gebruiken wel waarborgen en je kunt in beroep
Uber reageerde met tegenspraak. Het bedrijf stelt dat het de beslissing betwist en in beroep gaat. Volgens Uber heeft de toezichthouder volgens het bedrijf historic beleid onderzocht dat al jaren is stopgezet.
Uber zegt dat het beslissingen die invloed hebben op de mogelijkheid om te verdienen “extreem serieus” neemt. Het bedrijf stelt dat er human reviews zijn, dat er robuuste beschermingsmaatregelen bestaan en dat bestuurders de mogelijkheid hebben om beslissingen aan te vechten als zij denken dat er een fout is gemaakt.
Of en hoe die waarborgen in de onderzochte periode daadwerkelijk werkten, is precies het soort detail dat in rechtszaken en bij toezichthoudersonderzoek doorslaggevend kan zijn.
Vergelijkbare aandacht voor menselijke controle bij AI-besluiten
Deze casus past in een bredere ontwikkeling: organisaties moeten niet alleen kunnen uitleggen waarom een geautomatiseerd model tot een uitkomst komt, maar ook welke rol mensen spelen, en hoe fouten worden voorkomen of hersteld.
Wie kijkt naar AI in security en governance ziet dezelfde spanningen terug: automatisering helpt, maar zonder passende controles ontstaat er een governance- en risico-blindheid. In dat kader kan het interessant zijn om te lezen hoe “shady AI” governance-risico’s kan vergroten: Shady AI: het nieuwe governance-risico voor security.
Ook bij toepassingen van data en digitale processen gaat het vaak mis wanneer gebruikers onvoldoende weten wat er gebeurt. Dat geldt zeker wanneer persoonsgegevens door systemen worden geraakt en er vervolgens een impact op iemands rechten volgt. Denk aan situaties waarin persoonsgegevens bloot komen te liggen, zoals in: Persoonsgegevens bloot door Apollo datalek.
Wat betekent dit voor organisaties die besluiten automatiseren?
Ook als je niet dezelfde sector hebt, is de boodschap breed toepasbaar. De toezichthouder maakt duidelijk dat geautomatiseerde besluitvorming rond gevoelige uitkomsten om extra waarborgen vraagt.
- Beoordeel de status van je automatisering: is het echt volledig geautomatiseerd, of zit er een menselijke stap in die het besluit kan corrigeren?
- Leg vast en bewijs je controles: een beleidstekst is niet genoeg; belangrijk is dat de praktijk klopt met wat in documenten staat.
- Informeer betrokkenen transparant: bestuurders of klanten moeten weten wanneer automatisering betrokken is bij het besluit.
- Maak beroep en correctie mogelijk: een zinvolle route om een uitkomst aan te vechten helpt om schade te beperken als een systeem misgaat.
- Monitor op fouten en uitzonderingen: automatische beslissingen zijn sterk afhankelijk van kwaliteit van input, regels en datasets—en systemen moeten daarop worden gecontroleerd.
Waarom deze boete extra aandacht trekt
Dit is niet de eerste keer dat Uber door een autoriteit onder vuur ligt. De toezichthouder spreekt over het feit dat dit inmiddels de vierde boete tegen Uber is. Een eerder dossier uit 2024 betrof een boete van 290 miljoen euro, in verband met het overdragen van persoonsgegevens van Europese bestuurders naar de Verenigde Staten zonder adequate bescherming.
Dat maakt de zaak niet alleen groot door het bedrag, maar ook door het patroon: privacy en gegevensbescherming lijken structureel een terugkerend thema in de compliance-uitdagingen rond Uber.
Conclusie: geautomatiseerde schorsingen vereisen meer dan software
De zaak draait uiteindelijk om de vraag wat er gebeurt als automatisering beslissingen neemt met grote gevolgen voor mensen. De toezichthouder stelt dat Uber in de periode 2018-2022 geautomatiseerde schorsingen gebruikte zonder menselijke beoordeling en zonder voldoende informatie richting bestuurders.
Uber zegt waarborgen te hebben en gaat in beroep. Voor andere organisaties is dit vooral een waarschuwing: automatiseer processen, maar borg transparantie, menselijke controle en een eerlijk verweer. Dat is niet alleen juridisch van belang, het voorkomt ook dat fouten onnodig hard landen.
