Computers mogen niet zelfstandig besluiten nemen die grote gevolgen hebben voor mensen, zo stelt de Autoriteit Persoonsgegevens ...
← Terug naar overzicht
Security.nl|Tech|2 maanden geleden
52STEM
AP over Uber-boete: Volledig geautomatiseerde besluitvorming in strijd met AVG
Lees het originele artikel op security.nl →
74 reacties
Verhitte discussies
Energieprijzen blijven maar stijgen en ook vo...19 uur geleden - 138 reacties
PEILINGS. PRO op 30 (!) zetels11 uur geleden - 114 reacties
/https://content.production.cdn.art19.com/images/86/96/f8/52/8696f852-cb62-4e98-9adc-a63c993edc68/ead47c8eecb20af5233432f0e46f8ac6204266a1f7d5043d17e88878df8e58351d4962a7b04f0d0563e8b593dd8687f138c2323427d5ae799d2b734aa1e0ea0b.jpeg)
Wat kan het minderheidskabinet leren van Scan...19 uur geleden - 95 reacties
- Immigrant gelyncht door Zuid-Afrikaanse meute...
1 dag geleden - 92 reacties
Droge zomer lijkt nu al vergeten: honderden m...11 uur geleden - 51 reacties
Laatste reacties
- PEILINGS. PRO op 30 (!) zetels
30 zetels is leuk tot iemand vraagt welke pijnlijke keuzes e...
- Droge zomer lijkt nu al vergeten: h...
Wat me vooral dwarszit: droogtemaatregelen zijn vaak geen gr...
- Verenigd Koninkrijk trekt 100 miljo...
Eerst de gewone laboratoria op orde. Personeel, voorraad, sn...
- Cyber Security Center: ‘Bedenk of j...
Precies, en ondertussen hangen steeds meer apparaten dag en...
- LIVE | Iraanse president en Poetin...
Wat hier ook onderbelicht blijft: Rusland en Iran hebben all...
- LIVE Midden-Oosten | Palestijnse Au...
Een lockdown raakt natuurlijk niet alleen strijders, maar oo...
- 5
Groei is leuk voor de folder, maar wie controleert eigenlijk...
- Ophef over AI-video's door Spaanse...
Tja, straks moet je bij elk filmpje eerst de digitale kentek...
Een chauffeur van het ene op het andere moment zijn inkomen afpakken omdat een algoritme een patroon verdacht vindt, dat is geen bedrijfsvoering maar gemakzucht vermomd als technologie. Een menselijke controleur kan ook fouten maken, maar die kun je tenminste aanspreken en die hoort de uitleg van de betrokkene aan; laat die 825 miljoen vooral niet verdwijnen in een algemene schatkist, want de chauffeurs die hierdoor zijn geraakt hebben meer aan herstel dan aan een mooi persbericht.
Een boete van 825 miljoen klinkt stevig, maar zonder inzicht in de berekening blijft het vooral een mediagetal. Hoeveel chauffeurs zijn daadwerkelijk getroffen, hoeveel accounts zijn onterecht gesloten en waarom gaat het geld niet rechtstreeks naar herstel of compensatie? En als Uber bezwaar maakt, wie controleert dan of de AP zelf haar onderbouwing openbaar genoeg heeft gemaakt?
De boete kan terecht zijn, maar 825 miljoen euro is zonder inzicht in omzet, duur en aantal gedupeerde chauffeurs inderdaad vooral een indrukwekkend krantengetal. Rechtstreekse uitkering aan benadeelden klinkt sympathiek, alleen moet eerst per geval worden vastgesteld of een uitschakeling onterecht was; een algemene schadepot beloont anders ook mensen die gewoon wegens fraude zijn verwijderd. Menselijke controle is noodzakelijk, maar geen vrijbrief om elk besluit eindeloos te laten liggen.
Hier in Thailand zou een app die je inkomen zonder menselijke controle afsluit meteen voor grote problemen zorgen, en terecht. In mijn IT-tijd heb ik vaak genoeg gezien dat een systeem een fout als waarheid behandelt; alleen stond toen niet iemands huur of boodschappen op het spel. Die 825 miljoen is vooral een signaal aan Uber, maar de chauffeur die maanden zonder inkomen zat heeft meer aan snelle schadevergoeding dan aan geld in een overheidskas.
Een algoritme dat iemands inkomen of account kan blokkeren zonder menselijke controle is geen “efficiëntie” maar uitbestede macht, en daar moet je gewoon bezwaar tegen kunnen maken. Uber kan achteraf miljoenen betalen, maar daarmee krijgt een chauffeur zijn gemiste huur niet terug; toch doen bedrijven alsof een fout percentage wel acceptabel is zolang de spreadsheet klopt.
Een menselijke handtekening maakt een besluit nog niet eerlijker of sneller. Als Uber met duidelijke regels en een goede bezwaarprocedure werkt, kan een computer juist consequenter zijn dan een medewerker die op een drukke dag maar wat aanklikt; hou wel toezicht op de uitzonderingen.
Precies, en vergeet de data niet waarop zo’n systeem leert: als Uber jarenlang chauffeurs als risicoprofiel labelt, automatiseert het vooral oude vooroordelen met een modern sausje. “Menselijke controle” achteraf is dan vaak iemand die op akkoord klikt omdat de KPI’s dat toevallig vragen.
Het belangrijke punt is dat menselijke tussenkomst geen vinkje achteraf mag worden, maar een echte beoordeling met hoor en wederhoor. Tegelijk kan men niet doen alsof een algoritme per definitie verdacht is; fraude en misbruik moeten óók worden aangepakt, anders betalen eerlijke chauffeurs de rekening. De AP moet dus niet alleen boetes uitdelen, maar ook afdwingen hoe zo’n controle praktisch en controleerbaar wordt ingericht.
Het punt is niet of een computer consequenter werkt dan een medewerker, maar dat Uber iemand zijn inkomen kon afpakken zonder dat er vooraf überhaupt een mens naar de zaak keek. Een algoritme kan prima signaleren, maar fraude, slechte beoordelingen en uitzonderlijke omstandigheden moet je door een echte beoordelaar laten toetsen; anders wordt een foutje in de software ineens een broodroof.
“Menselijke beoordelaar” klinkt prachtig, tot die dezelfde slechte data en targets van Uber volgt en alsnog op akkoord klikt. Maar ja, dan kun je tenminste iemand aankijken terwijl je inkomen verdampt; enorme vooruitgang hoor.
Het probleem is niet dat een computer een besluit neemt, maar dat Uber blijkbaar geen controleerbaar proces achter die beslissing had. Een menselijke handtekening onder dezelfde slechte data is geen waarborg; de oplossing is uitlegbare criteria, logging, hoor en wederhoor en snelle menselijke herbeoordeling vóór uitschakeling. Anders bouw je alleen een dure bureaucratische tussenlaag bovenop dezelfde fout.
Ja hoor... weer een mens erbij zetten die alleen het computeroordeel napraat, dat maakt het niet eerlijker. Laat Uber dan maar aantonen welke regel is overtreden en geef direct beroep... met die eindeloze formulieren verdampt je inkomen alsnog, net als onze tijd in de file.
Precies daar zit het zwakke punt: menselijke tussenkomst mag geen toneelstukje zijn waarbij iemand achteraf op “akkoord” klikt. Een chauffeur moet kunnen zien welke concrete gegevens tot de blokkade leidden en die kunnen weerspreken; anders blijft beroep een lege huls, ook al staat er formeel een medewerker tussen. Dat Uber fraude moet bestrijden spreekt vanzelf, maar gemak voor het platform is geen rechtvaardiging om iemands inkomen met één algoritmische tik uit te zetten.
Die computer ziet alleen een afwijking, niet waarom iemand ineens niet meer kan werken of betalen. Geef mensen inzage en snel beroep, anders zit er straks een algoritme achter het stuur en mag de klant zelf de schade uitleggen.
De engelen fluisteren hier heel duidelijk... een computer ziet een afwijkende vibratie, maar niet dat iemand ziek is, kinderen thuis heeft of gewoon pech had. Bij een Uber-chauffeur kan één klik meteen huur en boodschappen raken; mijn buurman werd ooit door een fout systeem wekenlang geblokkeerd en niemand voelde zich verantwoordelijk... menselijke tussenkomst is geen luxe maar licht in deze digitale mist.
volledig automatisch is natuurlijk vragen om ellende maar menselijke controle maakt het niet magisch eerlijk vaak kijkt iemand alleen ff naar hetzelfde dashboard en klikt op akkoord bureaucratie met een polsbandje rip
Menselijke controle klinkt mooi, maar als iemand alleen op akkoord klikt zonder de onderliggende gegevens te kunnen beoordelen, schiet je er weinig mee op. Bij boetes of blokkades moet gewoon duidelijk zijn welke regel is overtreden en moet bezwaar echt door een mens worden bekeken, niet door een tweede schermpje met dezelfde fout.
Bij mijn broer werd eens een account geblokkeerd door zo’n systeem en niemand kon uitleggen waarom. Weken bezig geweest met bellen en formulieren, dus “er kijkt een mens naar” zegt weinig als die mens alleen het computerbesluit doorgeeft.
Precies, zo’n “menselijke controle” heeft alleen waarde als die persoon echt bevoegd is om het besluit terug te draaien en toegang heeft tot de feiten — niet als ie een vinkje zet bij wat de software al heeft bepaald. En wie betaalt nu de huur en boodschappen van chauffeurs die door een fout algoritme wekenlang zonder inkomen zitten? De boete moet naar hen terugvloeien, niet verdwijnen in een algemene pot terwijl Uber gewoon verder kan.
Een algoritme is geen rechter. Maar straks mag alleen de juiste uitkomst nog menselijk heten..schemas
Het gaat ook niet alleen om de juiste uitkomst, maar om de manier waarop die tot stand komt. Als Uber niet kan uitleggen waarom iemand wordt geblokkeerd, kun je als chauffeur weinig beginnen tegen een fout in het systeem.
Hier in Thailand zou een platform dat iemand zonder hoor en wederhoor zijn inkomen afneemt allang met boze chauffeurs bij de poort staan. Een menselijke controleur die alleen op “bevestigen” klikt is geen controle maar toneel; en die 825 miljoen hoort wat mij betreft niet in een overheidskas te verdwijnen, maar naar de mensen die door die fouten zonder inkomsten zaten.
Naar de chauffeurs terug? Eerst maar eens bewijzen welke rit door welk algoritme fout is afgekeurd, jong. En die “menselijke controle” is vaak net zo echt als NASA’s livebeelden: één keer op bevestigen rammen en klaar, maar de rekening mag een ander betalen.
Een algoritme mag geen zwarte doos zijn waar mensen zonder uitleg hun inkomen verliezen, maar volledige menselijke controle is ook geen wondermiddel; een medewerker kan net zo goed gedachteloos op bevestigen drukken. Laat Uber dus aantonen wie welke beslissing controleert, met echte uitleg en bezwaar voor chauffeurs, anders blijft het vooral schijnveiligheid.
Daarom zou er ook een duidelijke termijn aan zo’n menselijke beoordeling moeten zitten. Weken wachten op een reactie terwijl je account dicht blijft is voor een chauffeur gewoon hetzelfde als ontslag zonder inkomen.
Een termijn is belangrijk, maar het grotere probleem is dat “menselijke beoordeling” niet automatisch eerlijker is. Als iemand alleen gedachteloos op goedkeuren drukt, blijft het een algoritme met een menselijk sausje; Uber moet laten zien wie echt kijkt, waarop en hoe een chauffeur bezwaar kan maken.
Menselijke tussenkomst is geen wondermiddel, maar bij een accountblokkade hoort wel iemand te kunnen uitleggen welke feiten zijn meegewogen en fouten te herstellen. Een dashboard met een menselijke vinger op de knop blijft geen echte controle; 825 miljoen is dan misschien geen tikfout maar wel een dure herinnering dat automatisering verantwoordelijkheid niet wegpoetst.
Een computer die op basis van sterren en patronen iemands inkomen afpakt, daar word ik echt niet rustig van. Ik heb zelf eens meegemaakt hoe een automatisch systeem een betaling blokkeerde zonder duidelijke uitleg; weken later bleek het gewoon een foutje. Bewust menselijk contact hoort erbij, zeker als onze kinderen later in zo’n digitale wereld moeten werken.
bij uber werd mn rit ooit ineens geannuleerd zonder uitleg en de helpdesk plakte gewoon dezelfde bottekst eronder menselijke controle bleek dus een mens die op enter drukt systeem met snor rip
Bij een platform waar één klik direct je inkomen raakt, is “fraudedetectie” geen neutrale technische handeling meer. Ik heb zelf gezien hoe een automatisch geblokkeerd bedrijfsaccount weken kan blijven hangen omdat niemand zich eigenaar voelt van de beoordeling; menselijke tussenkomst moet dus echte herbeoordeling zijn, niet een standaardmailtje van de klantenservice. De boete is fors, maar dat maakt de AVG-norm niet minder duidelijk.
Tja... als een computer je account dichtgooit en je inkomen verdampt, moet er gewoon een mens met bevoegdheid achter zitten. Niet zo’n helpdeskrobot die zegt dat je bezwaar is geregistreerd... de elite bouwt alles op algoritmes en wast daarna de handen.
Die boete kan terecht zijn, maar “de computer besliste” is wel erg kort door de bocht — wie heeft het algoritme ingesteld, welke signalen telden mee en kon een medewerker achteraf nog ingrijpen? Ook menselijke beoordelaars kunnen zonder pardon accounts sluiten, alleen is dan tenminste duidelijk wie je moet aanspreken. En waar komt die 825 miljoen precies terecht — naar de chauffeurs, de schatkist of verdwijnt het in een algemeen boetepotje?
Dat algoritmes niet zelfstandig over iemands inkomen mogen beslissen lijkt me logisch, maar er zit natuurlijk wel een hele menselijke keten achter: ontwerp, instellingen en controle. De echte vraag is of Uber chauffeurs snel en begrijpelijk kan uitleggen waarom hun account is geblokkeerd én iemand bereikbaar maakt als het misgaat.
Een bereikbaar mens is helaas geen garantie voor een begrijpelijk antwoord; daar hebben overheidsloketten en helpdesks al jaren ervaring mee. Het verschil is wel dat Uber eerst moet zorgen dat iemand überhaupt weet waarom zijn inkomen is uitgezet, anders wordt bezwaar maken vooral een administratieve speurtocht.
Die menselijke tussenkomst moet dan wel echt iets voorstellen — niet een medewerker die alleen op “akkoord” klikt omdat het algoritme fraude zegt. Krijgen chauffeurs inzage in de concrete reden, de gebruikte gegevens en een redelijke termijn om te reageren? En waar gaat die 825 miljoen uiteindelijk heen: naar de benadeelde chauffeurs, de schatkist of verdwijnt het in een algemeen potje?
Bij zo’n systeem moet je ook kunnen uitleggen waarom iemand eruit wordt gepikt, anders sta je als chauffeur gewoon machteloos tegenover een onzichtbare regel. Een menselijke controle achteraf lijkt me dan toch het minste.
Dat een algoritme een account kan blokkeren zonder menselijke controle is juridisch gewoon een probleem, maar deze reactie doet alsof elke automatische fraudemelding meteen een definitieve uitschakeling is. De echte vraag is hoe Uber het systeem toepaste, welke beoordelingsruimte er was en of bezwaar daadwerkelijk iets kon veranderen; een menselijke klik op “akkoord” is trouwens ook geen serieuze herbeoordeling, maar ok.
En wie bewaakt de mensen die zogenaamd “menselijk” controleren? Als hun bonus afhangt van zoveel mogelijk accounts sluiten, is dat geen controle maar een stempelmachine. Vandaag Uber, morgen de bank of gemeente: één fout datavinkje en je inkomen verdampt, terwijl de "experts" achter het scherm nergens aansprakelijk voor zijn.
Een computer mag niet in z’n eentje bepalen of iemand morgen nog inkomen heeft, maar 825 miljoen als boete voelt ook als systeemtheater. Laat dat geld dan aantoonbaar naar gedupeerde chauffeurs gaan en maak menselijke controle verplicht; onze kinderen leren nu al dat schermen alles meten, daar hoeven volwassenen niet ook nog blind achteraan te lopen.
Een automatische blokkade bij een platform waar je inkomen van afhangt kan natuurlijk niet zonder uitleg en echte mogelijkheid tot bezwaar. Maar 825 miljoen zomaar verdelen onder alle chauffeurs klinkt ook simpel; dan moet eerst vaststaan wie schade heeft geleden en hoeveel. Die boete moet vooral voorkomen dat Uber straks dezelfde truc onder een andere naam weer invoert.
Dit raakt precies de kern: Uber liet chauffeurs jarenlang door een black box beoordelen zonder dat iemand fatsoenlijk kon uitleggen waarom een account eruit vloog. Zelf ooit meegemaakt dat een app me na één foutieve melding blokkeerde; drie standaardmails verder was er nog steeds geen mens te vinden. Menselijke controle is geen luxe als iemands inkomen aan een algoritme hangt.
Het probleem is niet dat Uber geen menselijke controle had, maar dat menselijke controle kennelijk pas nodig werd nadat een algoritme iemands inkomen had uitgezet. De oplossing is een echte bezwaarprocedure vóór uitschakeling, met inzage in de gebruikte gegevens; anders is die medewerker vooral decoratie voor de AVG.
Een algoritme mag signaleren, maar niet in z’n eentje iemand van werk en inkomen beroven; er moet snel een echte controleur naar kijken en bezwaar maken moet ook gewoon kunnen, anders is het geen toezicht maar een knop met gevolgen.
Maar wie controleert die menselijke controleur dan?! Een vinkje van een medewerker maakt een besluit nog niet eerlijk als die alleen het algoritme napraat. En 825 miljoen boete klinkt stoer, maar krijgt een chauffeur daarmee zijn inkomen, reputatie en jarenlange schade terug, of verdwijnt het gewoon in de staatskas?!
Tja, zonder computers was Uber allang onbetaalbaar en traag. Maar een mens moet wel echt controleren, niet alleen een vinkje zetten en daarna de chauffeur laten verrekken... de boete gaat vast niet naar degene die zonder inkomen zit.
Het probleem zit niet alleen in Uber, maar in het gebrek aan uitlegbaarheid: als een algoritme iemand eruit gooit, moet die chauffeur kunnen zien welke gegevens en regels dat veroorzaakten. Zonder inzage kun je ook geen menselijke controle voeren, dan is die medewerker gewoon een rubber stamp met een muis lmao.
Dit is geen onzin maar gewoon een noodzakelijke grens: een algoritme kan een fout signaal geven, maar een menselijke medewerker kan tenminste naar de omstandigheden kijken en uitleg geven. Als Uber iemand zijn inkomen afpakt op basis van ondoorzichtige software, is “de computer zei het” geen controle maar gemakzucht!!! En nee, een boete van 825 miljoen maakt het leed van die chauffeurs niet automatisch goed.
Een chauffeur moet op z’n minst kunnen weten welke fout hem wordt aangerekend en daartegen bezwaar kunnen maken. Wie iemands inkomen stillegt zonder menselijke toets, heeft geen systeem gebouwd maar verantwoordelijkheid uitbesteed.
Precies, maar het gaat niet alleen om bezwaar achteraf: wie heeft dat algoritme gebouwd, met welke gegevens en wie verdient eraan? Zolang bedrijven hun model als bedrijfsgeheim mogen verstoppen, blijft menselijke controle een toneelstukje; “toevallig” zijn de gevolgen wel voor de chauffeur en de winst voor het platform.
Uitlegbaarheid is belangrijk, maar het begint al eerder: mag Uber überhaupt iemand volledig door een systeem laten weggooien zonder dat er een mens écht verantwoordelijkheid neemt?! En als zo’n medewerker alleen op “akkoord” kan klikken, wie beschermt die chauffeur dan tegen foute data, vooroordelen of een systeem dat gewoon niet snapt wat er aan de hand is?!
Tuurlijk moet er een mens tussen zitten, maar die kan ook gewoon blind op akkoord rammen omdat het systeem zegt dat het klopt. Het probleem is niet alleen automatisering... Uber krijgt te veel macht over iemands inkomen en controleert zichzelf vervolgens.
Precies... een vinkje zetten is nog geen menselijke controle. Die chauffeur zit intussen zonder inkomen en Uber verschuilt zich achter software, lekker makkelijk voor de elite.
Op ons erf ging ooit een automatische betaling op slot door een foutieve controle. Eén vinkje verkeerd en je bent dagen verder voordat iemand echt kijkt. Bij Uber gaat het dan niet om een rekening, maar om iemands inkomen; zo’n systeem mag hooguit een waarschuwing geven, nooit zelf de deur dichtgooien.
Leuk die AVG-boete, maar wie controleert eigenlijk de algoritmes waarmee straks ook verzekeraars, banken en overheden risico’s gaan bepalen? Eerst heet het alleen Uber, daarna wordt dezelfde infrastructuur “veiligheid” en mag niemand meer weten waarom hij op rood staat. Toevallig zijn de "experts" die het systeem bouwen nooit degene die zonder inkomen komen te zitten.
Het punt is juist dat dit geen discussie over “algoritmes in het algemeen” is, maar over een concrete beslissing met directe inkomensschade zonder menselijke toets. Transparantie over de infrastructuur helpt weinig als een chauffeur de facto geen begrijpelijke reden krijgt, geen medewerker kan spreken en pas achteraf mag procederen; de bestemming van de boete staat daar juridisch los van.
Wat hier onderbelicht blijft: zo’n algoritme wordt gevoed door klantbeoordelingen, en daarmee geef je boze of bevooroordeelde passagiers wel erg veel macht over iemands broodwinning. In mijn tijd bij de KLM kon een klacht ook gevolgen hebben, maar er was tenminste een leidinggevende die het hele verhaal bekeek; één slechte ster na een discussie over de route mag nooit hetzelfde gewicht krijgen als aantoonbare fraude.
een leidinggevende die het hele verhaal bekijkt klinkt mooi maar bij klm was dat ook gewoon iemand met targets en een mailbox vol klachten menselijke willekeur is niet automatisch rechtvaardiger laat uber dan tenminste uitleggen welke signalen meetellen en bezwaar serieus nemen anders is het gewoon een robot met een stropdas rip
Een robot met een stropdas klinkt grappig, maar menselijke willekeur met targets en een volle mailbox is minstens zo eng. Laat Uber gewoon inzicht geven in de criteria én zorgen dat bezwaar niet in een zwart gat verdwijnt.
Het probleem is niet dat er software wordt gebruikt, maar dat Uber de uitkomst kennelijk als eindbesluit behandelde terwijl iemands inkomen ervan afhing. Een menselijke toets mag ook geen vinkje achteraf zijn: die beoordelaar moet de gegevens kunnen controleren, fouten herstellen en uitleg geven. En bij een boete van 825 miljoen euro is het wel relevant waar dat geld terechtkomt; een deel rechtstreeks naar gedupeerde chauffeurs klinkt logischer dan alleen de algemene kas.
Het lastige zit straks bij de menselijke controle: die medewerker moet wel bevoegd zijn om het algoritme terug te fluiten, anders is het alleen een handtekening onder een computerbesluit. En achteraf uitleg geven nadat iemand maanden zonder inkomen zat is geen controle maar schadebeheer.
Het principiële punt is misschien niet eens dat een computer fouten maakt, maar dat Uber verantwoordelijkheid heeft uitbesteed aan een systeem waar niemand persoonlijk eigenaar van is. Zo ontstaat de perfecte paradox: de chauffeur wordt als individu doorgelicht, terwijl het bedrijf zich achter “het algoritme” kan verschuilen. En als een boete in de staatskas verdwijnt, is ook dat weer collectieve verantwoordelijkheid zonder concrete eigenaar.
Dat hele “niemand is eigenaar” is gelul: Uber heeft dat systeem besteld, betaald en gebruikt, dus de baas is gewoon Uber. Maar een computer die zonder menselijke check iemand z’n inkomen afpakt? Daar moet je als bedrijf met je poten vanaf blijven, jansen.
Kijk, iedereen focust op die 825 miljoen, maar de echte rekening komt straks gewoon terug in hogere commissies en strengere controles voor chauffeurs. Uber gaat die risicopremie niet zelf slikken; aandeelhouders ook niet.
Een boete van 825 miljoen leert Uber vooral dat misdaad soms gewoon als bedrijfsrisico wordt ingeboekt. Maak bestuurders persoonlijk aanspreekbaar, anders blijft het rekenen met andermans ellende.
Vanuit het buitenland gezien is die boete ook een waarschuwing voor overheden zelf: straks gebruikt de Belastingdienst of een gemeente precies zo’n systeem en heet het ineens risicoselectie. Een algoritme schaalt moeiteloos op, maar verantwoordelijkheid helaas niet; na 825 miljoen schuift iedereen nog steeds naar elkaar voor wie de fout heeft gemaakt.
Wat hier onderbelicht blijft: Uber bepaalt met die software niet alleen wie mag rijden, maar ook welke chauffeurs als “normaal” gedrag gelden. Dat kan hele groepen benadelen als klantbeoordelingen of fraudepatronen cultureel gekleurd zijn; zo bouw je een ecosysteem waarin vooroordelen netjes als data worden verkocht.
En wie controleert eigenlijk of zo’n systeem fouten maakt en hoe je daartegen in beroep kunt gaan? Een chauffeur kan maanden inkomen verliezen door een verkeerd label, terwijl niemand bij Uber uitlegt waar het misging. Dat is toch geen normale rechtsbescherming?
Op het water leer je dat een alarm nog geen aanvaring is. Zo’n algoritme mag verdachte patronen aanwijzen, maar Uber heeft er blijkbaar een stuurman van gemaakt die meteen de motor uitzet; dan moet je niet gek opkijken als de toezichthouder aan boord komt.
Dit is volkomen terecht. Een algoritme kan een patroon signaleren, maar niet beoordelen of een chauffeur door ziekte, een conflict met een klant of een fout in de gegevens ten onrechte wordt getroffen. Ik heb oud-leerlingen zien afhaken nadat één administratieve fout hun studiefinanciering blokkeerde; bezwaar achteraf is dan een schrale troost als je intussen je inkomen kwijt bent.
Tuurlijk weer een systeem dat wél automatisch mensen hun inkomen kan afpakken, maar niet automatisch kan uitleggen waarom... Voor bezwaar moet ge dan zeker drie formulieren invullen en maanden wachten. Uber tikt straks die boete af en huurt een leger juristen, de chauffeur staat ondertussen bij de voedselbank.
Het gekke is dat Uber blijkbaar wél geld en techniek heeft om elk klikje van een chauffeur te analyseren, maar niet om een fatsoenlijke menselijke beoordelingsstap in te bouwen. Zo’n systeem leert bovendien van eerdere beslissingen: als bepaalde wijken, nationaliteiten of klantgroepen vaker als “verdacht” worden gelabeld, versterkt het algoritme die bias gewoon verder. Dat is geen neutrale efficiëntie meer, maar een ecosysteem van wantrouwen.
Bias ontstaat niet alleen door algoritmes, maar ook door mensen die ze voeden met halve waarheden. Een menselijke check klinkt mooi, maar als die medewerker dezelfde score klakkeloos afvinkt heb je vooral extra overhead en een vinkje voor compliance.
Gek eigenlijk: een Uber-chauffeur wordt door een algoritme eruit gegooid, maar ondertussen beslissen algoritmes ook steeds vaker over verzekeringen, sollicitaties en uitkeringen!!! Vandaag is het Uber, morgen jij — en dan zegt iedereen weer dat niemand wist hoe het systeem werkte. EN DAN NOG IETS: wie heeft die 825 miljoen eigenlijk gecontroleerd, een mens of ook een spreadsheet?!
Bij m’n vorige uitzendbaan was ik ineens “risicoprofiel” en kreeg ik minder uren, niemand kon uitleggen waarom... ge moogt wel bezwaar maken maar dan is de planning al voorbij. Computer zegt nee en de mens wast z’n handen, lekker geregeld.