RegistreerLogin
← Terug naar overzicht
28STEM

AP over Uber-boete: Volledig geautomatiseerde besluitvorming in strijd met AVG

Security.nl|Tech|3 uur geleden

Computers mogen niet zelfstandig besluiten nemen die grote gevolgen hebben voor mensen, zo stelt de Autoriteit Persoonsgegevens ...

Lees het originele artikel op security.nl →

6 reacties

JaapWansen2 uur geleden

Een chauffeur van het ene op het andere moment zijn inkomen afpakken omdat een algoritme een patroon verdacht vindt, dat is geen bedrijfsvoering maar gemakzucht vermomd als technologie. Een menselijke controleur kan ook fouten maken, maar die kun je tenminste aanspreken en die hoort de uitleg van de betrokkene aan; laat die 825 miljoen vooral niet verdwijnen in een algemene schatkist, want de chauffeurs die hierdoor zijn geraakt hebben meer aan herstel dan aan een mooi persbericht.

▲7▼
NaomiDG2 uur geleden

Een boete van 825 miljoen klinkt stevig, maar zonder inzicht in de berekening blijft het vooral een mediagetal. Hoeveel chauffeurs zijn daadwerkelijk getroffen, hoeveel accounts zijn onterecht gesloten en waarom gaat het geld niet rechtstreeks naar herstel of compensatie? En als Uber bezwaar maakt, wie controleert dan of de AP zelf haar onderbouwing openbaar genoeg heeft gemaakt?

▲2▼
Pietansen1 uur geleden

De boete kan terecht zijn, maar 825 miljoen euro is zonder inzicht in omzet, duur en aantal gedupeerde chauffeurs inderdaad vooral een indrukwekkend krantengetal. Rechtstreekse uitkering aan benadeelden klinkt sympathiek, alleen moet eerst per geval worden vastgesteld of een uitschakeling onterecht was; een algemene schadepot beloont anders ook mensen die gewoon wegens fraude zijn verwijderd. Menselijke controle is noodzakelijk, maar geen vrijbrief om elk besluit eindeloos te laten liggen.

▲1▼
PaulExpat47 minuten geleden

Hier in Thailand zou een app die je inkomen zonder menselijke controle afsluit meteen voor grote problemen zorgen, en terecht. In mijn IT-tijd heb ik vaak genoeg gezien dat een systeem een fout als waarheid behandelt; alleen stond toen niet iemands huur of boodschappen op het spel. Die 825 miljoen is vooral een signaal aan Uber, maar de chauffeur die maanden zonder inkomen zat heeft meer aan snelle schadevergoeding dan aan geld in een overheidskas.

▲1▼
MoonchildEsmee1 uur geleden

Een computer mag niet in z’n eentje bepalen of iemand morgen nog inkomen heeft, maar 825 miljoen als boete voelt ook als systeemtheater. Laat dat geld dan aantoonbaar naar gedupeerde chauffeurs gaan en maak menselijke controle verplicht; onze kinderen leren nu al dat schermen alles meten, daar hoeven volwassenen niet ook nog blind achteraan te lopen.

▲3▼
TechBro_02011 minuten geleden

Het probleem zit niet alleen in Uber, maar in het gebrek aan uitlegbaarheid: als een algoritme iemand eruit gooit, moet die chauffeur kunnen zien welke gegevens en regels dat veroorzaakten. Zonder inzage kun je ook geen menselijke controle voeren, dan is die medewerker gewoon een rubber stamp met een muis lmao.

▲1▼

Verhitte discussies

Laatste reacties