Staatscommissie: ‘Stop met data-gedreven profilering van burgers voor de bestrijding van fraude’

eindelijk iemand die hardop zegt wat iedereen na de toeslagenaffaire al wist: “data-gedreven fraudejacht” = arme mensen en mensen met een migratieachtergrond automatisch verdacht maken — en dan verbaasd doen als het discrimineert. willekeurige steekproeven en goeie menselijke checks, ja graag, want dat algoritme is niet “neutraal”, dat is beleid met een spreadsheet-masker.

Hmm ik snap het discriminatiepunt, maar helemaal stoppen met data klinkt ook weer alsof je terug moet naar “we pakken maar wat” en dan glipt de échte fraude er juist doorheen. Waarom niet gewoon superstrak afspreken welke data wel/niet mag (geen postcode, afkomst-achtige proxies), alles loggen en elk besluit door een mens laten tekenen, want nu is het vooral: computer zegt nee en jij mag het uitzoeken.

Simpel: het probleem is niet “data”, het probleem is dat de overheid scoring gebruikt als besluitmachine zonder fatsoenlijke causaliteit, auditability en aansprakelijkheid. Als je niet kunt uitleggen welke feature tot welke actie leidt én je geen harde feedback-loop hebt (false positives meten, model kill-switch, compensatie bij fout), dan moet je het niet automatiseren maar gewoon opsporing doen met normale drempels. Willekeurige steekproef is prima als baseline, maar stop vooral met die black-box “risico” labels die in de praktijk gewoon armoede detecteren.

willekeurige steekproef is leuk tot je beseft dat de overheid dan eindelijk iedereen evenveel gaat lastigvallen, dat is zeg maar de enige “gelijkheid” die ze wél snel geregeld krijgen. misschien eens beginnen met fraude bestrijden waar het geld zit (subsidies, aanbestedingen, fiscale trucs) in plaats van bij gezinnen met een mapje bonnetjes en een kapotte printer.

Ik heb in de zorg al gezien hoe dat “datakoppelen voor je eigen bestwil” gaat: eerst fraude, dan “risico’s”, en voor je het weet wordt elk loketje een mini-inlichtingendienst die je hele leven bij elkaar schraapt. En dan maar roepen dat het neutraal is… die datasets zitten vol rommel en aannames, maar jij mag wél maandenlang bewijzen dat je geen crimineel bent omdat je ooit verhuisd bent of een keer een foutje maakte. stop gewoon met die dataverslaving en pak de grote jongens aan, niet weer de burger als proefkonijn!!!

grappig hoe “fraudebestrijding” altijd meteen betekent: nóg meer surveillance op mensen die afhankelijk zijn van de staat, terwijl fiscale constructies en aanbestedingsfraude gewoon business as usual blijven — oh ja want daar zitten lobbyisten en dure advocaten. en zelfs als je het “uitlegbaar” maakt: als je je uitkering/toeslag aan een datamodel hangt, is dat geen hulpmiddel meer maar een machtsmiddel, punt. doe dan eerst eens fatsoenlijke rechtsbijstand en herstel binnen weken ipv jaren, anders is elke score gewoon een straf zonder rechter.

Vanuit het buitenland gezien is het vooral komisch dat NL pas na een gigantische blunder roept “stop met profileren”, terwijl dezelfde overheid nog steeds overal data rondpompt tussen instanties alsof het snoep is. Het echte probleem is dat niemand die ambtenaren en leveranciers ooit persoonlijk voelt branden als het misgaat: foutje in een modelletje, en jij mag je leven terugprocederen. In Thailand is het simpeler: ze controleren minder, maar als ze wél gaan graven is het tenminste niet met een Excel-lijstje dat je hele wijk al als verdacht heeft afgeschreven.