Algoritme reclassering schat sinds 2018 risico recidive te laag in door domme formulefout

omg, een domme formulefout waardoor criminelen te laag risico krijgen ingeschat... dat is echt bizar!! ik bedoel, hoe controleer je zoiets eigenlijk?? en dan ook nog sinds 2018, dat is echt een serieus aantal jaren dat er gewoon iets fout zat. als dat nou expres was gedaan, maar nee, gewoon een foutje... en dan moet je maar hopen dat die criminelen die vrijkwamen niet weer iets nieuws gingen doen. echt een enorm risico dat ze liepen te nemen. hoe kunnen ze dat nou in godsnaam over het hoofd gezien hebben???

“Technische vergissing” sinds 2018 en pas in 2023 ontdekt omdat de cijfers “niet meer klopten”... sorry maar dan heb je dus jaren nul fatsoenlijke validatie, nul code review en nul onafhankelijke audit gedaan terwijl rechters dit meewegen in vrijlating/toezicht. Ten eerste: als de overheid algoritmes inzet in strafrecht moet het transparant en toetsbaar zijn (incl. leverancier), ten tweede: je kunt niet én zeggen “het is maar één factor” én ondertussen 12.000 dossiers ermee kleuren; maar ok, straks weer roepen dat het vertrouwen in de rechtsstaat zo onder druk staat.

Feit is ook: als je zo’n model structureel 30% lager scoort, ga je onbedoeld precies de groep met veel eerdere veroordelingen en vaak ook verslaving/psyche minder strak volgen, en dat zijn nou net de mensen waar je met behandeling en toezicht wél winst kan pakken. En dan roepen dat nationaliteit niet wordt gebruikt is leuk, maar proxy’s zitten overal, dus laat die code en validatie gewoon openbaar toetsen, net zoals bij medische risicoscores. 12.000 dossiers en pas na 5-6 jaar een audit, dat is niet een foutje maar een procesprobleem.

Ik zie het elke dag met dit soort “systemen”: als er eenmaal een getal in het dossier staat durft niemand meer hard te zeggen “dit voelt niet goed”, want ja computer hè. En dan zes jaar later pas ontdekken… dat is geen bugje, dat is gewoon kapot management en te weinig mensen/tijd om fatsoenlijk te checken door al dat bezuinigen. Benieuwd of de leverancier ook eens echt aansprakelijk wordt gesteld of dat het weer eindigt in een rapport en niemand die het merkt behalve de slachtoffers.

De vraag is: wie heeft dit ding formeel “geaccepteerd” voor gebruik in strafrechtketen, met welke test- en auditplicht, en wat stond daarover in het contract met die leverancier. Als je sinds 2018 structureel 30% te laag scoort en pas in 2023 aan de bel trekt, dan is dat niet alleen een bug maar de facto wanprestatie én bestuursfalen, mits je kunt aantonen dat er geen periodieke validatie/monitoring was afgesproken of uitgevoerd. Benieuwd of ze nu ook alle 12.000 dossiers gaan herbeoordelen of dat het weer bij een Kamerbrief en een “lessons learned” blijft.

ik breng ’s nachts zat gasten naar huis die “op voorwaarden” lopen en je merkt meteen: als zo’n score zegt groen, gaat iedereen relaxter doen en staat die vent binnen een week weer bij z’n ex op de stoep. Maar hé, geen probleem joh, was maar een formulefoutje… wie betaalt de ellende, niet de leverancier en niet die manager met z’n powerpoint.

Dus sinds 2018 liep er een reclasseringsmodel met een rekenfout rond en niemand dacht: hé, waarom voelt “30% lager risico” ineens als Black Friday-korting op toezicht? laten we eerlijk zijn: als de uitkomst een beetje streng was geweest, was het binnen een week gefixt, maar nu was het lekker rustig in de spreadsheet, zeg maar.

Ja lekker, een algoritme dat jarenlang fout zit... ge hebt toch ook instanties die niks anders doen dan cijfertjes produceren, maar als er dan echt iets fout gaat, kijken ze allemaal de andere kant op... en die rechters, die gaan natuurlijk weer zeggen dat ze op hun gevoel hebben vertrouwd, niet op dat computerscherm... maar ondertussen zit dat systeem wel weer gewoon gewoon op hun bureau, netjes aangekoppeld aan het "hoge rendement"-project van de overheid... gewoon weer iemand die moet boeten, maar wie??

klopt dat zo’n formulefout niet mag, maar je hebt toch ook gewoon reclasseringsmensen die die gasten spreken en het dossier lezen, dan moet er ergens een belletje gaan rinkelen als die score ineens “laag” zegt bij iemand met 10 veroordelingen. en wat mij stoort: wordt er nu ook echt gekeken naar de gevallen waar het mis ging, of is het alleen software fixen en weer door??

Wat moet je, als in de supermarkt 1 cent per artikel fout staat is het meteen paniek en tellen ze alles na, maar bij reclassering kan zo’n rekenfout jaren draaien en niemand die even checkt?? en dan mogen slachtoffers het weer uitzoeken als het misgaat.

Weet je wat me nog het meest stoort: als zo’n score te laag is, krijg je dus ook minder behandeling/trajecten opgestart en dan kweek je je eigen recidive gewoon mee. En straks gaan ze “oplossen” door nóg meer vinklijstjes en administratie voor de medewerker, terwijl het echte probleem is dat niemand tijd/kop heeft om dit soort systemen continu te testen en bij te sturen.