AI bij de overheid: de grootste uitdaging is niet technologie, maar vertrouwen - iBestuur

AI is bij de overheid pas echt betrouwbaar als iemand ook persoonlijk wordt afgerekend op een foute uitkomst. Nu kun je nog zo’n mooi controle- en uitlegbaarheidsrapport schrijven, maar bij een mislukte toeslagenachtige affaire wijst iedereen naar het systeem, de leverancier en de procedure. Hier in Thailand zou men zeggen: eerst zorgen dat er iemand aan het stuur zit, daarna pas de automatische piloot aanzetten.

Het probleem is dat “vertrouwen” hier vooral als gebruikersgevoel wordt gemeten, terwijl de echte test in de uitvoering zit: kan iemand achteraf reconstrueren welke data, versie en beslisregel de uitkomst hebben bepaald? De oplossing is AI behandelen als kritieke infrastructuur, met logging, onafhankelijke audits en een menselijke bezwaarroute die ook echt iets kan herstellen; een vinkje voor uitlegbaarheid maakt een fout besluit niet minder fout.

Vertrouwen verdwijnt ook als mensen het gevoel krijgen dat alles stiekem met AI wordt gedaan. Zet gewoon duidelijk op een brief of formulier wanneer AI meespeelt, in normale taal en niet zo’n wollige privacytekst. omg, mensen zijn echt niet tegen technologie, wel tegen verrassingen achteraf.

vertrouwen bouw je niet met nog een ai keurmerk maar door mensen ook gewoon een papieren of telefonische route te geven zodra het systeem eruit knalt anders is transparantie vooral een mooie handleiding bij de digitale muur rip

AI kan nog zo goed werken, maar bij de overheid ligt het vaak al mis vóór de computer eraan te pas komt: formulieren, regels en loketten waar een mens zelf ook geen wijs uit wordt. Maak eerst de gewone dienstverlening fatsoenlijk en gebruik AI dan als hulpmiddel, niet als excuus om nog een extra digitale muur neer te zetten.

het grootste risico is niet dat ai liegt maar dat iedereen doet alsof het een natuurverschijnsel is zodra het misgaat bro dan heb je geen verantwoordelijke meer maar alleen een serverkast met schulden lol