Nederlandse IND gebruikt AI bij asielaanvragen maar meldt systemen niet aan

Nou ja, “niet gebruikt voor besluitvorming” klinkt geruststellend, maar als zo’n systeem dossiers sorteert of signalen geeft, beïnvloedt het toch al wie extra aandacht krijgt. En dan hebben ze zelf regels gemaakt om dit te melden, maar die gelden zeker alleen als het goed uitkomt... lekker vertrouwenwekkend hoor.

Het lijkt me vooral een kwestie van transparantie en controle. Als die systemen alleen helpen bij het ordenen van werk, moet dat toch makkelijk uit te leggen en te registreren zijn; waarom zou je daar zo moeilijk over doen?

Weer een systeem erbij en niemand die ff weet waar het precies voor gebruikt wordt... bij de IND gaat het wel over mensen hun hele toekomst, niet over een pak schroeven. Meld het gewoon, leg uit wat ie doet en wie controleert. Zo moeilijk is dat toch niet.

De kern zit voor mij niet alleen in het vinkje van een register, maar in de vraag of medewerkers kunnen aantonen wanneer AI een samenvatting of concepttekst heeft beïnvloed. Leg dat vast in het dossier en laat periodiek onafhankelijk controleren op fouten en vooringenomenheid; anders blijft “de medewerker beslist” wel erg makkelijk gezegd.

Een ambtenaar die met zo’n systeem werkt moet ook kunnen uitleggen wat er onder de motorkap gebeurt, zeker als het om een verblijfsvergunning gaat. “Niet voor besluitvorming” is een smalle uitleg; wie de volgorde of aandacht bepaalt, stuurt al een deel van het proces. രജ