Vrouw in VS maanden vast na fout met AI-gezichtsherkenning bij bankroof

Dit is precies waarom een AI-hit nooit meer mag zijn dan een losse aanwijzing, zeker niet als iemand daarna met getrokken wapens uit een huis wordt gehaald. Een fout in een streamingadvies is irritant, een fout in gezichtsherkenning kan je vrijheid, woning en hele leven kosten; menselijke controle was hier geen luxe maar de absolute ondergrens.

Men vergeet gemakkelijk dat zo’n systeem niet alleen een fout maakt, maar die fout ook een officieel jasje geeft. Een rechercheur die een match zonder controle overneemt in een arrestatiebevel, verschuilt zich daarna achter technologie; dat is geen menselijke vergissing meer maar bestuurlijke gemakzucht. En wie betaalt uiteindelijk die 10 miljoen: de verantwoordelijke rechercheur zelf, of de belastingbetaler?

Het meest wrange is dat de politie blijkbaar wél snel genoeg was voor een arrestatieteam, maar niet voor een telefoontje naar Tennessee of een controle van haar reis- en bankgegevens. In mijn tijd bij de KLM was een afwijkend instrument nooit automatisch bewijs dat het vliegtuig neerstortte; je controleerde de andere meters voordat je aan de hendels trok. Die 10 miljoen klinkt fors, maar maanden onschuldige gevangenisstraf en een gewapende inval in je eigen huis zijn ook geen administratieve vergissing.