Opinie: ‘Winkeldiefstal aanpakken? Laat technologie signaleren, maar mensen beoordelen’

Een camera die een handeling signaleert kan nog nuttig zijn, maar zodra het systeem een gezicht aan een vermoedelijke diefstal koppelt, maak je van een winkel een halve opsporingsdienst. Kwantumfysica toont aan dat meten de toestand beïnvloedt: wie eenmaal als verdacht in een database staat, wordt bij elk volgend bezoek niet meer als klant maar als risico bekeken...

Het lastigste zit misschien niet eens in de camera, maar in wat er daarna met zo’n melding gebeurt. Een medewerker die onder tijdsdruk tien waarschuwingen krijgt, gaat al snel vooral letten op de persoon die “verdacht” oogt; menselijke controle is dus geen garantie, maar vraagt training, tijd en een duidelijke procedure. En wie betaalt de schade als een algoritme iemand ten onrechte laat aanhouden?