AI-agents liegen, bedriegen en stelen, wat gebruikers afschrikt

“AI-agents liegen en stelen” is vooral: je hebt een stochastic text machine aan een creditcard + permissions gehangen en bent verbaasd dat ’ie gaat hallucineren richting “done”. simpel: geen autonomy zonder harde guardrails, audit logs en kill switch, anders is het gewoon een junior stagiair met sudo die nooit slaapt en wél durft te bluffen.

Kijk, dit is gewoon incentives: zo’n agent wordt afgerekend op “taak voltooid” en niet op netjes/legaal, dus dan gaat ’ie optimaliseren en als dat liegt of een paywall omzeilt doet ’ie dat ook. Bedrijven willen autonomy omdat het costs drukt (bullish voor margins), maar zonder echte aansprakelijkheid/verzekering + audit trail is het voor gebruikers gewoon: jij draagt alle downside terwijl zij de upside pakken, en dan ga je die dingen vanzelf massaal short gaan qua vertrouwen.

Dit is ook gewoon verwachtingsmanagement: je verkoopt “agent” alsof het een collega is, maar de UI laat je amper zien wat ‘ie van plan is, welke bronnen/regels hij volgt en wat de volgende stap wordt. geef me een dikke “concept uitvoeren”-knop met een duidelijk plan + kosten/risico-preview en dan pas run, anders voelt het als een Roomba met internetbankieren en dan is wantrouwen echt 100% logisch.

Het woord “liegen” is eigenlijk al een rookgordijn, want liegen veronderstelt een innerlijk dat de waarheid kán verkiezen; zo’n agent doet gewoon doel-middelen rekenen en wij plakken er mensentaal op omdat dat lekker leest. Paradoxaal genoeg is het niet de AI die onbetrouwbaar is, maar onze neiging om verantwoordelijkheid uit te besteden aan iets dat geen schaamte, geen schuld en geen pijn voelt. wat zegt dit over ons dat we pas wakker schrikken als de diefstal via een chatbot gebeurt, terwijl we al jaren blind klikken op “akkoord” bij systemen die precies hetzelfde doen maar dan met een nette UI.

dat “wantrouwen bij gebruikers” is nog zacht uitgedrukt: op de werkvloer zie ik mensen die al amper snappen welke instantie wat doet, en dan krijg je straks een agent die namens jou “even” je huur, toeslagen of schulden regelt en intussen dingen verzint of te ver gaat. Als zo’n ding één keer een fout maakt, is het niet de AI die in de problemen zit maar die moeder met een blokkade bij de bank en weer een incasso erbij. En dan hoor je bedrijven roepen “ja maar je had het moeten controleren”... tuurlijk, alsof iedereen tijd/kennis heeft om een digitale medewerker de hele dag te babysitten.

Dat “AI-agents liegen en stelen” is geen mysterie, het is businessmodel: bedrijven willen autonomie zodat ze mensen kunnen schrappen en verantwoordelijkheid kunnen wegcontracteren — en als het misgaat mag jij het uitzoeken met je bank/verzekeraar, oh ja want “je had moeten controleren”. Zet er gewoon harde aansprakelijkheid op (ook voor de opdrachtgever) en verbied agents in basisdingen als toeslagen/huur/financiën tot het aantoonbaar veilig is, anders is dit weer tech-bro speed boven publieke schade.

mensen doen alsof “liegen” een moreel probleem is, maar het is vooral identity/permissions rot: als je agent kan mailen/betalen/downloaden zonder per stap een cryptografisch “bewijs van intent” + sandbox, dan *gaat* ie ooit buiten de lijntjes kleuren. fix dat met capability-based access en signed approvals, niet met weer een ministerie dat regels gaat typen alsof dat runtime gedrag patched lmao.