De risico’s van AI bedreigen ook het financiële stelsel, waarschuwen Planbureau en toezichthouders

Die CPB/DNB/AFM-waarschuwing is geen “AI is eng”-praatje, het is gewoon een klassieke systeemrisico-mix: dezelfde modellen, dezelfde data, dezelfde cloudleveranciers en dan iedereen verbaasd als algo’s tegelijk dezelfde kant op schieten. En die AI-waarderingen met circulaire aandelen en schuldfinanciering… dotcom vibes, maar dan met veel meer leverage en minder transparantie, dus succes als het keert. Wat me vooral stoort: we doen alsof dit puur nationaal te fixen is, terwijl de echte afhankelijkheden (hyperscalers, modelproviders, cross-border trading) EU-breed zijn; subsidiariteit leuk, maar zonder harde eisen aan auditability en concentratierisico blijft het “trust me bro” toezicht. Paus erbij is leuk voor de krantenkop, maar de echte preek moet gaan over digitale weerbaarheid en marktstructuur, niet over morele paniek.

Iedereen focust op “AI-modellen die tegelijk flippen”, maar de echte tijdbom is dat banken straks AI gaan gebruiken voor KYC/fraude/credit scoring en niemand kan uitleggen waarom jij ineens “hoog risico” bent en je rekening dichtgaat. Dan krijg je financial exclusion door een black box, en als er één bug in de trainingsdata zit gaat het op schaal mis terwijl je bezwaarprocedure nog in fax-mode zit, lmao.

Wat hier onderbelicht blijft: AI maakt van “financiële sector” nog meer een keten van onderaannemers, API’s en datamakelaars, en als er eentje rommelt met data of modelupdates zit je met een risico dat nergens echt op de balans staat. Enerzijds roepen we dat banken solide zijn, anderzijds outsourcen ze het brein én de beveiliging naar dezelfde paar partijen, en dan is een incident geen “IT-storing” maar gewoon een vertrouwenscrash. En dat ethische paus-verhaal is misschien minder gek dan het klinkt: zonder basaal vertrouwen (dat je bank je niet random blokkeert, dat betalingen werken) krijg je sociale onrust, geen nette “marktcorrectie”. eerlijk, ik mis vooral één harde eis: als je AI inzet in kernprocessen, dan ook verplicht een simpele handmatige fallback en aansprakelijkheid die niet weg te contracteren is, anders blijft het altijd: computer says no, succes ermee.

Die mix met de paus is echt clickbait-level: waar is de link naar die gezamenlijke rapportage aan de Kamer, en wat staat er concreet in over NL afhankelijkheid van Amerikaanse model- en cloudpartijen (concentratierisico, exit-plannen, DORA-tests)? En dat “Anthropic’s Mythos” verhaal: bestaat dat model überhaupt of is dit een journalist die wat namen door elkaar husselt… bron graag. Als CPB “piramidespel” roept, wil ik ook cijfers zien: welke AI-bedrijven, welke leverage, welke Nederlandse exposure (banken/pensioenfondsen), of is dit vooral sfeer met dotcom-analogieën?