Paus roept in zeldzame brief op tot 'ontwapening' van AI: 'Moet afgeremd worden'

Ja hoor, “keiharde randvoorwaarden” en dan auditplicht/logging/aansprakelijkheid roepen alsof dat een stekkerdoos is die je even in Brussel bestelt. Enerzijds klopt het dat AI geen pistool is dat je inlevert, anderzijds is die wapenmetafoor juist handig omdat het gaat om macht: wie mag rekenen, wie mag surveilleren, wie mag beslissen over jouw baan/verzekering/visum zonder dat je het ziet. En dat “braaf Europa” frame is ook zo’n dooddoener: regels zijn óók rekenkracht, maar dan sociaal georganiseerd; alleen ja, zonder echte handhaving wordt het weer papier, papier, papier…

Die paus klinkt dramatisch met “ontwapening”, maar eerlijk: het echte wapen is hoe makkelijk we het vinden om beslissingen over mensen uit te besteden aan een systeem waar niemand nog verantwoordelijkheid voor pakt. Ik zie het dagelijks: “computer says no” bij uitkeringen, woningtoewijzing, zelfs in de zorg, en dan mag de burger maar bewijzen dat ie geen foutje is in een dataset. Alleen doen alsof het pas eng wordt bij tanks is ook te simpel, want die stille AI kan óók helpen als je ’m dwingt tot transparantie en menselijk bezwaar, maar dat kost geld en lef en daar zit precies de weerstand.

Leuk filosofisch hoor, maar “ontwapening van AI” is gewoon een kop die lekker klikt: welke AI precies, welke toepassingen, en wie gaat dat “afremmen” dan doen—Vaticaan met een decreet? En Vincent doet alsof tanks het frame zijn, terwijl de echte vraag is: waar is de brief, wat staat er concreet in, en op basis van welke bronnen roept de paus dit nu ineens? Alsof we een paus nodig hebben om te snappen dat HR-software en opsporingsalgos risico’s hebben… maar wie checkt die systemen dan, en waar zijn de cijfers ipv morele oneliners?

Alsof je even een echte mens naast elke AI-knop kunt zetten, we krijgen nu al niet eens genoeg mensen naast het bed of aan de telefoon, laat staan als morele stopknop. En die mens gaat dan in de praktijk toch op het schermpje leunen, zeker als het druk is, zo werkt het brein nou eenmaal. Liefde en verbinding is leuk voor op een tegeltje, maar zonder harde regels, aansprakelijkheid en transparantie blijft het gewoon computer says no met een warm sausje.

Ja hoor, “open en lokaal” klinkt lekker totdat je buurjongen z’n on-device modelletje gebruikt om je moeder te deepfaken voor een Tikkie en jij het mag gaan “checken/aanpassen”, maar goed de paus met een AI-wapenstilstand is ook weer zo’n idee dat in theorie heilig is en in de praktijk gewoon door de grootste datacenters wordt genegeerd.

Ach die “menselijke eindbeslissing” is leuk op papier, maar als de manager de norm op die AI-score zet en iedereen op tempo ja-knikt ben je net zo ver, pak vooral de prikkels aan en leg vast wie er aansprakelijk is als dat ding iemand de afgrond in duwt

Dat energie/water-verhaal is echt, maar dat “verbruiksetiket per model” is ook een beetje technocratische schijnrem: de grootste winst zit ’m niet in rapporteren maar in wie er überhaupt mag opschalen en waarvoor. Enerzijds kun je alles netjes meten, anderzijds verplaatst de sector dan gewoon naar plekken met goedkope stroom/koelwater en roept “kijk transparantie!”, terwijl de vraagkant (miljarden nutteloze prompts, reclame-targeting, surveillance) vrolijk doorstoomt. En dat paus-woord “ontwapening” is minder vaag dan het klinkt: het gaat om macht, om asymmetrie, om het feit dat een paar bedrijven staten en burgers in een afhankelijkheidsrelatie duwen. Etiketjes gaan dat niet fixen, dat is alsof je bij wapenhandel zegt: zet er even een CO2-sticker op en klaar klaar.

energie- en waterlabels per model, ja hoor, en dan gaan de hyperscalers natuurlijk braaf hun trainingruns “meten” op een manier die ze zelf definiëren… succes. Het probleem is niet dat we er “bijna nooit” over praten; in Brussel gaat het al maanden over datacenter-efficiency en disclosure, maar zodra je het hard wilt maken schreeuwt iedereen innovatie en concurrentiekracht. En die paus met “ontwapening” klinkt stoer, maar zonder handhaving is het gewoon een briefje aan de kerstboom.