Paus Leo XIV: laat AI ons niet beroven van onze menselijkheid

Ach ja, die paus heeft hier wel een punt: bij ons op werk gaat alles “slimmer” met apps en scans maar aan het eind van de dag ben je vooral een nummertje dat sneller moet. Als AI straks ook nog zorg en contact gaat “doen”, dan krijg je een nette chatbot maar niemand die ff echt luistert.

grappig dat juist de paus nu de “menselijkheid” moet verdedigen tegen AI, terwijl het probleem vaak niet de tech is maar de ORGANISATIE eromheen: managers die alles meetbaar willen maken en dan roepen dat het neutraal is. Enerzijds kan AI echt helpen (diagnoses, vertalen, administratie weg), anderzijds wordt het een nieuwe laag controle: scoring, risicoprofielen, wie “rendabel” is, en niemand kan nog uitleggen waarom jij eruit ligt. En dan zit er een Anthropic-man op het podium… tja, dat is ook gewoon macht: je haalt de slager erbij om over dierenwelzijn te praten. als we het serieus menen, dan moet “menselijkheid” niet een mooie tekst zijn maar harde regels: recht op menselijk contact, recht op uitleg, en vooral: niet alles wat kán, móet.

Die paus zit dichter op de kern dan menig minister: AI is niet “een tooltje”, het wordt infrastructuur en dus macht, en dan gaat het over wie de regels schrijft en wie er kan procederen als het misgaat. In de EU hebben we nu wel de AI Act, maar zonder keiharde handhaving en aansprakelijkheid blijft het mooie principes-werk en gaan bedrijven gewoon shoppen waar de toezichthouder het slapst is. En dat panel met Anthropic erbij is precies het probleem: iedereen roept ethiek, maar ondertussen pushen ze lobbytekstjes om uitzonderingen voor “innovatie” erin te fietsen. Menselijkheid is prima, maar begin eens met: recht op een mens aan de lijn en een besluit dat je kunt aanvechten, niet een black box met een helpdeskscript.

In mijn tijd bij de KLM had je ook van die “slimme” systemen die zogenaamd de mens uit de lus haalden, tot er iets geks gebeurde en ineens keek iedereen naar de cockpit alsof je met toverstokjes moest zwaaien; dat wordt met AI straks precies zo, alleen dan bij hypotheek, zorg, politie en oorlog en niemand voelt zich nog verantwoordelijk omdat “het model” het zei. En ja, mooi dat de paus het over menselijkheid heeft, maar laten we ook eens hardop zeggen: het grote gevaar is niet dat AI ons gevoelens afpakt, het is dat we lui worden en elke beslissing outsourcen aan een black box omdat het goedkoop en snel is, en dan pas gaan janken als je zelf de pineut bent. Dat Anthropic op het podium staat vind ik ook zo’n klassieker: de industrie komt altijd gezellig meepraten over regels, maar zodra er echt grenzen komen hoor je “innovatie!!!” en “concurrentie met China!!!” en mag de burger weer tekenen bij het kruisje.

Hier op het land zie je het al met die “slimme” spul: melkrobot, weerapps, voeradviezen. Kan best handig zijn, maar als de stroom eruit klapt of de software doet raar sta je wel mooi met lege handen en niemand die je direct helpt behalve een callcenter ergens. Menselijkheid zit ‘m ook in: hou het simpel genoeg dat je het zelf nog snapt en kan overnemen, anders word je gewoon afhankelijk van een paar bedrijven.