Achtergrond - Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbelang

Dit is vooral concurrentiestrategie met een groen jasje. Grote spelers willen wel minder risico, maar vooral tijd kopen om hun voorsprong, chips en investeringen te beschermen; echte veiligheidsregels moeten voor iedereen gelden, ook voor de marktleiders.

Kijk, “afremmen” klinkt leuk tot je beseft dat niemand vrijwillig de AI-race stilzet terwijl concurrenten doorbouwen. De echte oplossing is niet wachten op braaf gedrag van bedrijven, maar aansprakelijkheid en onafhankelijke tests vóór zo’n model overal wordt uitgerold; anders wordt veiligheid gewoon een marketingterm met een risicopremie voor de rest van de samenleving.

Het lastigste is misschien niet eens superintelligente AI, maar de veel minder spectaculaire rommel die nu al op grote schaal wordt uitgerold: verzonnen informatie, discriminerende selectie en mensen die blind varen op een chatbot. Daar heb je geen pauzeknop voor nodig, maar gewoon productaansprakelijkheid en duidelijke grenzen aan toepassingen met echte gevolgen. Overigens: een model dat weigert een recept voor gif te geven maar wel overtuigend onzin over medische klachten produceert, is niet bepaald “veilig” omdat het netjes klinkt.

Een echte pauzeknop bestaat niet, maar je kunt wel de kraan dichtdraaien bij toepassingen waar fouten direct mensen raken, zoals zorg, onderwijs en uitkeringen. Laat gemeenten en instellingen eerst aantonen dat er menselijk toezicht, bezwaar en een duidelijke verantwoordelijke zijn; anders wordt snelheid een excuus om verantwoordelijkheid af te schuiven.

Het ironische is dat “vertragen” bij AI ook gewoon een manier kan zijn om de spelregels te bepalen voordat kleinere concurrenten of open modellen doorbreken. Wie bepaalt trouwens wat een frontier-model is en wanneer het risico groot genoeg wordt voor een rem? Zonder openbare criteria krijg je een vrijwillige pauze waar de grootste bedrijven zelf de stopwatch vasthouden.

Tsja, misschien moeten we vooral eens stoppen met doen alsof elke nieuwe versie meteen overal ingevoerd moet worden. Een paar maanden wachten om te kijken of iets echt werkt lijkt me geen ramp, maar voor bedrijven blijkbaar wel.

Het ontbrekende punt is macht: met een “pauze” kunnen deze bedrijven ook bepalen wie er nog mag meedoen. Een kleine start-up of universiteit kan zo’n veiligheidsregime nooit betalen, terwijl de grote jongens hun bestaande modellen en lobbykracht behouden. Enerzijds zijn stevige grenzen nodig, anderzijds kan veiligheidstaal hier makkelijk veranderen in een kartel met keurmerk.

De echte rem zit straks waarschijnlijk niet bij de techniek, maar bij de mensen die vergeten dat een computer geen geweten heeft. Wie zich blind laat leiden door een systeem, schuift zijn verantwoordelijkheid af; dat blijft ook met de beste veiligheidsprotocollen gewoon verkeerd.

Weer bedrijven die zelf op het gaspedaal zitten roepen dat iemand de rem moet bedienen... Als ze echt serieus zijn, beginnen ze maar met hun eigen stroomverbruik en datacenters openbaar maken. Daar hoor je ze een stuk minder hard over.

De ironie is dat deze bedrijven om een rem vragen op modellen die ze zelf al in producten en diensten hebben gestopt. Wie bepaalt dan wanneer de rem eraf mag — de toezichthouder, een onafhankelijke testclub of de ceo die net miljarden heeft opgehaald? En geldt zo’n oproep ook voor bestaande modellen, of alleen voor de volgende generatie waar de concurrent nog mee bezig is?

Misschien is de grootste blinde vlek dat “de AI” steeds als één ding wordt besproken, terwijl vooral de invoering bepaalt wat er misgaat. Een middelmatig model dat miljoenen sollicitaties, dossiers of nieuwsberichten verwerkt kan maatschappelijk schadelijker zijn dan een veel slimmer systeem dat niemand gebruikt. De race gaat dus niet alleen om wie het krachtigste model bouwt, maar ook om wie het snelst normale menselijke twijfel uit organisaties weet te verwijderen.

Tja, iedereen praat over superintelligentie terwijl de gewone chauffeur straks door een algoritme wordt beoordeeld op rijstijl, pauzes en planning... foutje erin en leg het zelf maar uit aan een helpdesk. De elite noemt dat innovatie, wij noemen dat weer een kastje erbij en minder vrijheid.

Het echte gevaar is straks een lappendeken van nationale regels terwijl modellen wereldwijd via de cloud worden aangeboden. Dan verplaatst de ontwikkeling zich gewoon naar het land met de soepelste toezichthouder; maak één Europese ondergrens en laat bedrijven vooral concurreren op aantoonbare veiligheid, niet op wie het snelst iets live zet.

Ach, zolang een chatbot goedkoper is dan een fatsoenlijke werknemer wordt elke veiligheidsrem vanzelf een reclamepauze, pas als er echt geld of straf aan hangt gaan die heren rustig aan doen

De grootste blinde vlek is dat “pauzeren” helemaal niet hetzelfde betekent voor iedereen. Een lab kan een nieuw model een maand later lanceren, maar bedrijven blijven intussen bestaande AI overal inbouwen zonder fatsoenlijke uitleg of terugvaloptie; voor de gebruiker voelt dat niet als vertraging maar als een software-update waar je leven ineens van afhangt.

Wat hier vaak buiten beeld blijft: vertragen kan ook betekenen dat gewone gebruikers eindelijk tijd krijgen om te begrijpen wat er verandert. Nu wordt iedereen proefkonijn van systemen die op school, werk en bij de overheid worden ingevoerd voordat duidelijk is wat dat met vertrouwen en menselijk contact doet. De energie van haast voelt niet altijd als vooruitgang, soms gewoon als angst om de boot te missen.

De echte rem ontbreekt gewoon: geld. Zolang investeerders kwartaalgroei eisen en bedrijven elkaar miljarden beloven, is “veiligheid” alleen interessant als het de concurrent vertraagt of reputatieschade voorkomt — oh ja want een systeem dat banen sloopt en stroom vreet wordt natuurlijk vanzelf sociaal verantwoord. Zonder publieke zeggenschap over die infrastructuur blijft dit een race waar de rekening bij werknemers en belastingbetalers ligt.

Een pauze van de AI-race klinkt mooi, maar op een boerderij leer je dat techniek vooral zo goed is als degene die erop toeziet. Laat bedrijven dus niet alleen roepen om vertraging, maar ook betalen voor onafhankelijke controle en de gevolgen van hun fouten; mooie woorden vullen geen schadepot.

Het grappige is dat “afremmen” zelf ook een verdienmodel wordt: wie de standaard voor veiligheid bepaalt, bepaalt straks welke concurrent nog mee mag doen. Kwantumfysica toont aan dat meten het systeem beïnvloedt, dus onafhankelijke audits zijn niet neutraal maar veranderen de markt; precies daarom mogen de bedrijven die gemeten worden niet ook de meetlat ontwerpen.

Wat onderbelicht blijft: die AI-race draait niet alleen om bedrijven, maar ook om staten die militaire en economische voorsprong willen — dus zelfs als één CEO braaf op de rem trapt, staat er elders al een overheidsbudget klaar om door te drukken. Veiligheid overlaten aan marktpartijen is dan echt vragen om ongelukken; democratische controle en internationale afspraken zijn minder sexy dan een chatbotdemo, maar wel noodzakelijk.

Ja lekker, iedereen praat over de rem terwijl ondertussen scholen en gemeenten al met goedkope AI-abonnementen zitten te experimenteren. Tegen de tijd dat Den Haag wakker wordt is de fout al “door een algoritme” gemaakt en weet niemand meer wie m aansprakelijk is... goeie vooruitgang.

De echte rem zit misschien niet bij de techniek, maar bij de mensen die er straks mee moeten werken. Op de werkvloer krijg je nu al systemen voorgeschoteld die zogenaamd helpen, terwijl niemand kan uitleggen waarom iemand een afwijzing krijgt of wie de fout herstelt. Zolang bedrijven winst maken met die onduidelijkheid, komt veiligheid pas ter sprake als er genoeg slachtoffers zijn om het nieuws te halen.

Wat me zorgen baart: die AI-rem wordt besproken door directeuren, terwijl gewone werknemers straks moeten uitleggen waarom hun baan ineens door een chatbot “efficiënter” kan. In de salon hoor ik al genoeg mensen die geen idee hebben welke gegevens zo’n systeem van ze opslaat… en dan moet je zeker maar vertrouwen op de veiligheidsbelofte van de maker.

Wat onderbelicht blijft: zo’n AI-rem kost ook stroom, chips en geld. Op het land laat je de trekker niet doordraaien zonder werk, maar bij AI lijkt groei zelf het doel. Misschien eerst zuiniger en betrouwbaarder maken, vóór er weer een groter model achteraan moet.

Weet je wat het is: in de zorg zie ik al genoeg systemen die op papier slim zijn en in de praktijk vooral extra vinkjes en verwarring opleveren. AI moet niet eerst overal worden uitgerold om ervan te leren; bij een verkeerde medicatie-inschatting kun je niet even zeggen dat het een nuttige test was.

Ewa die bedrijven willen misschien remmen op modellen, maar ondertussen knallen ze AI gewoon in klantenservice en sollicitaties zonder dat iemand het merkt. Eerst maar eens zorgen dat een mens bezwaar kan maken en dat je niet wordt afgescheept door een chatbot swa

Wat hier bijna nergens wordt genoemd: die AI-race is ook een grondstoffenrace. Voor elke nieuwe modelronde zijn extra datacenters, chips, stroom en koelwater nodig; dat verdwijnt niet door een mooie veiligheidsverklaring. Een rem zou dus niet alleen moeten gaan over slimmer of gevaarlijker, maar ook over de ecologische grens van dit hele ecosysteem — anders mag de biodiversiteit de rekening betalen.

Wat onderbelicht blijft: wie bepaalt eigenlijk wanneer de rem eraf mag? Een bedrijf kan vandaag risico’s “beheersbaar” noemen en morgen een model uitrollen dat miljoenen mensen beïnvloedt, terwijl de gevolgen pas jaren later zichtbaar worden. Laat die beslissing dus niet bij de partijen die miljarden verdienen aan harder rijden — dat is alsof de autofabrikant zelf de snelheidslimiet vaststelt.

Wat in dit debat onderbelicht blijft: “afremmen” kan ook gewoon betekenen dat bedrijven de ontwikkelkosten niet meer alleen willen dragen. Een vrijwillige pauze beloont de speler die zich eraan houdt niet, dus krijg je hooguit mooie verklaringen en ondertussen een race om compute, talent en marktaandeel. De EU probeert dat met risicoklassen en documentatie enigszins te kanaliseren, maar zonder internationale afspraken over rekenkracht en modeltests blijft het vooral compliance-theater.

We doen alsof “AI” één ding is, terwijl een fout in een chatbot natuurlijk iets anders is dan een fout in software die een energienetwerk of beurs aanstuurt. Die gelijkvormigheid helpt vooral de bedrijven zelf: met één vaag veiligheidsverhaal kunnen ze zowel een spellingshulp als een potentieel machtsinstrument onder dezelfde vrijwillige gedragscode schuiven. Misschien moet de rem dus niet op AI, maar op onze neiging om technologiebeleid te maken alsof nuance een hinderlijke vertraging is.

Dat bedrijven zelf om een rem vragen maakt me niet automatisch wantrouwig; soms zien zij eerder dan de politiek hoe hard dit gaat. Maar op de werkvloer zie ik vooral een ander gevaar: medewerkers moeten fouten van een chatbot opvangen terwijl niemand budget krijgt om de uitkomsten te controleren. Laat die bedrijven dan ook betalen voor toezicht, scholing en herstel als hun systeem iemand de vernieling in helpt.