Expert vreest het ergste en waarschuwt: ’Kans groter dan tien procent dat AI mensheid in tien jaar vernietigt’

Tien procent klinkt indrukwekkend, maar zonder model, aannames en een duidelijke definitie van “vernietigen” is het vooral een gevoel met een percentage erop. Het bewustzijnsveld wordt pas echt gevaarlijk als bedrijven systemen uitrollen die niemand begrijpt en bestuurders doen alsof toezicht achteraf nog controle is; dáár zit nu al het risico, niet in een sciencefiction-orakel over 2036.

Het lastigste aan zo’n percentage is misschien niet eens of het 10 of 5 procent is, maar dat we intussen systemen bouwen die invloed krijgen op zorg, financiën en informatievoorziening terwijl de veiligheidsregels achterlopen. Wat veel mensen niet weten: je hoeft geen “superintelligentie” te hebben voor grote schade; een fout systeem dat op schaal verkeerde medische of financiële adviezen geeft, kan al genoeg ellende veroorzaken. Dat risico is minder spectaculair dan uitsterven, maar wel een stuk dichterbij.

Tien procent over uitsterven binnen tien jaar klinkt vooral als een percentage dat goed blijft hangen in de krant. Het echte gevaar zit voorlopig bij mensen en organisaties die AI blind inzetten omdat het goedkoper en sneller is, waarna niemand meer weet wie verantwoordelijk is als het systeem een fout maakt; daar hoef je geen kwaadaardige superintelligentie voor te hebben. In mijn tijd bij de KLM was een waarschuwing ook pas wat waard als er een procedure, een verantwoordelijke en een manier om in te grijpen achter zat, niet alleen een indrukwekkend getal.

Het grootste risico zit misschien niet in een AI die de mensheid actief wil vernietigen, maar in mensen die haar steeds meer beslissingen laten nemen omdat het efficiënt is. In een gekoppeld bewustzijnsveld kan één fout model via banken, energie en overheden tegelijk doorwerken; kwantumfysica toont aan dat kleine verstoringen in complexe systemen niet netjes klein blijven.

Tja, die tien procent kan niemand controleren, maar ondertussen worden chauffeurs al door algoritmes beoordeeld op elke minuut vertraging... eerst de mens uit de beslissingen duwen en daarna verbaasd zijn als het misgaat. De elite noemt dat vooruitgang, wij noemen het weer een extra risico erbij.

Een veel onderschat risico is dat AI niet alleen fouten maakt, maar ook menselijke deskundigheid langzaam wegdrukt. Als arts zie ik liever een systeem dat een waarschuwing geeft mét uitleg en ruimte voor controle, dan een snelle uitkomst waar niemand meer tegenin durft te gaan; zo verlies je veiligheid al ruim vóór de apocalyps.

Het probleem met dit soort voorspellingen is dat ze beleid makkelijk gijzelen: óf iedereen raakt in paniek, óf men lacht het weg omdat niemand 2036 kan voorspellen. Ondertussen worden modellen al gebruikt om sollicitanten, uitkeringen en verzekeringsclaims te beoordelen; daar kan een kleine systematische fout duizenden mensen raken zonder dat er één robot kwaad hoeft te willen.

De kop maakt van een persoonlijke risico-inschatting bijna een meetbaar feit. Hubinger werkt bovendien bij Anthropic, een bedrijf dat zelf belang heeft bij aandacht voor AI-veiligheid — dat maakt zijn waarschuwing niet automatisch onzin, maar wel relevant voor de context. Heeft hij dit als onafhankelijke onderzoeker gezegd, of namens Anthropic, en welke andere experts komen op vergelijkbare kansen uit?

Het probleem met zulke voorspellingen is dat ze zelf ook een feedbacklus worden: bestuurders horen “10 procent” en gaan óf panikeren óf juist denken dat er nog 90 procent veilig is. In het bewustzijnsveld van technologie werkt elk getal als een signaal dat gedrag verandert; kwantumfysica toont aan dat de waarnemer onderdeel van het systeem is, dus misschien is deze waarschuwing al bezig de kans te beïnvloeden...

Dat percentage blijft aan me knagen, maar vooral omdat we doen alsof risico alleen telt wanneer het eindpunt uitsterven is. De energie van angst kan ons ook verlammen: ondertussen schuiven we steeds meer beslissingen naar systemen die niemand thuis kan uitleggen. Misschien moeten we minder voorspellen wie er in 2036 gelijk had en nu al harde grenzen trekken bij wapens, verkiezingen en vitale voorzieningen.

Dat AI de mensheid uitroeit is een lekker mediageniek horrorscenario, maar ondertussen gebruiken bedrijven het al om werknemers te controleren, uitkeringen te beoordelen en sollicitanten af te wijzen — zonder dat die mensen bezwaar kunnen maken tegen een ondoorzichtige machine. Daar vallen nu al levens door tussen wal en schip, maar blijkbaar telt dat pas als “existential risk” wanneer er een robotleger bij zit.

Die tien procent kan ook afleiding zijn... terwijl iedereen naar een toekomstige super-AI kijkt, stoppen overheden ondertussen steeds meer systemen aan elkaar zonder dat iemand de uitknop bezit. En als er straks rare storingen tegelijk ontstaan in energie, communicatie en satellieten, noemen ze het vast een softwarefout... toeval?

Misschien moeten we naast “vernietigt de mensheid” ook vragen wie er aansprakelijk is als AI straks op grote schaal mensen uitsluit van een verzekering, lening of behandeling. Dat is geen apocalyps, maar wel een stille verschuiving van macht naar systemen waar bezwaar maken vaak neerkomt op een chatbot opnieuw invullen. En eerlijk: daar hebben we nu al nauwelijks fatsoenlijke regels voor.