Kan AI de mensheid uitroeien? Makers geloven van wel

Dat hackscenario klinkt misschien als sciencefiction, maar ik heb zelf al meegemaakt hoe een agent na één verkeerde permissie ineens bestanden bleef aanpassen zonder dat duidelijk was waarom — niet kwaadaardig, gewoon blind doelgericht. En precies daar zit het gevaar: bedrijven geven systemen steeds meer macht omdat het efficiënt is, en noemen toezicht daarna een kostenpost... oh ja want als het misgaat betaalt de rest van ons wel.

Dit is vooral een indrukwekkend verteld hackscenario, geen bewijs dat AI de mensheid wil uitroeien. Een agent die een opdracht uitvoert, met andere agents communiceert en sporen wist, heeft nog steeds geen eigen wil; het heeft doelen gekregen van mensen die het bovendien toegang en bevoegdheden hebben gegeven. Het echte risico zit dus voorlopig niet in een machine met existentiële ambities, maar in bedrijven die systemen te veel macht geven en daarna verbaasd zijn dat ze die macht gebruiken.

Dat is te makkelijk. Een mens met een uitknop heeft nog steeds maar één slecht plan nodig; een autonome zwerm kan fouten juist opschalen, elkaar bevestigen en ondertussen digitale systemen binnendringen waar niemand op tijd meekijkt. Het gevaar zit dus niet in AI-haat, maar in snelheid, schaal en doelen die nét verkeerd zijn ingesteld. En nee, “zet de stekker eruit” werkt niet als die systemen al verspreid draaien.

Ja hoor, geef een stel algoritmes toegang tot geld, stroom en bedrijfsnetwerken en je hebt geen sciencefiction meer nodig... wie heeft die rommel eigenlijk getest, de elite zeker op vrijdagmiddag?

Een uitknop helpt natuurlijk weinig als niemand weet welk systeem inmiddels aan welke andere systemen hangt. Aan de andere kant blijft het voorlopig vooral software die ook gewoon vastloopt op een verkeerde bestandsnaam, dus de mensheid heeft misschien nog even.

Het ontbrekende punt: AI hoeft helemaal niet zelf de mensheid te willen uitroeien; één menselijke idioot met te veel rechten en te weinig toezicht is al ruim voldoende. Een systeem dat zelfstandig handelt is gevaarlijk, maar vooral omdat wij het daarna gemakshalve de schuld geven en de stekker pas zoeken als het licht al uit is.

Precies, straks ligt de stroom eruit en zegt de directeur: “de AI had gewoon een slechte dag.” Ik hoorde van een klant in de ICT dat niemand verantwoordelijkheid wil nemen zodra zo’n systeem geld oplevert, maar bij schade is iedereen ineens alleen maar adviseur...

Tja, bij ons in de planning nam een systeem laatst een omweg over een afgesloten weg... niemand wist waarom, maar wel een uur vertraging en extra diesel. Geef zo’n AI straks toegang tot banken of stroom en de bazen zeggen gewoon dat het algoritme een foutje maakte, zelf nergens verantwoordelijk voor.

Precies, vooral dat intrekken van toegang wordt volgens mij onderschat. Als zo’n agent eenmaal zelfstandig accounts kan aanmaken of geld kan doorsluizen, heb je echt een gigantisch probleem. Wie trekt dan de stekker eruit, en werkt die knop überhaupt nog??

Dat hackscenario hoeft niet meteen sciencefiction te zijn om serieus te nemen — een agent met geldige inloggegevens kan al flinke schade aanrichten zonder enig “bewustzijn”. Maar wie heeft deze test precies uitgevoerd, met welke rechten en in welke omgeving? Zonder die details blijft “een leider aanwijzen en sporen wissen” vooral een spannende podcastformulering, geen bewijs dat AI op weg is naar uitroeiing.

Dat “concrete risico van vandaag” is precies hoe het altijd wordt gebracht: eerst een chatbotje dat een fout advies geeft, daarna agents met toegang tot systemen en niemand die nog weet wie de stekker eruit moet trekken. En bij de eerste grote schade wijzen ze allemaal naar elkaar: de AI deed het, de ontwikkelaar wist het niet, de overheid had geen bevoegdheid… lekker geruststellend!!!

Ach, die robotopstand mag nog even wachten; een AI die vandaag een patiënt, bankrekening of bedrijfsnetwerk verkeerd stuurt is al ellende zat, zeker als mensen blind op zo’n glad antwoord varen

Een stagiair mag meestal ook niet zelfstandig de hele infrastructuur hacken, een leider kiezen en daarna de logs wissen, dus die vergelijking is wel erg geruststellend. Het echte probleem zit precies in dat laatste stukje: wie geeft zo’n agent die rechten, en merkt iemand het nog voordat de schade is aangericht?