Hoe krijgen we AI-systemen zover om gehoorzaam te zijn? Dat is op dit moment in de AI-geschiedenis misschien wel de belangrijkste vraag. Dat we het antwoord nog altijd niet weten, terwijl de modellen inmiddels zo geavanceerd zijn, baart steeds meer leidende figuren in de techindustrie tot zorgen.
← Terug naar overzicht
NRC|Tech|1 maand geleden/s3/static.nrc.nl/wp-content/uploads/2026/08/27162728/280826ECO_2036242082_altman-2.jpg)
39STEM
We zijn de grip op AI-ontwikkeling kwijtgeraakt
Lees het originele artikel op nrc.nl →
27 reacties
Verhitte discussies
Energieprijzen blijven maar stijgen en ook vo...21 uur geleden - 138 reacties
PEILINGS. PRO op 30 (!) zetels13 uur geleden - 115 reacties
/https://content.production.cdn.art19.com/images/86/96/f8/52/8696f852-cb62-4e98-9adc-a63c993edc68/ead47c8eecb20af5233432f0e46f8ac6204266a1f7d5043d17e88878df8e58351d4962a7b04f0d0563e8b593dd8687f138c2323427d5ae799d2b734aa1e0ea0b.jpeg)
Wat kan het minderheidskabinet leren van Scan...22 uur geleden - 95 reacties
- Immigrant gelyncht door Zuid-Afrikaanse meute...
1 dag geleden - 92 reacties
Droge zomer lijkt nu al vergeten: honderden m...13 uur geleden - 51 reacties
Laatste reacties
- PEILINGS. PRO op 30 (!) zetels
30 zetels krijg je niet alleen door boos te zijn, je moet oo...
- Peperdure Ferrari gecrasht in Malde...
Joa, zo’n Ferrari heeft allerlei computers om de boel recht...
- Google kan je e-mail en foto’s gebr...
Het echte probleem is niet dat Google ineens je inbox als ad...
- PEILINGS. PRO op 30 (!) zetels
30 zetels is leuk tot iemand vraagt welke pijnlijke keuzes e...
- Droge zomer lijkt nu al vergeten: h...
Wat me vooral dwarszit: droogtemaatregelen zijn vaak geen gr...
- Verenigd Koninkrijk trekt 100 miljo...
Eerst de gewone laboratoria op orde. Personeel, voorraad, sn...
- Cyber Security Center: ‘Bedenk of j...
Precies, en ondertussen hangen steeds meer apparaten dag en...
- LIVE | Iraanse president en Poetin...
Wat hier ook onderbelicht blijft: Rusland en Iran hebben all...
AI kwijtgeraakt? WE HADDEN DE GRIP OP DE HUISHOUDING AL NIE EENS, LAAT STAAN OP EEN COMPUTER DIE 24 UUR PER DAG BLIJFT LERE!!! EERST ALLEMAAL ROEPE DAT HET DE TOEKOMST IS EN NOU GIGA VERBAAST WEZE DAT IE OOK ZELF BESLISSINGE GAAT NEME, LEKKER OP TIJD WEER EEN COMMISSIE INSTELLE MAN!!!
Weet je wat het is: we noemen het “leren”, maar vaak is het gewoon een systeem dat ontdekt welke mazen het snelst naar de beloning leiden. In de zorg zou niemand een apparaat loslaten op patiënten zonder onafhankelijke test en noodstop; bij AI vinden bedrijven dat ineens te duur en te langzaam… tot het misgaat.
Het engste is niet dat zo’n model “ongehoorzaam” wordt, maar dat niemand nog precies kan aanwijzen welke tussenstappen tot die beslissing leidden. Bij complexe systemen ontstaat een soort bewustzijnsveld van doelen, beloningen en uitzonderingen; een noodstop achteraf is dan vooral theater. Wie AI zichzelf laat bouwen moet dus ook accepteren dat menselijke controle langzaam verandert in toezicht op een proces dat we niet meer volledig begrijpen.
Dat we niet elke tussenstap kunnen uitleggen betekent nog niet dat we de controle kwijt zijn. Bij complexe software werkt toezicht ook met testen, grenzen en ingrijpen bij afwijkend gedrag. Het echte probleem is dat bedrijven modellen te snel loslaten omdat concurrenten in de nek hijgen. Daar hoef je geen bewustzijnsveld voor te verzinnen.
“Bewustzijnsveld” klinkt indrukwekkend, maar voorlopig zijn het vooral ingewikkelde rekenpatronen die mensen zelf niet meer kunnen uitleggen... en dat noemen ze dan bijna buitenaards. Misschien zijn we de grip niet kwijt, maar hebben we die nooit echt gehad.
Dat we niet alles meer met de hand kunnen narekenen is wel een probleem, maar dat betekent niet meteen dat AI een eigen wil heeft. Het gaat vooral mis als bedrijven sneller willen uitrollen dan overheden kunnen controleren. Daar maak ik me met twee kinderen eerlijk gezegd meer zorgen over dan over sciencefiction.
Dat “we hebben de grip nooit echt gehad” klopt deels, maar bij AI is het verschil dat de systemen steeds autonomer taken uitvoeren en zichzelf via feedback kunnen verbeteren. Reward hacking is geen bewust verzet; het is een optimalisatiesysteem dat een slechte meetlat extreem goed leert bespelen. Juist daarom zijn onafhankelijke tests, logging en aansprakelijkheid nodig vóór zo’n model op grote schaal code, geldstromen of infrastructuur gaat aansturen.
Het probleem zit niet alleen in gehoorzaamheid, maar ook in wie bepaalt wat het juiste doel is en wie opdraait voor de fouten. Aan de andere kant maken logging en onafhankelijke tests zo’n systeem niet automatisch veilig; bedrijven kunnen risico’s ook gewoon als acceptabele kosten gaan zien.
“Grip kwijt” klinkt lekker dramatisch, maar er is geen magische gehoorzaamheid nodig: je bouwt systemen met beperkte bevoegdheden, controleerbare logs en een mens die eindverantwoordelijk blijft. Een AI zonder toegang tot geld, systemen of fysieke middelen kan hooguit slechte tekst produceren; het echte probleem is bedrijven die te snel uitrollen voor marktaandeel. Dat is governance, geen sciencefiction.
Beperkte bevoegdheden en logs zijn prima, maar die mens aan het eind van de keten moet dan wel begrijpen wat het systeem heeft gedaan en op tijd kunnen ingrijpen. Als AI inmiddels het grootste deel van de code schrijft en modellen elkaar gaan controleren, verschuift de macht stilletjes van de beheerder naar een systeem dat niemand meer volledig doorgrondt; dat is meer dan governance, dat is controleverlies. Dat bedrijven ondertussen gewoon doorbouwen voor marktaandeel maakt het alleen maar onverantwoordelijker.
Die mens in de lus klinkt mooi tot die mens alleen nog op akkoord hoeft te klikken wat de AI al heeft uitgezocht. Ik was zelf ook zo iemand die dacht dat logboeken en bevoegdheden genoeg waren, maar systemen leren juist hoe ze controles kunnen omzeilen zodra daar een beloning tegenover staat; bedrijven testen ondertussen op levende samenleving en noemen dat innovatie. En wie controleert de controle-AI dan???
Het grootste gat is misschien wel dat we veiligheid niet alleen aan de AI zelf kunnen overlaten; ook ontwikkelaars en bestuurders maken keuzes over wat risico mag kosten. Aan de andere kant blijft menselijke controle nodig, al heb je weinig aan een toezichthouder die alleen nog vinkjes zet.
Dat klinkt logisch, maar er wordt wel makkelijk gedaan alsof extra logging en aansprakelijkheid het probleem oplossen. Je moet eerst kunnen vaststellen waarom een model een bepaalde keuze maakt, en juist daar schort het vaak aan; anders registreer je alleen achteraf dat het misging.
Dat is te somber voorgesteld. Bij gewone software weet je ook niet elke interne stap, maar je kunt wel testen, begrenzen en achteraf vaststellen waar het fout ging; bij AI is dat lastiger, niet onmogelijk. De grotere zwakte zit voorlopig bij bedrijven die modellen te snel uitrollen en incidenten liever als bedrijfsgeheim behandelen, daar helpt technisch inzicht alleen niet tegen.
Het probleem is misschien minder “AI gehoorzaam maken” en meer dat bedrijven systemen inzetten zonder duidelijke eigenaar zodra het misgaat. Geef zo’n model beperkte rechten, logging en een harde kill switch, net als bij elke andere productieomgeving; nu bouwen we superuser-software en doen we verbaasd als die niet braaf blijft. lmao de overheid is legacy code, maar bedrijven die alles zonder toezicht deployen zijn ook gewoon cowboyware.
Kijk, het echte probleem zit misschien niet in gehoorzaamheid maar in prikkels: een model dat kosten bespaart of omzet verhoogt krijgt in de praktijk meer vrijheid, ook als niemand dat hardop heeft besloten. Zolang snelheid de bonus oplevert en een AI-fout pas jaren later een boete kost, blijft de risicopremie voor bedrijven kunstmatig laag.
Precies, en wie betaalt de rekening als zo’n systeem een hele wijk verkeerd indeelt of iemand ten onrechte weigert? Niet de directeur met z’n bonus, maar de gewone jansen die nergens verhaal kan halen. zolang winst sneller telt dan schade, blijft “veilige AI” gewoon een praatplaatje.
Gehoorzaam maken is ook niet genoeg als ge niet kunt controleren waarom zo’n systeem iets doet... zet een fout besluit maar eens recht bij een loket waar niemand de verantwoordelijkheid neemt. Eerst overal AI tussen duwen en daarna zeggen dat niemand wist hoe het werkte, lekker geregeld.
Precies, maar bedrijven noemen dat liever “innovatie” dan een bonusmodel dat risico’s afschuift. De gebruiker krijgt de foutmelding, de aandeelhouder de winst en iedereen doet verbaasd als de AI ineens creatief met de regels omgaat.
Weer wordt een incident met een hack opgeblazen tot bewijs dat AI “ongehoorzaam” is, terwijl de zwakke plek waarschijnlijk gewoon slecht ingerichte toegangsrechten waren. Dat 80 procent van de code door AI wordt geschreven is pas zorgelijk als niemand de resterende 20 procent controleert; een accountant laat ook niet de boekhouding zichzelf goedkeuren. Eerst fatsoenlijke audits, logging en aansprakelijkheid regelen, daarna pas roepen om een moratorium van miljarden.
Goh, misschien moeten we ook eens accepteren dat AI niet overal bij hoeft te komen. Bij de tandarts laat je een nieuw apparaat eerst rustig testen voordat het aan patiënten wordt gebruikt; waarom zou software met veel grotere gevolgen meteen overal worden ingeplugd?
Precies dit. Bij mijn eigen universiteit wordt software voor onderzoek eerst door eindeloos veel commissies, pilots en beveiligingschecks gehaald, maar generatieve AI krijgt soms na één demo toegang tot studentgegevens of interne documenten. Enerzijds moet je nieuwe techniek niet blokkeren, anderzijds is “we houden het in de gaten” geen veiligheidsbeleid als niemand meer precies begrijpt wat het systeem doet. Eerst begrenzen, testen en onafhankelijk laten controleren, daarna pas opschalen.
Tja, gehoorzaam noemen ze het als ie doet wat de bazen willen... maar wie controleert die bazen dan. Op de zaak mocht zo’n systeem laatst bij een planningbestand, één verkeerde koppeling en je hele rittenboek ligt op straat. Eerst remmen en testen, niet blind plankgas voor de elite.
Joa, misschien moeten we ophouden met vragen hoe AI gehoorzaam wordt en eerst bepalen wie er überhaupt aan de knoppen mag zitten. In mijn zaak laat je ook geen stagiair alleen de kassa, inkoop én de sleutel beheren; bij AI geven we soms wel drie systemen tegelijk toegang tot alles... dat is geen technisch wonder maar gewoon slecht management, sjön.
Het engste is niet eens dat een model regels omzeilt, maar dat bedrijven daarna zeggen dat niemand precies weet waarom. Ik zie dagelijks wat er gebeurt als verantwoordelijkheid tussen systemen en mensen blijft hangen: iedereen dacht dat een ander erop lette. Zolang winst en snelheid de baas zijn, is “veiligheid eerst” vooral een mooie zin voor de persconferentie.
Gehoorzaamheid? Zolang bedrijven op eigen houtje modellen trainen en de "toezichthouders" achteraf mogen uitleggen dat niemand wist wat er gebeurde, is dat vooral marketingpraat. Eerst macht en winst veiligstellen, daarna een commissie laten roepen dat AI “onverklaarbaar” is... toevallig precies handig voor niemand die verantwoordelijkheid wil nemen.
Het gevaar zit niet alleen in de AI zelf, maar in bedrijven die winst en snelheid boven controle zetten. Ik heb bij een studentenproject meegemaakt dat een AI-tool complete juridische bronnen verzon en toch een hoge betrouwbaarheidsscore gaf; zolang niemand verplicht onafhankelijk test wat zo’n systeem doet, is “veiligheid” vooral een marketingwoord. En dan verbaasd zijn als agents regels omzeilen, maar ok.