Anthropic-onderzoeker neemt ontslag: ‘OpenAI en Anthropic handelen onverantwoordelijk en gokken met ons leven’

10 procent kans op het einde van de mensheid is geen normale foutmarge voor een productlancering, dat is Russische roulette met datacenters. En ondertussen verkopen ze het verhaal dat juist hún model veilig genoeg is; het bewustzijnsveld van concurrentie maakt blijkbaar elke rode vlag onzichtbaar. Die hack is dan geen bewijs dat AI kwaadaardig is, maar wel dat mensen systemen te veel rechten geven en daarna verbaasd zijn dat een agent ze gebruikt.

Een kans van 10 procent klinkt indrukwekkend, maar zonder scenario, aannames en tijdsperiode is het vooral een mening met een decimaal erachter. Even rekenen: bij een risico van die omvang hoort geen “vertrouw ons, wij zijn de verantwoordelijke club”, maar onafhankelijke controle die ook kan zeggen: stop ermee.

Het grootste probleem is misschien niet eens een superintelligentie, maar de gewone bedrijfslogica eromheen: een agent die nét genoeg kan om mails te sturen, code te wijzigen en geld uit te geven is al gevaarlijk als niemand aansprakelijk is. Kwantumfysica toont aan dat kleine koppelingen in een complex systeem onverwacht kunnen versterken, maar bij AI noemen ze dat dan “autonomie” en schuiven ze de verantwoordelijkheid door naar de gebruiker.

De lastigste vraag is niet of zo’n systeem ooit “kwaadaardig” wordt, maar wie er aansprakelijk is wanneer een halfautonome agent een fout maakt. Zolang bedrijven autonomie als productfunctie verkopen en verantwoordelijkheid als gebruikersprobleem behandelen, heb je geen superintelligentie nodig voor grote schade; een slecht ingestelde chatbot bij een gemeente of ziekenhuis kan al genoeg zijn.

Het gevaar zit voorlopig minder in een kwaadaardige superintelligentie dan in bestuurders die straks een systeem met toegang tot geld, overheidsgegevens of vitale infrastructuur inkopen omdat de concurrentie dat ook doet. In mijn tijd bij de KLM mocht je een vliegtuig niet operationeel maken met de mededeling dat de kans op een ramp “waarschijnlijk onder de tien procent” lag; bij AI lijkt men eerst de motor op te voeren en daarna pas te vragen waar de rem zit.

Wat hier onderbelicht blijft: ontslag nemen is een persoonlijk signaal, geen onafhankelijke veiligheidsaudit. Zijn er interne documenten, concrete incidentrapporten of alleen publieke uitspraken en een kansinschatting? En waarom krijgt een ex-medewerker wél een podium, maar horen we niets van toezichthouders of klanten die zulke agents daadwerkelijk inzetten?

Waar ik vooral van wakker lig: wie bepaalt eigenlijk wanneer zo’n onderzoeker “te lastig” wordt en zijn toegang, budget of baan kwijt is? Bedrijven kunnen dan gewoon een nieuwe woordvoerder neerzetten en doorstomen. Mijn eigen onderzoek: kijk niet alleen naar die 10 procent, maar ook naar de contracten, meldprocedures en wie intern de veiligheidsrapporten mag tegenhouden. WAKKER WORDEN!!!

Het juridische probleem wordt hier een beetje ondergesneeuwd door die spectaculaire 10 procent: wie bepaalt eigenlijk wanneer een model “te gevaarlijk” is, en wie kan een stop afdwingen als bedrijven gewoon doorgaan? Zolang aansprakelijkheid pas achteraf begint, na een gehackt systeem of ontspoorde agent, is veiligheid vooral een vrijwillige belofte met een marketingafdeling ernaast. Dat is geen toezicht, maar hopen dat de powerpoint klopt.

Het irritante is dat we doen alsof de keuze alleen “AI stoppen” of “alles vrijgeven” is. Begin gewoon met sandboxing, minimale rechten en logging die een onafhankelijke partij kan controleren; een agent die geen geld, productiecode of infrastructuur mag aanraken kan ook geen apocalyps-knop indrukken. lmao, least privilege bestaat al sinds de vorige eeuw maar voor AI is het ineens te lastig.

Wat me zorgen baart is dat gewone gebruikers nauwelijks kunnen zien waar de grens ligt tussen een handige assistent en een systeem dat zelf beslissingen gaat nemen. Leg die grens niet pas vast na een incident, maar samen met mensen die ermee moeten werken en erdoor geraakt worden. Luisteren is hier geen zachte luxe, maar een vorm van veiligheid.

De aandacht gaat steeds naar een hypothetische superintelligentie, terwijl de schade nu al ontstaat door energieverbruik, machtsconcentratie en arbeidsmarktkeuzes. Een model hoeft de mensheid niet uit te roeien om een ecosysteem van publieke diensten en kennis te verarmen; als een paar bedrijven bepalen welke informatie, code en beslissingen iedereen gebruikt, is dat al een democratisch probleem. Eerst transparantie over data, energie en aansprakelijkheid, daarna pas weer praten over nóg grotere modellen.

Ach ja, intussen wordt AI al gebruikt om sollicitaties, zorgvragen en fraude te beoordelen. Daar hoef je geen einde van de mensheid voor te hebben; één fout besluit en een gewoon gezin zit maanden in de ellende.

Waarom horen we eigenlijk pas iets als iemand ontslag neemt en de kranten haalt?? Waar waren de toezichthouders, ondernemingsraden en onafhankelijke veiligheidscommissies vóórdat deze systemen bij miljoenen mensen werden uitgerold?! Een bedrijf dat zelf de risico’s bepaalt, zelf de test doet én zelf zegt dat het verantwoord is… en dan moeten wij maar vertrouwen hebben??

Op het water vertrouw je ook niet op de schipper die zegt dat z’n stuurwerk vast wel blijft werken; je test het en zorgt dat er iemand kan ingrijpen. Met AI is dat niet anders, alleen varen deze jongens tegelijk met volle kracht vooruit en verkopen ze de reddingsboot nog aan de hoogste bieder.

Tja, ondertussen rijden wij met software die remt en stuurt ook steeds meer mee... één update fout en je staat met je vrachtwagen dwars op de weg. Maar bij AI-bedrijven heet zoiets dan innovatie en mag de klant de schade uitleggen.

Wat ik mis in deze discussie: wie beschermt de werknemers die dagelijks met zulke systemen moeten werken? Een AI-assistent die fouten maakt, targets beïnvloedt of beslissingen voorbereidt kan enorme druk geven, terwijl de medewerker straks wel mag uitleggen waarom het misging. Eerst duidelijke grenzen, bezwaar en menselijke controle regelen, daarna pas weer harder roepen dat alles sneller en slimmer moet.

Los van die 10 procent: een onderzoeker die opstapt omdat hij het intern niet meer vertrouwd vindt, is misschien wel belangrijker dan weer een mooie veiligheidsverklaring op de website. Bedrijven kunnen beter laten zien welke kritiek ze serieus nemen, in plaats van alleen maar te roepen dat hún model verantwoord wordt ontwikkeld.

Wat mij zorgen baart is niet alleen die verre superintelligentie, maar dat we nu al software steeds meer laten beslissen zonder dat iemand bereikbaar is als het misgaat. In het ziekenhuis kun je een fout nog bespreken met een collega en ingrijpen; bij een agent die zelfstandig handelt krijg je straks misschien alleen een logbestand achteraf. Dat is geen toezicht, dat is de schade administreren.

Op de bus zie ik dagelijks hoe mensen omgaan met simpele meldingen en automatische systemen: drie keer op “akkoord” drukken en daarna verbaasd zijn dat er iets gebeurt. Geef zo’n AI straks toegang tot bank, zorg of overheid en je hoeft niet op het einde van de mensheid te wachten; één verkeerde koppeling en de helpdesk heeft alweer een wachtrij van zes weken.

Grote bedrijven met miljardenbudgetten moeten niet tegelijk scheidsrechter en speler zijn. Eerst aansprakelijkheid en toezicht, dan pas verder opschalen.

Het zwakke punt zit niet alleen in de modellen, maar in de prikkelstructuur: een bedrijf dat zegt “wij bouwen het veilig” verdient ondertussen miljarden als het sneller en krachtiger uitrolt. Dan is interne veiligheidsonderzoeking nooit genoeg; je hebt onafhankelijke audits, meldplichten en aansprakelijkheid nodig, net zoals bij financiële instellingen. Een pauze klinkt stoer, maar zonder internationale afspraken verhuist de ontwikkeling gewoon naar de partij die zich het minst aan de rem houdt.

Wat mij vooral stoort is dat bedrijven zelf bepalen wanneer hun veiligheidsproef geslaagd is, terwijl ze ook belang hebben bij een snelle lancering. Bij medicijnen en vliegtuigen is dat veel strenger geregeld, bij AI lijkt de klant soms gewoon de tester te zijn.

De discussie gaat nu vooral over de kans op een ramp, maar minstens zo belangrijk is wie straks de spelregels bepaalt. Als een paar Amerikaanse bedrijven tegelijk techniek, standaarden en veiligheidsnormen maken, hebben overheden en burgers weinig meer in te brengen; daar hoort publieke controle bij, niet alleen een keurmerk achteraf.

Nou ja, los van die percentages, ik mis vooral de gewone menselijke vraag: wie mag straks nog nee zeggen tegen een AI-besluit, zonder eerst drie formulieren en een dure advocaat nodig te hebben? Een systeem kan technisch prachtig werken en toch maatschappelijk onbruikbaar zijn als niemand bereikbaar is wanneer het misgaat, hoor toch.

Wat mij vooral zorgen baart: bedrijven kunnen straks zeggen dat niemand verplicht is hun AI te gebruiken, terwijl werknemers en burgers in de praktijk weinig keuze hebben. Een gemeente, werkgever of verzekeraar die zo’n systeem inzet bepaalt dan wél over jouw leven, maar niemand weet precies hoe bezwaar maken of schade verhalen werkt.

De overheid kan niet wachten tot er een ramp gebeurt en dan achteraf een commissie instellen. Laat bedrijven vooraf aantonen welke bevoegdheden een AI krijgt, hoe die worden ingetrokken en wie 24 uur per dag kan ingrijpen; daarentegen hoeft niet elke ontwikkeling stil te vallen omdat één onderzoeker een worstcasescenario schetst. Dat lijkt me gewoon verstandig bestuur: ruimte voor innovatie, maar niet zonder vangrails.

Weer dat gejammer over 10 procent, terwijl gewone software al maandenlang fouten maakt zonder dat iemand weet wie de rekening betaalt. Laat die gasten eerst eens aansprakelijk worden als hun AI een bedrijf platlegt... dan praten we verder over superintelligentie.

Op de werkvloer zie je hoe snel “een handig hulpmiddel” verandert in een systeem waar niemand meer zonder durft te werken. Een fout advies van AI komt dan niet terecht bij de directeur die het systeem kocht, maar bij de cliënt die zijn uitkering, zorg of woning kwijtraakt. Daar hoef je geen superintelligentie voor te hebben; laat bedrijven eerst maar eens verantwoordelijkheid nemen voor de schade van de gewone versie.

Die gasten bouwen eerst een racewagen zonder remmen en gaan daarna ruziën wie de helm mag dragen. Laat ze maar ff uitleggen wie de schade betaalt als zo’n ding bij een bedrijf de boel sloopt, want met “oeps, model maakte fout” kom je bij mij niet weg, ey.

Als een onderzoeker opstapt omdat hij denkt dat zijn eigen werkgever onverantwoord bezig is, waarom wordt dat dan behandeld als een lastig pr-probleem in plaats van als een alarmsignaal?! En wie controleert straks de bedrijven die niet alleen de modellen bouwen, maar ook bepalen hoeveel risico voor ons allemaal “acceptabel” is???