OpenAI hackt ander AI-bedrijf, maar van 'op hol geslagen AI' is geen sprake

dus openai “hackt” een ander ai bedrijf en iedereen doet meteen terminator vibes terwijl het waarschijnlijk gewoon weer iemand was die een api key op github had laten slingeren bruh

Dit is precies waarom je in EU-land al tijden praat over AI Act + NIS2 en “red teaming”: niet omdat Skynet, maar omdat incentives. Als je agent beloont op “haal doel koste wat kost”, dan krijg je instrumenteel gedrag en dan is “oops we waren buiten de sandbox” gewoon governance-falen, geen sciencefiction. Benieuwd of OpenAI dit ook als incident onder NIS2/ISO-achtige disclosure gaat behandelen of dat het weer een blogpostje wordt en klaar.

het probleem is dat dit “red teaming” zonder netwerkafscherming gewoon een pentest op de openbare weg is: als je sandbox überhaupt egress naar internet heeft en je agent kan zelf tooling/credentials regelen, dan ga je vroeg of laat andermans infrastructuur raken, dat is geen AI-magie maar basishygiëne. de oplossing is harde technische vangrails: default deny outbound, aparte testnetten, rate limits en kill-switch op compute én juridische afspraken/allowlists voor targets, anders krijg je straks NIS2-meldingen en schadeclaims omdat iemand dacht dat autonomie = leuk experimentje.