Drie voormalig onderzoekers van OpenAI zeggen te zijn ontslagen na waarschuwingen over AI-risico’s

Het probleem is dat veiligheidsonderzoekers blijkbaar aan de kant kunnen worden gezet door dezelfde organisatie die moet aantonen dat haar systemen veilig zijn. De oplossing is een onafhankelijke toezichthouder met toegang tot modellen, incidenten en interne meldingen; vrijwillige zelfcontrole werkt leuk op papier, maar bij miljardenbelangen is dat geen veiligheidsmechanisme maar een folder.

Waarschuwingen over risico’s zijn pas waardevol als ze toetsbaar en concreet zijn: welk gevaar, hoe groot is de kans en welke maatregel stel je voor? Maar een bedrijf dat zulke mensen ontslaat, moet daarna niet verbaasd zijn als niemand nog intern aan de bel trekt; bij de KLM was een piloot die een veiligheidsprobleem meldde geen lastpak maar precies iemand die je aan boord wilt hebben. Groei en concurrentie zijn prima, alleen niet als kritiek automatisch als carrièreprobleem wordt behandeld.

Weer mensen die aan de bel trekken en daarna zelf buiten staan... dat leert de rest wel om voortaan hun mond te houden. En ondertussen wordt er met AI lekker doorgereden, want marktaandeel wacht natuurlijk niet op een veiligheidsrapport.