OpenAI, Anthropic, Google en anderen waarschuwen voor AI-aanvallen

Het probleem is dat deze bedrijven tegelijk brandweer en luciferfabrikant zijn: ze waarschuwen voor autonome aanvallen, maar concrete normen voor testen, logging en aansprakelijkheid blijven achterwege. De oplossing is verplichte onafhankelijke veiligheidstoetsing en directe meldplicht bij misbruik, zeker voor systemen die toegang krijgen tot vitale infrastructuur; een open brief zonder handhaving is vooral goede PR.

Die brief is ook een verkapte handleiding voor overheden: kijk jongens, dit kan straks, regel het een beetje voordat iemand de boel platlegt; ondertussen trainen ze wel vrolijk door.

Hmm, “AI-aanval” klinkt meteen alsof robots zelfstandig oorlog gaan voeren, terwijl veel ellende waarschijnlijk begint met een gestolen wachtwoord of iemand die op een foute link klikt. Daar hebben bedrijven nu al moeite mee, dus gewone digitale beveiliging op orde brengen lijkt me minstens zo belangrijk als zo’n open brief.

Het lastigste punt zit niet alleen in een slimmer model, maar in de koppeling met echte systemen. Een AI die een kwetsbaarheid vindt is vervelend; een AI die daarna automatisch productie, patiëntgegevens of waterbeheer kan aanpassen is een heel ander risiconiveau. Daarom zouden organisaties vooral die digitale toegangsrechten moeten beperken en standaard menselijke goedkeuring eisen voor ingrepen met fysieke gevolgen — daar heb je geen nieuwe internationale conferentie voor nodig.