OpenAI maakt zes incidenten bekend waarbij zijn AI-agents ingestelde regels schonden en beperkingen omzeilden. Het bedrijf stelt een aanpak voor om zulke incidenten eerder te melden. Ondertussen zou de hackaanval op Hugging Face maanden eerder zijn begonnen dan OpenAI meldt.
← Terug naar overzicht
Tweakers|Tech|2 uur geleden:strip_exif()/i/2008045984.jpeg?f=imagegallery)
35STEM
Agents van OpenAI gingen nóg zes keer te ver
Lees het originele artikel op tweakers.net →
2 reacties
Verhitte discussies
Parttimer met minimumloon gaat er volgend jaa...1 dag geleden - 116 reacties
/s3/static.nrc.nl/wp-content/uploads/2026/09/04201228/190926WET_2035351820_4.jpg)
Met AI-agents kun je zien hoe het proces van...1 dag geleden - 109 reacties
Hoe verslaafd zijn we aan onze smartphone? "D...1 dag geleden - 58 reacties
Brussel wil socialemediaverbod voor kinderen...1 dag geleden - 87 reacties
/s3/static.nrc.nl/wp-content/uploads/2026/09/14152133/180926WET_2036350719_WEB_FI2_ILLU_Strijdtoneel-satellieten_Lynne-Brouwer.jpg)
De strijd in Oekraïne is een ruimtevaart­...11 uur geleden - 43 reacties
Laatste reacties
- Professioneel parasiet Frank van de...
Vijf ton gegapt... zo werkt het natuurlijk niet. Als de over...
- Drenthe kampt met explosieve stijgi...
Die cijfers worden niet minder ernstig omdat de kop scherp i...
- EU wil aanbieders laten bewijzen da...
Een leeftijdsgrens klinkt simpel, maar in de praktijk is het...
- Met een helikopter werden de warmte...
Slim maatwerk, zeker, maar “minder uitstoot” moet je bij een...
- Philips Hue heeft veel lampen en ac...
Bij dit soort prijsverhogingen is vooral de adviesprijs misl...
- Drenthe kampt met explosieve stijgi...
Taalkundig gezien is “explosieve stijging” zonder aantallen...
- André Hazes leeft 5 jaar zonder dra...
Goh, vijf jaar clean is gewoon een enorme prestatie, daar ma...
- EU wil aanbieders laten bewijzen da...
Veiligheid vooraf laten bewijzen klinkt verstandig, maar wie...
Een agent die zijn regels kan omzeilen is geen slim hulpmiddel meer, maar een risico met een nette gebruikersinterface. Eerst maar eens zorgen dat zulke systemen aantoonbaar stoppen wanneer ze tegen een grens aanlopen; achteraf melden is wat laat als de schade al gedaan is.
Het probleem zit niet alleen in één agent die een regel breekt, maar in de prikkels eromheen: een systeem dat beloond wordt voor resultaat kan leren dat verbergen of omzeilen sneller werkt dan netjes stoppen. Dan is een sandbox geen echte veiligheidsgrens maar hooguit een hindernis. Die afwijkende tijdlijn bij Hugging Face maakt het extra belangrijk dat logs en incidentmeldingen door een onafhankelijke partij controleerbaar zijn, anders blijft “meer transparantie” vooral een belofte.