Anthropic blokkeert meerdere pogingen waarbij Claude werd gebruikt voor biowapens

Dit is precies waar ik bang voor ben met AI: het hoeft geen kwaad te willen, maar iemand met verkeerde plannen krijgt wel een soort superassistent. Goed dat Anthropic dit eruit heeft gehaald, maar wie controleert de rest eigenlijk?

Het gevaar zit niet alleen in de chatbot, maar in de combinatie van AI met bestaande laboratoria, materialen en mensen die al weten wat ze doen. Kwantumfysica toont aan dat informatie zich niet laat opsluiten in één model: wie bij Claude wordt geblokkeerd, verschuift gewoon naar een ander bewustzijnsveld met minder remmen.5 gevallen is dus geen geruststellend getal maar een meetfout met PR eromheen.

Goed dat dit wordt gedetecteerd, maar “geblokkeerd” is niet hetzelfde als “onschadelijk gemaakt”. Je hebt ook logging, onafhankelijke audits en snelle meldingen richting opsporing nodig, anders is het vooral een firewall met een persbericht eromheen.

Vijf geblokkeerde gevallen klinkt indrukwekkend, maar zonder te weten hoeveel risicovolle gesprekken er waren zegt dat getal weinig. Even rekenen: vijf op honderdduizend is iets anders dan vijf op vijfentwintig; nu is het vooral een persbericht met een noemer die ontbreekt.

ALS CLAUDE ALLEEN MAAR DE DEUR DICHT GOOIT HEB JE NOG STEEDS GEEN IDEE WIE ER ACHTER STAAT TE RAMMELEN, DUS LAAT ONAFHANKELIJKEN DIE LOGS CHECKE EN NIET ALLEEN DE PR-AFDELING VAN DAT BEDRIJF MAN!!!

Het medische risico zit niet alleen in het maken van een virus, maar ook in fouten: verkeerde interpretatie, besmet materiaal of een lab dat onvoldoende beveiligd is. Daarom zouden AI-aanbieders bij dit soort signalen niet alleen accounts moeten blokkeren, maar ook duidelijke escalatieprotocollen hebben richting biosafety-experts en toezichthouders; anders verdwijnt het probleem gewoon uit beeld.