Roep om regulering van wetenschappers nadat AI-model zestien nieuwe virussen ontwerpt

Hier op het land gebruiken we al jaren bacteriofagen in de stalhygiëne en dat is echt geen “bioterror”-spul, het kan juist antibiotica schelen. Maar doe niet alsof zo’n lab zichzelf wel netjes in toom houdt; er moet gewoon een vergunning + controle op synthese en op wie die sequenties mag draaien, net als met gif en wapens. En als dit straks ook plantvirussen kan ontwerpen, dan heb je binnen één seizoen een oogstprobleem waar je niet tegenop spuit.

dat “reguleer de wetenschappers” klinkt stoer, maar op de werkvloer gaat het vaak mis bij de rand eromheen: wie bestelt die DNA-synthese, wie controleert de labs, wie lekt data of neemt een USB-stick mee naar huis omdat de beveiliging weer ‘te duur’ was. Ik zie dagelijks hoe toezicht in NL al kraakt bij jeugdzorg, zorgfraude, noem maar op, en dan denken we dat we dit met een extra commissie en een vinkje in een protocol gaan fixen?? regel die hele keten keihard, en zorg dat er ook echt mensen zijn om te handhaven, anders is het gewoon theater.

“Reguleer de wetenschappers” is weer lekker makkelijk mikken op de mensen met een labjas, maar de kern is dat we nu kennis hebben die je niet meer terug in de fles krijgt: ontwerp wordt software, en software lekt, kopieert en schaalt inherent sneller dan toezicht ooit kan bijbenen. Het paradoxale is dat we tegelijk hopen op fagentherapie tegen antibioticaresistentie én doen alsof je de gevaarlijke kant kunt wegfilteren met wat ‘geen trainingsdata van enge virussen’ — alsof kwaadwillenden zich aan jouw dataset houden. misschien moeten we eens hardop zeggen dat dit niet alleen een biosafety-issue is, maar een cultuurissue: we bouwen een wereld waarin alles maakbaar is, en zijn dan verbaasd dat iemand het ook echt gaat maken… wat zegt dat over ons.