Wetenschappers bouwen voor het eerst een virus met behulp van AI. ‘De regels om dit veilig te doen zijn er nog niet’

tuurlijk “de regels zijn er nog niet”. dat is altijd zo: eerst bouwen, dan verbaasd kijken dat jan en alleman straks met een laptop en een bestelaccount een bouwpakket kan regelen. en als het misgaat mag de rest van de wereld weer doen alsof dit niet te voorspellen was.

Het enge is niet eens “AI bouwt virus”, het enge is dat de bottleneck verschuift van lab skills naar compute + een synthese-order, en daar zitten nul echte guardrails behalve wat vinkjes in een webshop. Als je dit wil mitigaten moet je niet doen alsof je het met een wetje fikst, maar je moet die DNA-synth supply chain harden: screening op sequenties, logging/audits en accountability, anders is het net als met exploits: public model weights + geen monitoring = speedrun naar ellende.

Wederom: “geen regels”, maar ondertussen gaat er wél subsidie, cloudtegoed en labtijd tegenaan alsof het een hobbyproject is. 700.000 ontwerpen genereren en 285 testen, dat is gewoon een pipeline met kostenposten (compute, synthese, containment, personeel) en daarna mag Cogem “monitoren” met een paar beleidsnotities… wie betaalt die controle en wie is aansprakelijk als er eentje buiten het lab belandt? En ja, het is “alleen” een bacteriofaag, maar dat was de eerste drone ook: klein en onschuldig tot iedereen er mee gaat knutselen.

Iedereen staart zich blind op “AI”, maar de echte attack surface is dat er straks een GitHub repo met sequenties + een API naar DNA-synth is en dan is het supply chain security, niet biologie. simpel: behandel gen-synth zoals payment processing: KYC, rate limits, anomaly detection, audits en keiharde liability bij labs én leveranciers, anders is dit gewoon “move fast and break humans”. En ja, “bacteriofaag” is de demo; de product roadmap komt vanzelf.

Wat mij opvalt: iedereen praat meteen over “de gek met een laptop”, maar de grootste blinde vlek zit ’m in de gewone wetenschapscultuur: publiceren, preprints, data delen, code op GitHub, en vooral de drang om als eerste te zijn. Dáár hoort dus óók een rem op, want als je alles open gooit en pas achteraf gaat “monitoren”, ben je te laat; en ja, dat schuurt met open science, maar veiligheid is ook een publieke waarde. Taalkundig: het is geen “bacteriofaag-genoom” met een koppelteken, maar gewoon bacteriofagengenoom; en “proof-of-concept” blijft zo’n lekker excuuswoordje om niet te hoeven zeggen: we hebben iets gemaakt en nu hopen we dat de wereld het wel regelt.

Feit is: dit is nu nog een bacteriofaag, maar het laat vooral zien hoe makkelijk je straks functionele genetische rommel kunt laten “spugen” door een model, en dan is de zwakke plek niet alleen DNA-synth maar ook labdiscipline. In de praktijk gaat het vaker mis door menselijk gedoe, slechte containment, rommelige opslag/labeling, dan door een James Bond-schurk met een laptop. Wat mij betreft hoort daar ook een plicht bij om incidenten bijna-incidenten te melden, net zoals in de zorg, want anders leer je dus niks en blijft het bij stoere papers.

Iedereen focust op “kan dit een mens infecteren”, maar wat veel mensen niet weten: bacteriofagen zijn juist kampioen in horizontale genoverdracht, dus je wil echt zeker weten dat je geen ongewenste toxine- of resistentie-genen mee-engineert en zo bacteriën per ongeluk sterker maakt. overigens gaat het debat nu vooral over modeltoegang en DNA-synth, maar de echte winst zit ook in saaie dingen als standaard biosecurity-checks in labs en een fatsoenlijk meldsysteem voor bijna-incidenten, net als in de zorg. en ja, proof-of-concept is leuk, maar zonder harde aansprakelijkheid blijft het bij “we zien wel”...

Iedereen focust op “de gek met een laptop”, maar de echte vraag is: wie bezit de compute, de modellen en de DNA-synth—spoiler: big tech + biotech met aandeelhouders, niet de samenleving. Straks heet het “innovatie” als het winst oplevert en “incident” als het misgaat, en dan mag de publieke sector de schade opruimen — oh ja want privatize profits, socialize risks is blijkbaar gewoon beleid. Maak die hele keten publiek en democratisch controleerbaar, anders is “geen regels” gewoon een businessmodel.