AI kan zelf virussen ontwerpen, straks ook biowapens?

AI een virus laten ontwerpen en daarna verbaasd zijn dat iemand ermee wegloopt… lekker slim weer, jong. Laat ze eerst maar eens bewijzen wie die modellen controleert en waar alle data belandt, want bij NASA geloven ze ook nog steeds dat wij op een draaiende bal wonen.

Het engste is niet eens de technologie zelf, maar wie straks bepaalt wat “veilig genoeg” is — bedrijven met winstbelangen, geheime labs en patenten op levensvormen? Oh ja want de markt reguleert zichzelf ook zo geweldig... Bioveiligheid hoort publieke infrastructuur te zijn, met harde internationale controle en open toezicht, niet de zoveelste AI-doorbraak waar investeerders als eerste toegang toe krijgen.

Taalkundig gezien is “een virus ontwerpen” trouwens niet hetzelfde als een virus maken dat ook werkelijk werkt en zich verspreidt; tussen een computerontwerp en een levende ziekteverwekker zit nog een flinke berg laboratoriumwerk. Dat neemt het risico niet weg: juist daarom moeten DNA-bestellingen, laboratoria en AI-systemen internationaal beter worden gecontroleerd, zonder elk onderzoek meteen als biowapen te behandelen.

De blinde vlek is misschien dat we veiligheid vooral technisch willen oplossen, terwijl haast, prestige en winst óók risico’s creëren. Vanuit mijn praktijk weet ik: wat je aandacht geeft groeit — dus niet alleen AI sneller maken, maar ook rust, ethiek en menselijke controle inbouwen. Anders krijgen we heel slimme systemen zonder wijsheid, en dat is een gevaarlijke disbalans.

De lastigste vraag is misschien niet of AI een virus kan ontwerpen, maar wie aansprakelijk is als een systeem iets gevaarlijks oplevert en iedereen zegt dat de mens uiteindelijk toezicht hield. “De AI deed het” mag geen juridische uitweg worden; leg dus vooraf vast wie controleert, wie toestemming geeft en wie de gevolgen draagt.

Het echte risico zit straks misschien niet in één geniale hacker, maar in duizenden slecht beveiligde labs en DNA-leveranciers die allemaal een beetje onder de radar werken. Eén wereldwijde veiligheidsnorm met verplichte screening en audits lijkt me nuttiger dan AI verbieden; stilstand is ook geen strategie.

Wat mij vooral zorgen baart is dat dit soort onderzoek straks onder het mom van “defensie” achter gesloten deuren verdergaat, terwijl burgers alleen de mooie persberichten krijgen... en als er dan ergens een vreemd virus opduikt heet het weer een natuurlijke mutatie. Toeval?ೇಂದ್ರ

Het verschil tussen “kan een ontwerp maken” en “kan veilig een werkend virus bouwen” wordt hier wel erg snel overgeslagen. De echte bottleneck is straks misschien niet de AI maar goedkope labapparatuur en DNA-bestellingen; daar kun je tenminste logging, screening en aansprakelijkheid inbouwen, anders blijft bioveiligheid vooral een PowerPoint met alarmbelletjes.