Un team di Microsoft afferma di aver utilizzato l’intelligenza artificiale per scoprire una vulnerabilità “zero day” nei sistemi di biosicurezza utilizzati per prevenire l’uso improprio del DNA.
Un team di ricercatori di Microsoft ha individuato una vulnerabilità “zero-day” nei sistemi di biosicurezza che servono a impedire l’acquisto di sequenze genetiche potenzialmente utilizzabili per creare tossine o agenti patogeni letali. La scoperta, guidata dal chief scientist Eric Horvitz, è stata pubblicata sulla rivista Science e apre un nuovo fronte nel dibattito sull’impatto dell’intelligenza artificiale in biotecnologia.
Il test con l’AI generativa
Gli studiosi hanno concentrato la loro attenzione su modelli di AI generativa in grado di proporre nuove strutture proteiche. Tecnologie simili sono già usate per accelerare lo sviluppo di farmaci da parte di startup come Generate Biomedicines e Isomorphic Labs (spin-off di Google). Ma proprio questa capacità le rende “a duplice uso”: strumenti pensati per la ricerca medica possono, in teoria, essere sfruttati anche per progettare molecole dannose.
Nel 2023 Microsoft ha avviato un test di “red teaming” per verificare se l’AI potesse essere manipolata per produrre proteine tossiche. Usando diversi modelli, tra cui EvoDiff sviluppato internamente, i ricercatori hanno riprogettato tossine modificandone la struttura quel tanto che bastava a eludere i software di screening utilizzati dai fornitori commerciali di DNA, senza comprometterne la pericolosità teorica.
Nessuna produzione reale, ma allarme concreto
Il test è rimasto interamente digitale: nessuna proteina tossica è stata effettivamente creata, per evitare dubbi sull’intento della ricerca. Prima di pubblicare i risultati, Microsoft ha informato il governo USA e i produttori di software, che hanno già aggiornato i sistemi di controllo, pur ammettendo che alcune molecole generate dall’AI riescono ancora a sfuggire ai filtri. “La patch è incompleta, siamo in una vera e propria corsa agli armamenti”, ha commentato Adam Clore, direttore R&D di Integrated DNA Technologies, coautore dello studio.
Sicurezza e dibattito aperto
Per ridurre i rischi di abusi, i ricercatori hanno deciso di non rivelare parte del codice né le proteine esatte usate nei test. Restano però note alcune delle sostanze più pericolose, come la ricina o i prioni responsabili della mucca pazza.
Secondo Dean Ball, fellow della Foundation for American Innovation, i progressi dell’AI nella modellizzazione biologica rendono urgente rafforzare le procedure di screening per la sintesi degli acidi nucleici, abbinate a sistemi di verifica più solidi. Anche la Casa Bianca, con un ordine esecutivo firmato da Donald Trump lo scorso maggio, ha chiesto una revisione generale delle misure di biosicurezza, sebbene non siano ancora arrivate nuove linee guida.
