Esperti di biosicurezza hanno lanciato un appello ai governi affinché vengano introdotte nuove misure di sicurezza per mitigare le minacce biologiche derivanti dall’applicazione dei modelli di intelligenza artificiale avanzata.
La preoccupazione nasce dal potenziale ambivalente di questi modelli, i quali, se da un lato possono accelerare lo sviluppo di nuovi farmaci e vaccini, dall’altro potrebbero essere sfruttati per la creazione di agenti patogeni potenziati o del tutto nuovi.
Attualmente, esperti di istituzioni come OpenAI e RAND affermano che i modelli linguistici di grandi dimensioni non rappresentano ancora una minaccia immediata per la creazione di armi biologiche, principalmente a causa della mancanza di dati sufficienti per un addestramento efficace.
Sonia Ben Ouagrham-Gormley, vicedirettrice del Programma di Biodefesa presso la George Mason University, afferma che, nonostante la percezione comune, “produrre armi biologiche utilizzando le informazioni fornite dall’IA non è affatto semplice; è un processo estremamente complesso“.
Nonostante ciò, molti ricercatori ritengono che sia solo una questione di tempo prima che l’evoluzione dei modelli di IA renda realizzabile tale scenario. Anita Cicero, vicedirettrice del Center for Health Security della Johns Hopkins, ha sottolineato l’importanza di ascoltare gli sviluppatori di IA riguardo le potenziali capacità delle future generazioni di modelli.
E avverte che l’automazione dei laboratori e la possibilità di gestire esperimenti a distanza attraverso il cloud, potrebbero ridurre la necessità di competenze specifiche per condurre esperimenti pericolosi.
Cicero e i suoi colleghi, in un articolo pubblicato sulla rivista Science, hanno evidenziato l’importanza che gli sviluppatori di IA si impegnino a valutare attentamente i modelli prima che diventino pubblici. Hanno però aggiunto che questo impegno non sarebbe sufficiente: i governi devono anche intervenire per valutare i modelli addestrati su grandi quantità di dati biologici o dati particolarmente sensibili. Questa misura, secondo gli esperti, potrebbe ridurre i rischi senza limitare eccessivamente la libertà accademica.
Inoltre, viene proposto che le aziende e le istituzioni che si occupano di sintetizzare acidi nucleici (trasformando informazioni genetiche in molecole fisiche), implementino controlli sui loro clienti e sugli ordini ricevuti. A partire da ottobre, infatti, i ricercatori finanziati a livello federale negli Stati Uniti saranno obbligati a procurarsi acidi nucleici sintetici solo da fornitori che adottano tali misure di screening.
Nonostante queste proposte, alcuni ricercatori ritengono che sia necessario comprendere meglio le capacità attuali dei modelli di IA in contesti di laboratorio prima di procedere con regolamentazioni specifiche. Sonia Ben Ouagrham-Gormley ha infatti sottolineato che “è fondamentale acquisire una comprensione più approfondita delle reali capacità dei modelli di IA biologica, il che ci permetterà di valutare con maggiore precisione i rischi associati.”
Gran parte del lavoro di sviluppo dei modelli di IA in biologia viene svolto nel settore privato. Per questo motivo, Cicero e i suoi colleghi sostengono che l’attenzione del governo dovrebbe concentrarsi sui modelli biologici avanzati che rappresentano potenziali minacce di grande impatto, indipendentemente dal fatto che siano stati sviluppati con il supporto di fondi federali.
In conclusione, secondo Tom Inglesby, direttore del Center for Health Security della Johns Hopkins, gli Stati Uniti e altri leader nel settore devono stabilire i propri sistemi di governance per affrontare queste nuove sfide. Inglesby ha inoltre affermato che “dovremmo mirare a un’armonizzazione internazionale, proprio come facciamo per altre questioni di sicurezza e protezione legate alla scienza.”
