Anthropic blocca l'uso dell'IA per ricerche su armi biologiche
L'azienda ha bloccato tentativi di mutare il virus Chikungunya e progettare armi tradizionali, con esperti che esprimono forte preoccupazione per i rischi dell'IA.
Anthropic ha comunicato di aver interrotto i tentativi di alcuni scienziati che usavano i suoi sistemi di intelligenza artificiale per ricerche potenzialmente legate alle armi biologiche.
L'azienda ha spiegato che è molto difficile distinguere tra una ricerca medica utile, come quella per creare nuovi vaccini, e una pericolosa. Per questo motivo, ha deciso di bloccare gli account sospetti in via precauzionale. Il documento pubblicato sul blog ufficiale di Anthropic descrive un caso specifico avvenuto a maggio.
Un ricercatore ha usato il chatbot Claude per scrivere una richiesta di fondi volta a studiare il virus Chikungunya, una malattia trasmessa dalle zanzare che può causare forti dolori e altri sintomi. L'obiettivo degli esperimenti era far mutare il virus per renderlo più dannoso per gli animali.
Negli ultimi otto mesi, alcuni utenti avrebbero sfruttato i sistemi di Anthropic per cercare di progettare armi tradizionali, come missili e droni armati. Questi casi sono stati registrati in Cina, Russia e Yemen. Inoltre, il software è stato usato da attori legati a governi esteri per diffondere propaganda falsa e per sorvegliare gruppi di dissidenti politici.
Al New York Times, diversi esperti di sicurezza hanno commentato i dati esprimendo forte preoccupazione e avvertendo che l'intelligenza artificiale avanzata può essere usata di nascosto per creare agenti patogeni molto pericolosi. "Oggi potremmo non prevederli e, una volta rilasciati, non essere più in grado di fermarli", ha detto al media Susan Monarez, microbiologa ed esperta di salute pubblica.
In settimana, Jacob Coxon si era dimesso dal laboratorio di intelligenza artificiale di Anthropic, spiegando che la corsa alla creazione di una superintelligenza IA potrebbe distruggere l'umanità entro la fine del decennio.