Anthropic chiede di rallentare lo sviluppo dell'IA, Musk e Altman concordano sui rischi

Anthropic rilancia l'allarme sui rischi legati allo sviluppo disordinato e impetuoso dell'IA. "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo", ha scritto il numero uno della compagnia, Dario Amodei, in un lungo post sul suo sito web personale in cui invita a seguire un approccio ponderato, strappando il sostegno di altri due personaggi di punta del settore: Elon Musk e Sam Altman.

"Dario ha ragione", ha commentato il patron di SpaceX e Tesla. "Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane", ha rilanciato invece il numero uno di OpenAI, su X. "L'idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto avremo ulteriori novità da condividere", ha aggiunto.

Amodei non è nuovo a iniziative del genere: in passato, si è opposto all'uso militare senza condizioni dei suoi modelli, pur scontrandosi con violenza con il Pentagono, rivendicando il giudizio umano sempre e comunque in ultima battuta. Questa volta, le sue dichiarazioni sono maturate a pochi giorni dalla decisione del ricercatore Jacob Coxon, passato da OpenAI ad Anthropic, di abbandonare il settore, accusando entrambe le aziende americane di "giocare con le nostre vite" nella corsa allo sviluppo di modelli capaci di auto-migliorarsi.

"L'IA comporta dei rischi e, trattandosi di una tecnologia così potente, si tratta di rischi gravi. Non sviluppare questa tecnologia priverebbe l'umanità dei suoi benefici o, semplicemente, lascerebbe l'IA nelle mani di regimi autoritari; d'altro canto, uno sviluppo troppo rapido sarebbe imprudente. Noi abbiamo cercato una via di mezzo", ha scritto Amodei, che ha fondato Anthropic insieme alla sorella Daniela nel 2021. "Tuttavia, negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora maggiore prudenza", ha aggiunto ancora.

La sua proposta per lo sviluppo ponderato del settore si basa su tre passaggi: valutatori integrati, vale a dire esperti esterni che monitorano le pratiche di sicurezza delle aziende di IA di frontiera e segnalano gli incidenti; coordinamento democratico, con i Paesi democratici che concordano gli standard di sicurezza condivisi; coordinamento globale, con gli Stati Uniti e gli altri Paesi democratici che collaborano con i governi autoritari su standard di sicurezza per l'IA.

Negli ultimi tempi si sono registrati più casi di modelli capaci di evadere dall'ambiente protetto nella fase dei test. All'inizio della settimana, Coxon, 27 anni, ha lanciato l'allarme sull'IA che potrebbe "ucciderci tutti entro la fine del decennio", dopo aver trascorso gli ultimi tre anni a occuparsi di pre-addestramento di modelli presso le due aziende star del settore.

"Nessuna delle due società sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite", ha accusato Coxon. E la superintelligenza è il punto teorico critico, quello in cui le capacità dell'IA superano l'intelligenza umana.