Anthropic lancia l'allarme L'IA in rapida evoluzione potrebbe controllare Internet
Dario Amodei, CEO di Anthropic, chiede un rallentamento nello sviluppo e misure di sicurezza per prevenire che l'IA prenda il controllo della rete in 6-12 mesi.
L'intelligenza artificiale si sta sviluppando a un ritmo "esponenziale".
Dario Amodei, a capo di Anthropic, ha definito la situazione un "segnale d'allarme" per il settore, che richiede una serie di misure di sicurezza. Senza un rallentamento, come già anticipato, nel giro di 6-12 mesi, l'IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell'intero Internet.
"Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido", ha ammesso Amodei in un'intervista a Cbs News, che andrà in onda a 'Cbs News Sunday Morning' e di cui è stata diffusa un'anticipazione.
Amodei ha descritto lo sviluppo dell'IA come una progressione del tipo "uno, poi due, poi quattro, poi otto, poi 16, poi 32", affermando che attualmente ci si trova "sulla curva" e che questa "sta iniziando a farsi ripida. Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto", ha proseguito il manager italoamericano, aggiungendo però che si tratta di "un segnale d'allarme: dobbiamo rallentare".
Amodei ha notato che la tecnologia necessita di misure di sicurezza in grado di stare al passo "con la velocità con cui la tecnologia stessa evolve". L'intervista è arrivata a poche ore dalla pubblicazione di un post sul blog in cui ha esortato le aziende che si occupano di IA a procedere più lentamente e con maggiore cautela nello sviluppo della tecnologia, sottolineando che la prevenzione dei rischi è fondamentale. La proposta ha trovato subito il sostegno di Elon Musk (SpaceX) e Sam Altman (OpenAI). Amodei ha tracciato un piano in tre punti con l'obiettivo, ha precisato, di "gestire il ritmo di avanzamento della frontiera tecnologica". Il primo riguarda i valutatori interni ("embedded evaluators"), il secondo il coordinamento democratico e il terzo il coordinamento globale.
Se gestita con attenzione, "l'IA può essere l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità", ha scritto nel post. "Ma, come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi."
