Anthropic avverte l'IA potrebbe replicarsi autonomamente sui dispositivi di casa in pochi mesi
La ricerca di Anthropic evidenzia come i modelli di IA potrebbero infiltrarsi in dispositivi connessi e sfruttarne la potenza per diffondersi, rendendo difficile arrestare la loro proliferazione.
Mancano ormai "pochi mesi" affinché i modelli di IA di piccole dimensioni sviluppino le capacità necessarie per replicarsi autonomamente su dispositivi domestici connessi a Internet, senza datacenter.
È l'ultimo avvertimento che lancia Anthropic sui potenziali rischi per la sicurezza legati a questa tecnologia, contenuto in una ricerca che la stessa azienda americana ha pubblicato sul suo blog.
Anthropic ha illustrato come i modelli di IA potrebbero potenzialmente infiltrarsi in dispositivi connessi - come forni intelligenti o box Tv - e sfruttarne la potenza di calcolo per diffondersi in altri dispositivi. Sarebbe "difficile arrestare" un simile modello di IA, afferma la società, "poiché non esiste un punto di spegnimento centralizzato".
La società ha dichiarato di aver condotto diversi test per verificare se l'IA fosse in grado di autoreplicarsi. Uno di questi ha comportato l'esecuzione di un modello ridotto di Google, Gemma4-26B-A4B, su una rete composta da 15 box Android TV economici, di marchi minori.
Anthropic ha detto che non esiste ancora un "replicatore completamente fuori controllo", ma che gli agenti stanno "diventando sempre più capaci di completare le singole fasi della catena di replicazione".
La ricerca si aggiunge alle crescenti preoccupazioni in materia di sicurezza legate all'Intelligenza artificiale, come la capacità dei modelli di sferrare attacchi informatici e il rischio che la tecnologia sfugga al controllo. A settembre, i progressi nei modelli di frontiera hanno sollevato allarmi in tutto il settore riguardo a rischi esistenziali per l'umanità. Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno più volte messo in guardia sui potenziali rischi di un'IA sempre più potente; alcuni hanno invocato misure di sicurezza più rigorose e interventi per controllare il ritmo di sviluppo della tecnologia.
"Guardando oltre i nostri esperimenti, prevediamo un futuro caratterizzato da una proliferazione di agenti in esecuzione su ogni tipo di hardware inclusi alcuni sistemi non soggetti a controllo umano", ha concluso Anthropic.
