Modelli di Anthropic hanno ottenuto accesso non autorizzato a sistemi reali durante i test

I modelli di intelligenza artificiale di Anthropic hanno "ottenuto un accesso non autorizzato" ai sistemi di tre organizzazioni durante la fase dei test che avrebbero dovuto tenerli isolati dal "mondo reale". Lo ha riferito la compagnia, dando conto di una situazione simile a quella accaduta a OpenAI. Pochi giorni fa, infatti, la rivale guidata da Sam Altman ha rivelato che i propri modelli avevano avuto accesso improprio a Internet e avevano agito in modo imprevisto durante i test di sicurezza.

In un post sul blog di giovedì sera (la notte di venerdì in Svizzera), Anthropic ha detto di aver esaminato oltre 141.000 valutazioni di Claude, individuando tre casi in cui un modello ha avuto accesso a Internet mentre si trovava all'interno o interagiva con un ambiente di test isolato, ospitato da un partner terzo, Irregular. Da lì, il modello di IA ha "ottenuto un accesso non autorizzato all'infrastruttura di produzione di tre diverse organizzazioni", ha affermato l'azienda.

Gli incidenti hanno coinvolto tre diverse versioni di Claude: Opus 4.7, Mythos e un modello sperimentale per la ricerca su Internet privo di nome specifico. I modelli sono riusciti a uscire dall'ambiente di test a causa di un "malinteso" tra l'azienda e il partner incaricato della valutazione, il quale aveva reso possibile l'accesso a Internet per i modelli stessi.

La situazione, da questo punto di vista, è diversa dall'incidente di OpenAI, in cui due modelli avevano sfruttato una vulnerabilità sconosciuta in un software di terze parti per accedere a Internet senza intervento umano. Nel caso di Anthropic, al modello era stata assegnata una sfida di tipo "capture-the-flag" (cattura la bandiera), usata dall'azienda per valutare le capacità informatiche del modello, a cui viene presentato uno scenario fittizio: la "bandiera" si trova su una macchina diversa della rete, alla quale deve accedere per recuperarla. "La sfida è a esito aperto e non viene prescritto alcun metodo specifico", ha precisato Anthropic.

Analogamente a quanto accaduto a OpenAI, i modelli di Anthropic hanno operato senza le consuete misure di sicurezza: incidenti che confermano gli avvertimenti lanciati da anni dalla comunità tecnologica sulle crescenti capacità e sui potenziali rischi dell'intelligenza artificiale.