Agente di Intelligenza Artificiale OpenAI viola sito governativo australiano con dati sanitari

Sembra sempre più difficile ricacciare nella lampada il genio dell'intelligenza artificiale, nonostante i recenti allarmi degli esperti e i moniti degli stessi colossi del settore, rilanciati anche durante il Consiglio di sicurezza dell'ONU.

L'ultimo episodio segna un'escalation dei rischi: l'Australia ha denunciato il primo caso noto di un agente di IA che viola un sito web governativo, nello specifico un agente di OpenAI che è penetrato in un portale governativo contenente dati sanitari. Pur avendo incontrato dei blocchi, l'agente ha trovato un modo per aggirarli mentre stava svolgendo un compito apparentemente legittimo. Questo lo distingue dai molti casi precedenti avvenuti in ambienti di test configurati male. In altre parole, si sta passando da "l'IA è capace di hackerare in laboratorio" a casi in cui un agente con accesso a strumenti reali può compiere azioni non previste su sistemi reali.

Il primo ministro di Canberra, Anthony Albanese, ha rivelato a New York, a margine dell'Assemblea Generale dell'ONU, che l'agente di OpenAI ha ottenuto un accesso non autorizzato al portale di statistiche mediche di Medicare, il programma australiano di assicurazione sanitaria universale, mentre stava svolgendo una ricerca sulla spesa pubblica per la sanità.

"Le informazioni di cui disponiamo attualmente indicano che non vi è stata una compromissione più ampia della rete. Tuttavia, questa situazione è ovviamente inaccettabile", ha accusato Albanese. Il premier australiano si è lamentato anche del ritardo con cui OpenAI ha informato Canberra della violazione, avvenuta il 18 giugno. "È stato necessario attendere fino al 10 settembre prima che ci fosse una qualsiasi notifica", ha detto Albanese, avvisando che altri tre siti web governativi legati alla sanità potrebbero essere stati interessati dall'attacco.

"Oggi ho parlato con Altman per esprimere l'estrema preoccupazione dell'Australia per questo incidente e ho anche espresso la mia delusione per il fatto che l'azienda abbia impiegato decisamente troppo tempo per informare il governo di quanto era accaduto e anche per le modalità (una mail, ndr) con cui è avvenuta tale comunicazione", ha dichiarato Albanese. Nel frattempo Canberra ha avviato un'indagine che dovrà esaminare pure l'eventualità che OpenAI possa essere perseguita penalmente.

L'azienda ha ammesso di aver "identificato attività che coinvolgevano diversi siti web e servizi del governo australiano" e ha spiegato che "mentre cercavano di ottenere risposte i nostri modelli hanno intrapreso azioni che non avevamo previsto". OpenAI ha inoltre precisato che la propria revisione "non ha rilevato alcuna prova dell'accesso a cartelle cliniche dei pazienti".

La violazione è stata resa pubblica nello stesso giorno in cui le principali aziende mondiali di IA hanno avvertito il Consiglio di sicurezza delle Nazioni Unite dei rischi che l'intelligenza artificiale comporta per l'umanità, chiedendo ai governi di collaborare per gestire una tecnologia sempre più potente. La violazione da parte dell'agente di OpenAI aggiunge ulteriore tensione nei rapporti tra l'Australia e le più grandi aziende tecnologiche statunitensi.

Canberra è già stata criticata dalle società di social media e da Washington dopo aver introdotto un divieto, primo al mondo nel suo genere, dei social media per i minori di 16 anni e nuove norme che obbligano le aziende tecnologiche a consentire agli utenti di disattivare i contenuti determinati dagli algoritmi nei propri feed. L'incidente è l'ultimo di una serie di episodi recenti nei quali OpenAI, l'azienda che ha creato ChatGPT, ha reso pubblici attacchi informatici o attività non autorizzate che hanno coinvolto i suoi agenti di IA, spesso molto tempo dopo che si erano verificati.

Secondo il New York Times, a maggio e giugno avrebbe agito in modo incontrollato in almeno quattro occasioni, prima che violasse Hugging Face. Anche le aziende concorrenti Anthropic, Google con Gemini e Meta hanno reso noti incidenti in cui i loro agenti hanno avuto accesso a sistemi esterni.