Ue avvia dal 2 agosto la vigilanza sull'AI Act
Commissione e AI Office attivano controlli e obblighi di trasparenza per chatbot e deepfake; norme anche per fornitori di modelli Gpai
Dal 2 agosto l'attuazione della legge europea sull'intelligenza artificiale (IA) entra in una nuova fase. La Commissione Ue, attraverso l'AI Office e in collaborazione con le autorità nazionali competenti, avvierà l'attività di vigilanza e controllo prevista dall'AI Act.
Scatteranno inoltre gli obblighi di trasparenza per chatbot e sistemi di IA, che dovranno informare gli utenti quando interagiscono con l'IA, mentre i deepfake e gli altri contenuti generati o modificati dall'IA dovranno essere etichettati. Al via anche la vigilanza sui modelli di IA per finalità generali e nuovi strumenti per segnalare presunte violazioni della legge.
Dal 2 agosto, l'Ufficio per l'IA, istituito in seno alla Commissione, potrà applicare le norme della legge sull'IA per i fornitori di modelli di intelligenza artificiale generale (Gpai), inclusi quelli più avanzati che possono comportare rischi sistemici. In quest'ultimo caso, sono previsti obblighi aggiuntivi destinati a prevenire rischi di ampia portata, compresi quelli legati ad incidenti chimici, biologici, radiologici e nucleari, perdita di controllo, reati informatici, manipolazione dannosa e minacce ai diritti fondamentali.
La Commissione richiama anche i rischi più recentemente emersi, come quelli per la sicurezza informatica europea e quelli derivanti da sistemi di IA che agiscono al di fuori del controllo umano. Tutti i fornitori di modelli Gpai saranno tenuti a documentare una serie di informazioni da mettere a disposizione delle autorità competenti e degli sviluppatori che utilizzano tali modelli, ad adottare una politica sul rispetto del diritto d'autore e a pubblicare una sintesi sufficientemente dettagliata dei contenuti usati per addestrare i modelli.
L'attività di enforcement riguarderà anche le norme relative agli obblighi di trasparenza e alle pratiche di IA vietate, tra cui il riconoscimento facciale, gli strumenti di punteggio sociale, il riconoscimento delle emozioni e le tecniche subliminali e manipolative.
Per sostenere l'attività di vigilanza, l'AI Office ha inoltre messo a disposizione nuovi strumenti digitali che consentiranno a cittadini, imprese e whistleblower di segnalare presunte violazioni dell'AI Act. Le informazioni raccolte attraverso questi canali saranno trattate in modo riservato.
Dal 2 agosto, inoltre, scatteranno i nuovi obblighi sulla trasparenza. Le nuove disposizioni impongono ai chatbot e ad altri sistemi di IA che interagiscono direttamente con gli utenti di informarli chiaramente che stanno dialogando con una macchina e non con una persona. Anche i contenuti generati o modificati con l'IA dovranno rispettare specifici obblighi di trasparenza. In particolare, immagini, video e audio realizzati o modificati con l'IA, compresi i deepfake, dovranno essere etichettati e accompagnati da marcatori leggibili automaticamente, così da renderne più semplice l'identificazione.
Secondo la Commissione, l'obiettivo è ridurre i rischi di manipolazione, consentire ai cittadini di compiere scelte più consapevoli e offrire alle imprese un quadro normativo chiaro per dimostrare la conformità alle regole.