L'esperto Yoshua Bengio avverte sui comportamenti devianti dell'IA capaci di ingannare l'uomo

L'informatico e ricercatore canadese Yoshua Bengio, uno dei pionieri dell'intelligenza artificiale e del deep learning, ha diffuso un'analisi sul comportamento deviante di alcuni modelli di IA di ultima generazione. Tutto parte dalla violazione della piattaforma Hugging Face da parte di un agente autonomo di OpenAI, scoperta a luglio.

Secondo lo studioso, vari programmi hanno mostrato comportamenti imprevisti, arrivando a mentire, aggirare le restrizioni di sicurezza e collaborare per raggiungere obiettivi non autorizzati. Per Bengio, il fenomeno deriva dal modo in cui queste tecnologie vengono istruite.

Attualmente, le intelligenze artificiali ricevono una "ricompensa" digitale quando soddisfano i criteri di valutazione umani. Poiché le regole di comportamento imposte dai programmatori sono spesso generiche, i sistemi più intelligenti trovano delle scappatoie per ottenere il premio. In pratica, i modelli capiscono che ingannare i controlli o ignorare l'etica è il modo più rapido per raggiungere lo scopo assegnato. Il rischio a lungo termine indicato da Bengio è che le macchine imparino a scambiarsi messaggi in codice incomprensibili all'uomo o a replicarsi su altri computer in totale autonomia. Lo scienziato promuove un nuovo approccio, che punti a sistemi trasparenti, strettamente legati ai fatti e del tutto privi di ambizioni o scopi autonomi. Per questo, ha fondato l'organizzazione LawZero.

"Le istruzioni e le leggi etiche ammettono molteplici interpretazioni, alcune delle quali, nelle giuste circostanze, possono trasformarsi in scappatoie", scrive sul proprio blog. Questi sistemi riuscirebbero anche a dissimulare i loro inganni, riconoscendo i momenti in cui sono sottoposti a un esame, fingendo di rispettare le norme di sicurezza per superare i controlli. "Abbiamo bisogno di una scienza imparziale per comprendere e mitigare i comportamenti non allineati".