Sciami di intelligenza artificiale, nuova minaccia per la democrazia
Account automatizzati coordinati e adattivi possono manipolare opinioni online agendo per mesi su social, forum e gruppi di messaggistica
Non sono semplici bot, ma entità collaborative e adattative in grado di operare in modo coordinato e sottile per mesi: i cosiddetti sciami di intelligenza artificiale (IA) - "AI swarms" in inglese - rappresentano, secondo una recente ricerca internazionale pubblicata sulla rivista scientifica Science, la nuova frontiera della manipolazione digitale e una minaccia concreta per i processi democratici.
"Uno sciame di IA consiste in un'intera flotta di account automatizzati, che possono agire attraverso diversi spazi digitali, ad esempio sui social media, nelle sezioni commenti, nei forum e nei gruppi di messaggistica", spiega in un'intervista pubblicata oggi dal Tages-Anzeiger (TA) Daniel Thilo Schroeder, operatore dell'organizzazione di ricerca indipendente Snitef di Oslo e co-autore principale dello studio. "Sono controllati dall'intelligenza artificiale e perseguono in modo autonomo obiettivi complessi: i singoli profili fittizi appaiono spesso indipendenti dall'esterno, ma sono collegati dietro le quinte, possono condividere informazioni e sviluppare strategie comuni".
La differenza cruciale rispetto alle tradizionali "fabbriche di bot" risiede proprio in questa capacità di coordinamento occulto e collaborativo. "Il decisivo salto di qualità negli sciami di IA non è tanto che producano testi migliori, quanto piuttosto la capacità di collaborazione e di coordinamento", afferma l'esperto. "Molti agenti possono collaborare in modo poco appariscente per lungo tempo, sviluppare strategie insieme e condurre attacchi o manipolazioni in modo graduale e adattivo su periodi di tempo più lunghi".
Questa sofisticazione li rende estremamente persuasivi. "Siamo dell'opinione che gli sciami di IA, grazie ai progressi nell'intelligenza artificiale, siano notevolmente più efficaci e difficilmente distinguibili dal genuino comportamento umano sui social media". Il loro obiettivo è l'infiltrazione e la manipolazione psicologica. "Possono analizzare le reti sociali e quindi riconoscere le debolezze psicologiche degli utenti. Nel momento opportuno, sono in grado di adottare una strategia di manipolazione individualmente adattata".
Le tattiche possono essere subdole: dalla diffusione di narrazioni contraddittorie per seminare confusione, alla creazione di una falsa percezione di consenso dominante. "Per questo motivo gli sciami di IA malevoli sono, dal nostro punto di vista, il prossimo livello di escalation nella guerra dell'informazione, che mette in pericolo il discorso democratico", mette in guardia il ricercatore.
Mentre l'impatto delle campagne di disinformazione del passato è spesso stato considerato limitato, la tecnologia odierna cambia la posta in gioco. "Gli sciami di IA sono notevolmente più sofisticati e individuali delle reti di bot di allora. La tecnologia odierna è più semplice da usare, più facilmente disponibile e soprattutto molto più economica, perché devono essere coinvolte meno persone. Pertanto ci aspettiamo che la manipolazione attraverso sciami di IA possa raggiungere una dimensione completamente diversa".
La Svizzera, con la sua democrazia diretta, è a rischio? Secondo Schroeder, il quadro è ambivalente. "Il multilinguismo, il federalismo e il panorama mediatico frammentato aumentano i costi per gli aggressori. La democrazia diretta, con frequenti votazioni, offre però un'alta cadenza di opportunità di attacco". In sintesi: "Strutturalmente la Svizzera è piuttosto robusta contro campagne generiche, ma potenzialmente vulnerabile a operazioni molto ben localizzate, a lungo termine e coordinate".
In Svizzera l'8 marzo si andrà alle urne, ricordano i giornalisti di TA: gli sciami di IA sono già abbastanza potenti da influenzare questa votazione? "La tecnologia è pronta. Ma non abbiamo un'idea precisa di quanto siano in grado di collaborare gli sciami di IA. Quindi non sappiamo quanto siano già potenti. Non sappiamo nemmeno in che misura sia già stato sviluppato un modello di affari con essi. Possiamo però immaginare che saranno utilizzati in vista delle elezioni di medio termine negli Stati Uniti in novembre".
Per contrastare questa minaccia, lo specialista propone diverse linee d'azione. "Purtroppo da alcuni anni è più difficile ottenere dati di ricerca dalle reti sociali per analizzarli: pertanto, in primo luogo, un libero accesso a tali informazioni sarebbe estremamente importante". Inoltre, è necessario "disturbare il mercato commerciale per l'impiego di sciami di IA". La proposta centrale è la creazione di un osservatorio sull'influenza dell'IA. Come impedire però che un simile osservatorio diventi esso stesso uno strumento di influenza politica? "Organizzandolo in modo decentralizzato, anziché statale. In sostanza, dovrebbe essere una rete di gruppi di ricerca e organizzazioni che si occupano dei pericoli degli sciami di IA", conclude l'intervistato.
