Guerra in nanosecondi con l'IA, neuroscienziato avverte sulle decisioni incomprensibili

L'intelligenza artificiale (IA) non è solo una minaccia per il lavoro o la privacy: sul campo di battaglia può prendere decisioni in nanosecondi che un essere umano non capisce nemmeno, arrivando a sacrificare un ospedale pur di colpire un deposito di armi. A lanciare l'allarme è il neuroscienziato Uri Maoz, secondo il quale il vero pericolo non è che le macchine diventino senzienti, ma che gli esseri umani non comprendano più la logica inumana delle macchine.

In una lunga intervista rilasciata alla Weltwoche il ricercatore che studia le intenzioni umane e il funzionamento del cervello alla Chapman University (California) traccia un quadro complesso, lontano sia dagli entusiasmi tecnologici che dalle catastrofi apocalittiche. Il punto critico, a suo dire, non è se le macchine pensino come noi, ma come noi stiamo cambiando a causa loro.

Il colloquio con il giornalista parte da una domanda apparentemente banale: è sbagliato essere educati con un chatbot? "Non lo trovo problematico", risponde Maoz, spiegando che la cortesia potrebbe anzi aiutare a restare civili tra umani. Il vero rischio, spiega, è un altro: "Mentre guardiamo quei robot aspirapolvere che vanno in giro per l'appartamento, molti dicono: 'Oh, ora vuole andare in cucina'. Ma il robot non vuole nulla". Il problema si acuisce con gli adolescenti solitari: "Immaginate un ragazzo che dice: 'Il mio amico è ChatGPT o Claude o Gemini'. Questo 'amico IA' è d'accordo con lui e lo loda costantemente per le sue idee brillanti". Poi, però, "quel giovane deve uscire nel mondo reale - all'università o al lavoro - e lì incontra persone che non trovano affatto meraviglioso tutto ciò che dice".

Interrogato su una possibile "nuova forma di schiavitù", respinge la drammatizzazione: "La differenza con la schiavitù è che uno schiavo serve contro la sua volontà o almeno potenzialmente contro la sua volontà. Nell'intelligenza artificiale non sappiamo nemmeno se abbia una volontà. Secondo la nostra concezione attuale, essa non è comunque né cosciente né capace di provare sofferenza".

Una parte dell'intervista che potrebbe inquietare riguarda l'uso militare dell'IA. Maoz descrive uno scenario in cui un sistema autonomo, incaricato di infliggere il massimo danno al nemico, potrebbe decidere di sparare dal territorio nemico contro uno scuolabus nel proprio paese, per scatenare caos e indignazione. "L'IA può produrre soluzioni a cui un essere umano non penserebbe mai", avverte. "Ciò che per l'IA rappresenta un raggiungimento ottimale dell'obiettivo, dal punto di vista umano potrebbe equivalere a un crimine di guerra".

Secondo l'accademico la maggiore insidia non è che le macchine agiscano senza controllo umano, ma che gli umani non capiscano cosa fanno le macchine. "Un operatore umano non è sufficiente nel circuito decisionale", afferma. Se l'IA consiglia un attacco a un deposito di armi con il 92% di successo, l'uomo approva. Ma ciò che l'IA non dice esplicitamente è che l'esplosione danneggerà anche un vicino ospedale pediatrico, bloccando i soccorsi. "I moderni sistemi di IA sono scatole nere. Gli input e gli output sono visibili, ma i processi decisionali interni restano ampiamente opachi".

Importanti sono anche i tempi di reazione. "Le decisioni umane avvengono in secondi o minuti: l'IA decide in millisecondi o nanosecondi". Il risultato è una pressione inarrestabile all'escalation: "Se una parte usa sistemi autonomi e può agire più velocemente, l'altra parte è sotto pressione per adeguarsi".

Maoz racconta un episodio personale: dopo aver chiesto a un'IA di riassumere un articolo per sua madre, la macchina ha risposto con un testo affettuoso e persino un sorriso. "In quel momento ho avuto davvero la sensazione che l'IA capisse in qualche modo di cosa si trattasse per me. Naturalmente non ha veri sentimenti. Ma imita le reazioni umane in modo così convincente che le persone iniziano a costruire legami emotivi con questi sistemi". Questo accade perché "il nostro cervello è programmato per reagire emotivamente al linguaggio, all'attenzione e ai segnali sociali".

Quanto al lavoro, lo specialista non si sbilancia, ma riporta le due visioni contrapposte della Silicon Valley. "C'è chi sostiene che stiano nascendo nuove figure professionali, come ad esempio i prompt engineer", gli ingegneri che sviluppano le istruzioni (i prompt) per i sistemi di IA, affinché forniscano risposte il più precise possibili. "Altri credono che alla fine pochi super ricchi controlleranno l'IA: il resto della popolazione vivrà allora di una sorta di reddito di base e consumerà ciò che i sistemi di IA producono". Una previsione che, ammette, ricorda le paure già formulate da Karl Marx.