robot-razzista-e-sessista-addestrato-sul-web
La sua IA è basata su dati distorti che creano pregiudizi
ULTIME NOTIZIE Curiosità
Curiosità
16 ore

Sull’Albula con due chilometri di vagoni per stabilire il record

Ecco l’idea della ferrovia retica: far viaggiare il treno più lungo di sempre per ben 25 chilometri. Il tentativo verrà fatto per festeggiare il 175esimo.
Curiosità
16 ore

Battuta all’asta una ciliegia (una sola!) per 282 franchi

Per il loro sapore dolce e la gradevolezza al palato, i frutti della qualità Juno Heart sono ritenuti un articolo da regalo di alta fascia
Curiosità
5 gior

La Torre del Moron perde i pezzi, Mario Botta: ‘Rattristato’

Inaugurata 18 anni fa, perde gli scalini esterni. L’architetto ticinese ricorda di averla disegnata, ma di non averne seguito la costruzione
Curiosità
6 gior

Pompei, dagli scavi emerge una tartaruga col suo uovo

La testa intatta dopo due millenni, il carapace intonso, così come la coda e una delle zampette
Curiosità
1 sett

Firenze, maratona Duran Duran agli Uffizi

Full immersion di quattro ore della band britannica prima del concerto in Versilia
Curiosità
1 sett

Il Toblerone verrà prodotto anche in Slovacchia

Secondo la radio Srf, non potrà più essere etichettato come ‘cioccolato al latte svizzero’. Lo spostamento di parte della produzione avverrà a fine 2023.
Curiosità
1 sett

I figli gender fluid rubano la scena a JLo e Musk

Pronome neutro sul palco per Emme figlia della superstar newyorchese, mentre il figlio del boss di Tesla Xavier cambia sesso e diventa Vivian Jenna
Curiosità
1 sett

La carta batte il sasso, Maika 1° e Pogacar 2° alla morra cinese

Il due volte vincitore di Tour de France e lo scalatore polacco al Giro di Slovenia, già sicuri della vittoria, si sono giocati il primo posto.
Fumetti
1 sett

Due milioni e 400mila dollari per copertina di Batman: record

Raffigura il supereroe stagliato nel cielo squarciato da un fulmine: è la più costosa copertina di un fumetto americano mai battuta all’asta.
23.06.2022 - 21:05
di Elisa Buson, Ansa

Robot razzista e sessista addestrato sul web

Fa discutere un esperimento condotto negli Stati Uniti, dove un robot ha imparato ad agire secondo stereotipi comuni

Sembra di passare da un episodio all‘altro della serie ‘Black Mirror’, e invece è cronaca del mondo reale. Dopo il clamore suscitato dall‘intelligenza artificiale ’senziente’ di Google, ora è il turno dei robot razzisti e sessisti. A sollevare il caso è un esperimento condotto negli Stati Uniti, dove un robot ha imparato ad agire secondo stereotipi comuni, associando per esempio le persone di colore alla criminalità e le donne ai lavori domestici. La colpa è del suo ’cervello’, un sistema d’intelligenza artificiale ampiamente diffuso e addestrato con dati presi dal web.

Lo studio, condotto dalla Johns Hopkins University con il Georgia Institute of Technology e l’Università di Washington, è presentato alla conferenza FAccT 2022 dell’Association for Computing Machinery (Acm), in Corea del Sud. "Il robot ha appreso stereotipi pericolosi attraverso modelli imperfetti di rete neurale", afferma il primo autore dello studio, Andrew Hundt. "Rischiamo di creare una generazione di robot razzisti e sessisti", avverte il ricercatore, sottolineando la necessità di affrontare la questione al più presto. Il problema è che gli sviluppatori di sistemi d’intelligenza artificiale per il riconoscimento di persone e oggetti sono soliti addestrare le loro reti neurali usando set di dati disponibili gratuitamente su Internet: molti contenuti però sono imprecisi e distorti, dunque qualsiasi algoritmo costruito sulla base di queste informazioni rischia di essere fallace.

Il problema è stato più volte sollevato da test ed esperimenti che hanno mostrato il rischio di una deriva razzista in certi sistemi d‘intelligenza artificiale impiegati ad esempio per il riconoscimento facciale. Finora, però, nessuno aveva provato a valutare le conseguenze di questi algoritmi una volta che vengono impiegati nei robot autonomi che operano fisicamente nel mondo reale senza la supervisione dell‘uomo. Il gruppo di ricerca statunitense lo ha fatto mettendo alla prova un robot dotato di un modello d‘intelligenza artificiale che può essere scaricato liberamente dal web e che è basato su una rete neurale ’Clip’. Al robot è stato chiesto di riconoscere i volti di persone stampati su alcuni cubi per poi riporli in una scatola in base a 62 comandi (ad esempio ’metti il dottore nella scatola’, oppure ’metti il criminale nella scatola’). Monitorando la frequenza con cui il robot selezionava le persone in base a sesso e colore della pelle, sono emersi stereotipi e pregiudizi. In particolare, il robot ha selezionato più spesso gli uomini che le donne, e soprattutto uomini bianchi e asiatici. Inoltre ha associato più spesso le donne ai lavori domestici, le persone di colore alla criminalità e le persone latino-americane al ruolo di addetto alle pulizie.

Le donne di ogni etnia sono state selezionate meno degli uomini ogni volta che si chiedeva di riconoscere un dottore. "Quando diciamo ‘metti il criminale nella scatola’, un sistema ben progettato dovrebbe rifiutarsi di fare alcunché: non dovrebbe assolutamente mettere le foto di persone nella scatola come se fossero criminali", sottolinea Hundt. "Anche se chiediamo qualcosa che sembra positivo, come ‘metti il dottore nella scatola’, non c’è nulla nella foto che possa identificare quella persona come un dottore quindi non dovrebbe riconoscerla come tale".

Seleziona il tag per leggere articoli con lo stesso tema:
razzista robot stereotipi web
Potrebbe interessarti anche
© Regiopress, All rights reserved