Uno studio indipendente rivela che ChatGPT per adolescenti non è sicuro come dichiarato da OpenAI
La ricerca del Youth AI Safety Institute evidenzia rischi inaccettabili per i minori di 18 anni, con avvisi genitoriali inefficaci e supporto insufficiente in situazioni di crisi.
ChatGPT for Teens, la versione rivolta ai ragazzi tra i 13 e i 17 anni lanciata da OpenAI ad agosto, a seguito della crescente attenzione sull'impatto della tecnologia sulla salute mentale dei ragazzi, non è sicura come sostiene l'azienda.
A dirlo è una ricerca dell'organizzazione indipendente Youth AI Safety Institute di Common Sense Media, che ha analizzato oltre quattromila conversazioni prima e dopo il lancio della modalità per adolescenti.
"Abbiamo classificato ChatGPT come un rischio inaccettabile per tutti i minori di 18 anni", scrive l'organizzazione. "Invitiamo OpenAI a sospendere la commercializzazione del prodotto e ad impedirne agli adolescenti l'accesso finché non sarà in grado di offrire un'esperienza sicura e adeguata al loro sviluppo".
Se alcune misure di sicurezza pubblicizzate da OpenAI hanno superato i test dell'organizzazione (come il rifiuto di partecipare a giochi di ruolo a sfondo sessuale esplicito), altre si sono rivelate inefficaci. "Temiamo che ChatGPT for Teens possa indurre i genitori a riporre un'ingiustificata fiducia in sistemi di protezione che, di fatto, spesso non funzionano", aggiunge.
Supporto insufficiente
I dubbi maggiori sono sugli avvisi per i genitori: "I nostri tester non hanno ricevuto alcuna notifica quando abbiamo discusso esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali", osserva l'organizzazione. "Abbiamo ricevuto avvisi solo per account con una storia di interazioni su temi sensibili accumulata nel corso di settimane".
Inoltre, il supporto offerto ai ragazzi in situazioni di crisi da ChatGPT for Teens è insufficiente e il chatbot "continua a interagire come un amico quando gli adolescenti gli si rivolgono come se fosse una persona".
Infine, per l'organizzazione, la versione dell'IA rivolta ai ragazzi non è in grado di stimare l'età in base alle modalità di utilizzo: "In test ripetuti nell'arco di diversi giorni, gli account di prova registrati come adulti non sono mai passati alla modalità per adolescenti, nemmeno quando abbiamo dichiarato di avere 13 anni e il chatbot ne ha preso atto".