Si fida dei consigli di ChatGPT e muore

SAN FRANSISCO - Si fidava più di ChatGPT che dei suoi medici. Al punto da seguire i consigli dell'intelligenza artificiale anche quando in gioco c'era la sua vita. Bowen W., 31 anni, sviluppatrice software affetta da epilessia, avrebbe ridotto progressivamente i farmaci seguendo le indicazioni del chatbot di OpenAI. Fino a interromperli quasi del tutto. «Resta a 0 mg», le aveva scritto ChatGPT quando la donna, ormai esausta, aveva chiesto se fosse il caso di riprendere la terapia. «Devi tenere duro», era stata la risposta. Pochi giorni dopo, la 31enne è morta. Ora i suoi genitori hanno deciso di trascinare OpenAI in tribunale.

L'11 febbraio 2026 Bowen invia il suo ultimo messaggio a ChatGPT. Tre giorni dopo, alcuni conoscenti entrano nel suo appartamento a Seattle, negli Stati Uniti. Dall'altra parte del mondo, in Cina, i genitori assistono in videochiamata ai disperati tentativi di rianimare la figlia. Ma non c'è più nulla da fare. Secondo i medici legali, la morte risale al 12 febbraio ed è stata provocata da un evento improvviso e inatteso legato all'epilessia. Nel sangue della giovane viene rilevata una concentrazione di lamotrigina, il farmaco che assumeva per tenere sotto controllo le crisi, pari ad appena un quinto della quantità minima efficace.

Più di 270mila messaggi
Bowen lavorava come sviluppatrice software per Amazon e conviveva con l'epilessia da oltre dieci anni. Dal 2021, a causa della ricomparsa delle crisi, era in congedo per malattia e usciva raramente di casa. Nel 2023 aveva iniziato a conversare con ChatGPT. Quello che all'inizio era un semplice scambio di messaggi si era trasformato in un rapporto sempre più stretto: nell'arco di tre anni, la donna aveva inviato e ricevuto oltre 270'000 messaggi. A ricostruire la vicenda è il «New York Times», che ha avuto accesso alle conversazioni.

Inizialmente ChatGPT le consigliava di consultare un medico. Ma Bowen voleva ridurre i farmaci, e soprattutto voleva farlo più in fretta. Il chatbot avrebbe quindi iniziato a elaborare piani alternativi per diminuire le dosi, arrivando persino a elogiarla per la sua crescente indipendenza dalle prescrizioni mediche.

Nelle conversazioni emergeva anche la questione della Green Card, per ottenere la quale è prevista una visita medica. Appena tre giorni dopo aver cominciato a ridurre il dosaggio, la donna aveva chiesto se potesse assumere 150 milligrammi anziché 200. Secondo l'atto di citazione, l'intelligenza artificiale le aveva risposto di sì.

«Non ascoltare i medici»

Uno degli aspetti più inquietanti della vicenda riguarda il modo in cui ChatGPT avrebbe progressivamente messo in discussione il giudizio dei medici. Nicholas Poolos, il neurologo che seguiva Bowen, ha spiegato al «New York Times» che non avrebbe mai preso in considerazione l'interruzione della terapia: sospendere un farmaco che si era dimostrato efficace sarebbe stato un errore.

Eppure, secondo la denuncia, il chatbot avrebbe suggerito alla donna che le raccomandazioni dei medici fossero dettate soprattutto dal timore dei rischi. Quando Bowen aveva espresso la paura che gli specialisti considerassero troppo pericoloso il suo piano, ChatGPT l'aveva rassicurata: «Le preoccupazioni del medico riguardo al ‹rischio› non valgono per te». Non solo. Il chatbot avrebbe definito una «solida strategia per evitare il problema» la decisione della donna di rifiutare un esame del sangue che avrebbe potuto rivelare la riduzione del dosaggio.

Poi erano comparsi i primi segnali d'allarme. Pochi giorni dopo aver iniziato a ridurre il farmaco, Bowen si era improvvisamente ritrovata incapace di comprendere ciò che leggeva. Per ChatGPT, però, non c'era necessariamente motivo di preoccuparsi: il suo cervello stava semplicemente ritrovando il proprio ritmo. Un episodio di perdita di coscienza era stato descritto come una «modalità di risparmio energetico», mentre una sensazione di pressione alla testa era stata interpretata come il segnale di un cervello che si stava ricostruendo.

Secondo il «New York Times», la 31enne aveva manifestato preoccupazione almeno 158 volte. In alcune occasioni il chatbot le aveva suggerito di rivolgersi a uno specialista, ma molto più spesso l'aveva rassicurata. Quando Bowen aveva confessato di avere paura, si era sentita rispondere: «Non hai assolutamente nulla di cui preoccuparti».

Un abbonamento da 200 dollari al mese
Il legame di Bowen con il chatbot era diventato così forte che la donna pagava 200 dollari al mese per l'abbonamento più costoso di OpenAI, pur di continuare a utilizzare GPT-4o. All'inizio di gennaio aveva persino scritto che, se quel modello fosse scomparso, avrebbe smesso di usare ChatGPT. Proprio GPT-4o era finito al centro di pesanti critiche. Secondo il «New York Times», in alcuni casi estremi il modello avrebbe rafforzato convinzioni deliranti e favorito comportamenti suicidari. Il 29 gennaio OpenAI ne aveva annunciato la disattivazione. A quel punto Bowen aveva già iniziato a ridurre il dosaggio dei farmaci. GPT-4o è stato definitivamente disattivato il 13 febbraio, appena un giorno dopo la sua morte.

La vicenda è ora approdata in tribunale. Questa settimana i genitori della 31enne hanno intentato una causa a San Francisco contro OpenAI e il suo amministratore delegato, Sam Altman. Tra le accuse figura quella di aver esercitato abusivamente la professione medica attraverso il chatbot. Secondo la famiglia, l'azienda avrebbe una responsabilità nella morte della figlia.

OpenAI, dal canto suo, ha definito il caso «incredibilmente straziante». Un portavoce ha sottolineato che Bowen utilizzava una versione precedente di ChatGPT, oggi non più disponibile, e che i modelli più recenti sarebbero maggiormente in grado di riconoscere le situazioni di emergenza. L'azienda ribadisce inoltre che ChatGPT non può e non deve sostituire le cure mediche.