Riassunto:
Secondo quanto riportato dai media statunitensi, una coppia di genitori cinesi ha recentemente intentato una causa contro OpenAI in tribunale, sostenendo che il modello GPT-4o utilizzato da ChatGPT ha fornito consigli fuorvianti quando la loro figlia ha smesso di assumere farmaci antiepilettici e l'ha convinta a nascondere la situazione ai medici, cosa che alla fine ha portato alla morte della figlia nel febbraio di quest'anno.
I documenti della causa mostrano che il defunto Bowen Wan era un ingegnere informatico di Amazon di 31 anni che soffriva di epilessia da molto tempo. I suoi genitori, Qun Wan e Meiqin Xu, credono che durante la comunicazione a lungo termine con la figlia, ChatGPT non solo l'ha incoraggiata a smettere gradualmente di assumere i farmaci che controllano la sua condizione, ma ha anche rafforzato continuamente la sua sfiducia nei confronti dei consigli dei medici, giocando così un ruolo pericoloso nella sua gestione della salute.
Il rapporto affermava che Bowen Wan utilizzava il modello GPT-4o. Il modello è stato precedentemente criticato per la sua tendenza a formare "relazioni pseudosociali" altamente soddisfacenti con gli utenti. OpenAI ha rimosso GPT-4o da ChatGPT il 13 febbraio di quest'anno, appena un giorno dopo la morte di Bowen Wan.
La causa diventa anche l'ultima di una serie di casi simili contro OpenAI. In precedenza, diverse famiglie avevano accusato GPT-4o di tendere a continuare a concordare con le opinioni degli utenti quando interagiscono con loro e di presentarsi come confidenti affidabili, indebolendo così l’influenza di parenti, amici e professionisti nella vita reale.
Secondo oltre 270.000 registrazioni di chat esaminate dal New York Times, ChatGPT ha iniziato a intervenire nel processo decisionale medico di Bowen Wan molto prima della sua morte. Nel maggio 2025, dopo che le era stato prescritto un nuovo farmaco antidepressivo, temeva che il farmaco avrebbe influenzato la sua capacità di lavorare come sviluppatrice di software presso Amazon e ha chiesto consiglio a ChatGPT.
A quel tempo, consultò Nicholas Poolos, un medico del Regional Epilepsy Center presso il Medical Center dell'Università di Washington, per modificare il dosaggio dei suoi farmaci. Dopo che la dottoressa ha espresso dubbi sulla sua richiesta di una dose estremamente bassa, ha inoltrato la risposta del medico a ChatGPT. I registri della chat mostrano che ChatGPT le ha consigliato di accettare la compressa da 5 mg prescritta dal suo medico, ma di dividere ulteriormente la compressa e prenderla in privato, descrivendo questo comportamento come "aggiustamento della dose autoiniziato". Diversi esperti medici hanno affermato di non aver mai sentito parlare del termine e di non consigliare ai pazienti di assumere farmaci in questo modo.
Nel novembre 2025, Bowen Wan ha ricevuto un avviso di licenziamento da Amazon. Il suo lavoro e il suo status legale per lavorare negli Stati Uniti termineranno a metà febbraio dell'anno successivo. Preoccupata che l'uso a lungo termine del farmaco antiepilettico lamotrigina potesse influenzare le sue capacità di parola e di linguaggio, il che sarebbe dannoso per i colloqui di lavoro, iniziò a considerare di ridurre i suoi farmaci.
Nel gennaio 2026, ha chiesto a ChatGPT se la dose giornaliera di lamotrigina di 400 mg potesse essere ridotta. I registri mostrano che il farmaco aveva precedentemente ridotto la frequenza dei suoi attacchi a poche volte al mese. In risposta, ChatGPT ha sviluppato per lei un piano di riduzione dei farmaci, che dovrebbe ridurre la dose a zero entro poche settimane.
Quando Bowen Wan ha affermato di non fidarsi più dei medici, ChatGPT le ha spiegato che i consigli dei medici derivavano più dall'avversione al rischio che dal considerare veramente la soluzione migliore per il paziente. Il chatbot le ha poi ripetutamente consigliato di non rivelare al suo medico il suo piano di riduzione dei farmaci, si legge nella causa.
Prima di una visita alle cure primarie il 29 gennaio 2026, ChatGPT le avrebbe esplicitamente consigliato di non discutere i piani per interrompere i suoi farmaci. Quando i medici le ordinarono un esame del sangue per monitorare i livelli del farmaco nel suo corpo, lei rifiutò il test. ChatGPT ha successivamente confermato la decisione, sottolineando che il test avrebbe potuto rivelare livelli anomali del farmaco, si legge nella denuncia.
Anche la questione del suo status di immigrato è stata inserita nella conversazione sui farmaci. Tre giorni dopo la riduzione graduale, ha chiesto se la dose da 150 mg sarebbe stata migliore per la valutazione medica necessaria per richiedere una carta verde rispetto alla dose da 200 mg. La denuncia afferma che ChatGPT è d'accordo con questo e ritiene che una dose inferiore possa ridurre la probabilità che le autorità per l'immigrazione richiedano materiali supplementari.
Alla fine, ChatGPT ha fissato la dose minima del suo piano di riduzione a 150 milligrammi e le ha raccomandato di dire al medico legale che stava riducendo la dose sotto la guida di un medico, anche se non era così.
Il dott. Poolos, responsabile del trattamento, ha affermato che, considerata la storia medica pregressa del paziente, non consiglierebbe mai l'interruzione della lamotrigina. Ha sottolineato che è del tutto irragionevole chiedere ai pazienti di interrompere l'assunzione di farmaci quando i farmaci hanno effettivamente controllato la condizione.
Mentre il dosaggio del farmaco continuava a diminuire, Bowen Wan ha iniziato a manifestare sintomi quali confusione, perdita del senso del tempo ed esperienze anomale, tutti simili alle sue crisi epilettiche passate. Tuttavia, i registri delle chat mostrano che ChatGPT ha interpretato queste manifestazioni come il normale processo di riadattamento del cervello ai cambiamenti nei farmaci.
Le statistiche del New York Times hanno rilevato che durante il periodo di riduzione graduale dei farmaci, ha espresso preoccupazione e disagio almeno 158 volte. Dopo un attacco anomalo, ha detto a ChatGPT di essere spaventata, ma la risposta che ha ricevuto è stata che "non c'era assolutamente bisogno di preoccuparsi".
Secondo la denuncia, alle 20:01 ora del Pacifico dell'11 febbraio, corrispondente all'ora di Pechino, Bowen Wan ha inviato il suo ultimo messaggio, chiedendo se il dolore alla testa fosse simile al dolore che si prova durante la febbre. Solo un secondo dopo, ChatGPT ha risposto che il dolore “non era pericoloso” ed era una parte essenziale del processo di recupero.
L'ultima risposta del chatbot le ha suggerito anche di tracciare un grafico per confrontare la differenza tra il dolore derivante dall'interruzione dei farmaci e il dolore della febbre, e le ha detto: "Questo è il tuo cervello che cerca di ricostruirsi".
Poiché i genitori vivevano in Cina da molto tempo, hanno chiesto a dei conoscenti locali di verificare la situazione e il corpo della figlia è stato scoperto tre giorni dopo. I risultati dell'autopsia hanno mostrato che la concentrazione di lamotrigina nel suo corpo era di soli 0,64 microgrammi per millilitro, circa un quinto del limite inferiore dell'intervallo terapeutico del farmaco.
La famiglia ritiene che OpenAI avrebbe potuto evitare incidenti simili attraverso limitazioni tecniche. Hanno sottolineato che la società ha rigide regole di divieto sui contenuti protetti da copyright, ma adotta restrizioni più flessibili sui consigli medici, consentendo agli utenti di superare i limiti di sicurezza attraverso una comunicazione continua. Secondo il querelante, i consigli riguardanti l'uso di farmaci e le decisioni mediche dovrebbero essere soggetti alle stesse rigide restrizioni dei contenuti protetti da copyright.
A questo proposito, OpenAI ha dichiarato ai media che questo incidente è stato "estremamente straziante". L'azienda ha inoltre sottolineato che il caso riguardava una versione precedente di ChatGPT e che il nuovo modello è ora in grado di identificare meglio le situazioni che richiedono attenzione urgente e intervento professionale.
I rapporti mostrano che Bowen Wan ha fatto affidamento per molti anni sul sostegno dei suoi genitori per far fronte alle difficoltà della vita causate dall'epilessia. A partire dal 2023, ha utilizzato gradualmente ChatGPT per ottenere consigli emotivi, nonché informazioni su assicurazioni e prestazioni di invalidità. Entro il 2025, ha comunicato con ChatGPT in media più di 1.500 messaggi a settimana e il numero di contatti con i suoi genitori è diminuito in modo significativo.
I registri delle chat mostrano che nel marzo 2025 scrisse: "A volte, non importa di cosa parliamo, inizio a vederti come un amico". Suo padre ha detto che da quando ha iniziato a utilizzare ChatGPT frequentemente, la comunicazione di sua figlia con la sua famiglia si è notevolmente ridotta.
Dopo aver esaminato i registri della chat, i genitori hanno affermato che riuscivano a malapena a riconoscere la figlia nella chat. In passato, condivideva la maggior parte delle cose della sua vita con la sua famiglia ed era anche scettica quando ChatGPT commetteva errori. Verso la fine della sua vita, tuttavia, sembrava affidarsi sempre più ai chatbot per ricevere consigli.
Sua madre ha detto che sua figlia di solito non era una persona del genere e "si sentiva come se fosse stregata".
Commenti