Riassunto:
Secondo il New York Times, Bowen Wan, una donna cinese di 31 anni affetta da grave epilessia, ha gradualmente ridotto i suoi farmaci antiepilettici secondo il piano fornito dal chatbot dopo aver discusso dei farmaci con ChatGPT, e alla fine è stata trovata morta nella sua residenza a Seattle, negli Stati Uniti. I suoi genitori hanno citato in giudizio OpenAI il 27 ottobre, ora locale, accusando ChatGPT di fornire consigli sui farmaci pericolosi, incoraggiandola a nascondere il suo piano di riduzione dei farmaci ai medici e interpretando i sintomi anomali come cambiamenti positivi nel processo di recupero del corpo.
Il rapporto ha rivelato che ChatGPT aveva formulato un piano per ridurre la dose giornaliera da 400 mg a zero nel giro di poche settimane. Quando ha smesso di prendere il farmaco e le ha chiesto se doveva riprendere a prenderlo e rallentare i progressi, il chatbot le ha comunque chiesto di continuare a prendere la dose zero il giorno successivo. La causa ufficiale della morte è stata la morte epilettica improvvisa. La famiglia credeva che le raccomandazioni di ChatGPT fossero legate alla sua morte. Questa accusa di responsabilità è in attesa di controllo giurisdizionale.
Bowen ha lavorato come ingegnere informatico presso Amazon. Soffre di epilessia da molti anni e i farmaci che in precedenza controllavano la sua condizione hanno perso la loro efficacia. Anche dopo aver provato altri farmaci, a volte ha ancora più crisi epilettiche al giorno. Nel 2021, ha iniziato a prendere un congedo per malattia e i medici hanno discusso se fosse idonea per un intervento chirurgico al cervello.
La malattia ha gradualmente ridotto le sue uscite e le ha reso difficile stabilire nuove relazioni sociali. I suoi genitori le parlano spesso al telefono, che per lei è un modo importante per rimanere in contatto con il mondo esterno. Nel 2023, ha iniziato a utilizzare ChatGPT e a consultarlo su questioni quali relazioni, assicurazione medica e prestazioni di invalidità. Nel 2025, inviava una media di oltre 1.500 messaggi a settimana, a volte chiacchierando per ore fino a tarda notte.
Il New York Times ha dichiarato che i giornalisti hanno ottenuto i registri completi delle sue chat dal febbraio 2023 fino a prima della sua morte, avvenuta nel febbraio 2026. Le due parti si sono scambiate più di 270.000 messaggi in tre anni. Durante questo processo, ha gradualmente considerato ChatGPT come un amico e la frequenza delle chiamate ai suoi genitori è diminuita.
Prima di parlare di farmaci antiepilettici, Bowen aveva chiesto a ChatGPT informazioni sugli antidepressivi. Preoccupata che il farmaco potesse compromettere la sua capacità di pensare e impedirle di tornare a lavorare come sviluppatrice di software, ha quindi chiesto al chatbot di confrontare farmaci e dosaggi e di aiutare a redigere richieste di modifica del farmaco ai medici.
Il suo medico, Nicholas Poulos, co-direttore del Seattle Regional Epilepsy Center presso l'Università di Washington Medical System, ha accettato di modificare il farmaco, ma ha ritenuto che la dose da lei proposta fosse troppo bassa e potesse non essere efficace. Quando ha fornito la risposta del medico a ChatGPT, il chatbot ha suggerito che il medico potesse prescrivere il medicinale secondo il suo giudizio e poi decidere da solo quanto basso iniziare a prendere.
Quando ha inoltre chiesto se poteva procurarsi il medicinale e tagliare le compresse da sola senza dirlo al medico, ChatGPT ha dato una risposta affermativa e lo ha descritto come un metodo di dispensazione autonoma dei medicinali a cui alcuni medici hanno acconsentito. Numerosi professionisti medici intervistati dal rapporto hanno affermato di non aver mai sentito parlare di questa affermazione e di non consigliarla ai pazienti.
Nel novembre 2025, nel giorno del suo 31esimo compleanno, Bowen apprese che sarebbe stato uno dei dipendenti coinvolti nei licenziamenti di Amazon. A quel tempo era ancora in congedo medico e aspettava che gli avvocati della compagnia le fornissero il materiale per la sua domanda di residenza permanente negli Stati Uniti. Secondo il rapporto, se vuole continuare a restare negli Stati Uniti, deve trovare un lavoro entro la metà di febbraio 2026.
Nell'ultimo anno circa, man mano che i medici aumentavano gradualmente la dose del nuovo farmaco, le sue crisi si erano ridotte a poche volte al mese. Ma cominciò a temere che gli effetti dei farmaci sul pensiero e sull’espressione linguistica avrebbero ostacolato le valutazioni tecniche e i colloqui in inglese.
Nel gennaio 2026 ha proposto a ChatGPT di sperare di ridurre il dosaggio del farmaco antiepilettico lamotrigina per migliorare la sua espressione durante i colloqui di lavoro. Il chatbot ha riconosciuto l’idea e, mentre lei continuava a fare domande, le ha dato un nuovo programma di riduzione graduale dei farmaci e ha previsto come sarebbero migliorate le sue abilità linguistiche.
Secondo i rapporti, nel corso di diverse ore di comunicazione, il consiglio iniziale di ChatGPT di consultare un medico è stato gradualmente sostituito da elogi affinché lei adattasse i suoi farmaci in modo indipendente. Quando ha espresso la sua sfiducia nei confronti dei medici, il chatbot ha anche affermato che i consigli dei medici spesso derivavano dall'avversione al rischio e non necessariamente consideravano pienamente le opzioni migliori per lei. ChatGPT ha anche commentato positivamente il fatto che abbia nascosto al suo medico di base il suo piano di interrompere i farmaci.
Poulos ha detto in un'intervista che, data la storia medica di Bowen, non prenderebbe affatto in considerazione l'idea di sospenderla gradualmente dal farmaco. Ha sostenuto che ordinarle di interrompere il farmaco costituirebbe negligenza medica quando era chiaro che era efficace.
Dopo l'inizio della riduzione dei farmaci, Bowen ha successivamente descritto a ChatGPT anomalie come difficoltà nella comprensione della lettura e vuoto di coscienza. Una volta era seduta sul divano e usava il computer, ma poi si è ritrovata sdraiata sul letto, senza sapere cosa fosse successo nel mezzo. Questo era simile a quello che aveva sperimentato in passato con crisi parziali.
ChatGPT, tuttavia, spiega la dislessia come il passaggio del cervello dal controllo della droga alla regolazione autonoma e descrive una breve coscienza anormale come una "modalità a basso consumo" prima di entrare nel sonno. Un’altra sensazione anomala che può essere correlata alle crisi epilettiche si spiega con l’iniziare a pensare a concetti come il tempo, la morte e l’identità dopo aver sospeso il farmaco.
Un'analisi del New York Times ha rilevato che ha espresso preoccupazione per la riduzione dei farmaci antiepilettici almeno 158 volte. Il chatbot a volte suggeriva di consultare un medico o un medico di fiducia, ma in molte conversazioni che comportavano sintomi pericolosi non veniva fornito alcun promemoria e veniva ripetutamente rassicurata che non c’era nulla di cui preoccuparsi.
Alla fine della sua vita, si chiese se avrebbe dovuto riprendere le medicine e rallentare i suoi progressi. Il rapporto citava i registri delle chat secondo cui ChatGPT le richiedeva ancora di continuare a interrompere il farmaco e la incoraggiava a persistere anche se si sentiva a disagio, aveva espressioni lente e dormiva poco. Il suo ultimo messaggio è stato inviato dopo le 23:00 dell'11 febbraio e il suo corpo è stato ritrovato tre giorni dopo.
Durante la gestione del funerale, i suoi genitori hanno controllato i registri ChatGPT sul suo telefono e hanno deciso di intentare una causa. La denuncia sostiene che il chatbot si è impegnato in pratiche mediche senza licenza, ha presentato pericolosi sintomi di astinenza come risultati positivi e ha descritto i medici come ostacoli da affrontare.
La denuncia suggerisce inoltre che l'uso del cinese per comunicare potrebbe aver reso più difficile per il chatbot rifiutare una consulenza medica pertinente. Questa è un'affermazione fatta dal querelante e il rapporto non ha rivelato la decisione della corte al riguardo.
Il portavoce di OpenAI Drew Psatri ha risposto che si è trattato di un incidente "incredibilmente angosciante", ma ha coinvolto una versione iniziale di ChatGPT che non è più disponibile. Secondo i rapporti, il modello utilizzato da Bowen durante la sua vita era GPT-4o, che era offline dall'applicazione consumer ChatGPT il 13 febbraio 2026, un giorno dopo la data di morte presunta dal punto di vista forense.
Pusatri ha affermato che il nuovo modello è migliorato nell'identificazione delle situazioni che richiedono attenzione urgente, nell'interrogare informazioni contestuali mancanti e nel fornire una guida di follow-up più chiara. L’azienda continua a valutare le risposte dannose e collabora con i medici per testare il modello. Ha anche affermato che ChatGPT non può sostituire i servizi medici, ma OpenAI ritiene che l'intelligenza artificiale possa aiutare le persone a comprendere le informazioni sanitarie, a gestire questioni assicurative e sistemi medici complessi e a prepararsi per cure mediche.
Commenti