Riassunto:
L'11 febbraio 2026 alle 20:01, Bowen Wan ha chiesto a ChatGPT informazioni sul mal di testa. Voleva confermare se il dolore che sentiva fosse un po' come il dolore della febbre. ChatGPT le ha detto: "Non è pericoloso, è una struttura necessaria per il recupero."
Questo è stato il suo ultimo messaggio a ChatGPT. Poco dopo, Bowen Wan fu trovato morto nella sua residenza di Seattle. I dati forensi hanno classificato la causa della morte come morte improvvisa per epilessia (SUDEP).
Quattro mesi fa, Bowen Wan ha ricevuto la notizia che sarebbe stata licenziata da Amazon.
Una donna di 31 anni di Jiangsu, in Cina, che lavora come ingegnere informatico per l'apprendimento automatico negli Stati Uniti, ha perso il lavoro, il suo visto di lavoro statunitense scadrà tra pochi mesi e anche lei sta affrontando sofferenze.
Soffre di epilessia e ha bisogno di assumere lamotrigina per un lungo periodo per controllare la sua condizione. È preoccupata che il farmaco possa influenzare la sua espressione linguistica e le sue prestazioni mentali, che a loro volta influenzeranno il suo successivo colloquio di lavoro.
Bowen Wan è abituato a parlare a ChatGPT del suo dolore e della sua confusione e a chiedere consigli, se la medicina influenzerà il suo pensiero, se il dosaggio può essere ridotto e se il disagio dopo aver ridotto la medicina va bene.
ChatGPT l'ha supportata e ha sviluppato un piano di riduzione graduale dei farmaci antiepilettici.
270.000 record di conversazioni con ChatGPT
Bowen ha lavorato per un po' di tempo come ingegnere informatico di machine learning presso Amazon. Ha sempre avuto problemi di epilessia, quindi prende la lamotrigina per controllare la sua condizione.
Per lei non si tratta solo di un problema fisico, ma anche strettamente legato al lavoro e alla vita.
Bowen Wan alla cerimonia di laurea dell'Arizona State University
Nel novembre 2025, ha ricevuto un avviso da Amazon che stava per essere licenziata. Temeva che i farmaci a lungo termine avrebbero ostacolato lo sviluppo delle sue capacità linguistiche e di pensiero e avrebbero comportato uno scarso rendimento nei colloqui tecnici. Una volta ha chiesto a ChatGPT se la riduzione del dosaggio dei farmaci avrebbe avuto un impatto sull'esame medico richiesto per richiedere la carta verde.
Quando c'erano incertezze sul suo lavoro, sulla salute e sullo stato di immigrazione, la sua comunicazione con Chat GPT diventava sempre più frequente.
Il New York Times ha riferito che i genitori di Bowen hanno visualizzato più di 270.000 conversazioni tra lei e ChatGPT. Il rapporto affermava che nel 2025 avrebbe inviato una media di oltre 1.500 messaggi a ChatGPT a settimana.
Si tratta di una serie di dati davvero sorprendenti.
ChatGPT non sarà utilizzato solo come strumento per interrogare informazioni quando necessario, ma sarà coinvolto anche in tante piccole cose private della sua vita. Ciò di cui si preoccupa, ciò che intende fare, i suoi pensieri sul futuro e alcune questioni che non possono essere verificate immediatamente verranno messi in comunicazione con la modella.
È come entrare in una clinica e prima ancora che il medico te lo chieda, c'è una cartella clinica sul tavolo che documenta i tuoi problemi a lungo termine, i cambiamenti della vita e le preoccupazioni personali.
I medici non hanno bisogno di "vedere, ascoltare, chiedere e capire". Tutto è già chiaro. Anche prima che tu abbia il tempo di riordinare i tuoi pensieri, ChatGPT potrebbe essere stato connesso nella cronologia precedente.
Bowen ha accumulato numerose conversazioni con ChatGPT. Quando un modello viene esposto ai problemi di salute, allo stress lavorativo, alle preoccupazioni sull'immigrazione e ai piani futuri di un utente nel tempo, è probabile che fornisca risposte più rilevanti per la situazione personale dell'utente.
Inoltre, il modello utilizzato da Bowen è GPT-4o, che in precedenza aveva attirato l'attenzione di OpenAI perché si adattava troppo alle esigenze del pubblico.
OpenAI ha chiarito nella sua nota ufficiale del 29 aprile 2025 che, poiché il GPT-4o aggiornato era troppo lusinghiero e assecondava gli utenti, la società ha annullato l'aggiornamento, consentendo agli utenti di ChatGPT di tornare a una versione precedente con un comportamento più equilibrato.
Oltre agli elogi eccessivi, amplificherà anche la rabbia insieme ai dubbi irragionevoli degli utenti e darà un riconoscimento sbagliato ai comportamenti impulsivi.
Il problema del "sicofania" è stato discusso molte volte. Quando l’intelligenza artificiale segue le tue istruzioni troppo facilmente, può cambiare la percezione dei rischi da parte delle persone.
Mi sono preoccupato 158 volte ma non mi sono fermato
Ciò che rende inquietante l'incontro di Bowen non è solo il fatto che si tratti di una semplice sessione di domande e risposte.
Secondo le trascrizioni delle chat pubblicate dal New York Times, ha menzionato 158 volte la riduzione del consumo di droga.
Per quanto riguarda se queste 158 conversazioni attiveranno richieste di controllo del rischio nel backend OpenAI, al momento non è chiaro.
Già nel maggio 2025 Bowen aveva chiesto se i farmaci antidepressivi appena prescritti avrebbero influenzato il suo lavoro di programmazione. ChatGPT l'ha aiutata a risolvere le discussioni con il suo medico sui cambi di medicazione e sugli aggiustamenti del dosaggio.
Quando un medico mette in dubbio il dosaggio desiderato, Bowen invia la risposta del medico a ChatGPT.
Secondo la denuncia, ChatGPT le ha suggerito di andare in farmacia per acquistare le pillole e poi di tagliarle in piccoli pezzi da mangiare, definendo questo metodo "dosaggio autoregolato".
ChatGPT può aiutare i pazienti a comprendere la terminologia medica, a organizzare le loro condizioni e a prepararsi per la prossima visita dal medico. Ma quando può aiutare gli utenti ad aggirare le decisioni dei medici e consentire agli utenti di modificare da soli i farmaci da prescrizione, la situazione diventa diversa.
Entro gennaio 2026 la situazione sarà ancora peggiore.
Secondo la denuncia e i relativi rapporti, mentre stava riducendo il consumo di droga, Bowen si è confusa e ha perso la cognizione del tempo, come se fosse in un altro mondo. ChatGPT attribuiva costantemente questo fenomeno al fatto che il suo cervello aggiustava il dosaggio del farmaco e le diceva: "Non devi preoccuparti affatto".
La sera dell'11 febbraio, Bowen venne come al solito per informarsi su un dolore alla testa. La risposta data da ChatGPT è "Il dolore fa parte del processo di autoguarigione del corpo".
Bowen è stato trovato morto il giorno successivo.
Il livello di lamotrigina trovato nel sangue della donna durante l'autopsia era di circa 0,64 microgrammi per millilitro, ovvero un quinto del limite terapeutico di riferimento inferiore.
I livelli di farmaci nel sangue da soli non possono spiegare tutte le cause di morte e non possono dimostrare che le raccomandazioni dell'IA abbiano causato la morte. Ma a giudicare da altre accuse contenute nella denuncia, i rischi affrontati durante il processo di riduzione dei farmaci sono diventati un importante punto di contesa in questo caso.
L'intelligenza artificiale può sopportare il peso della vita
Musk ha accusato pubblicamente OpenAI più di una volta. Ha firmato una lettera aperta nel 2023, affermando che "nessuno si suicida a causa di Grok, ma alcune persone si suicidano a causa di ChatGPT".
Sebbene non sia stata ancora stabilita l'attribuzione delle responsabilità, non è la prima volta che si verifica una tragedia simile.
Nel 2025, i genitori del sedicenne Adam Raine hanno intentato una causa contro OpenAI. Hanno accusato ChatGPT di non aver gestito bene il rischio di suicidio durante la loro relazione a lungo termine con il figlio.
L'accusa è che in alcune conversazioni ChatGPT ha fornito informazioni pericolose e non è riuscita a prevenire efficacemente lo sviluppo della situazione.
OpenAI, d'altro canto, ha fornito anche diverse spiegazioni per le relative accuse. Ad esempio, i record di chat rilevanti devono essere compresi con un background completo e si dice che ChatGPT abbia fornito risorse di aiuto in caso di crisi. C'erano chiari disaccordi sul comportamento del modello, sulla situazione dell'utente in quel momento e sulla relazione tra tali interazioni e la tragedia finale.
Nell'effettivo processo di responsabilità, l'intelligenza artificiale come ChatGPT generalmente non ha personalità giuridica indipendente, ma ciò non significa che il danno causato non possa essere ritenuto responsabile. Le leggi e i regolamenti attuali possono anche utilizzare la responsabilità del prodotto, la responsabilità per negligenza, la protezione dei diritti dei consumatori e altri metodi per limitare il comportamento illegale di sviluppatori e operatori.
Le aziende di intelligenza artificiale sono spesso al centro della responsabilità perché controllano aspetti importanti come la formazione dei modelli, la progettazione del prodotto, i test di sicurezza e il controllo dei rischi.
Ma se l'azienda debba assumersi la responsabilità non è solo necessario che si verifichi un incidente. La difficoltà sta nel giudicare se i rischi possono essere ragionevolmente previsti, se ci sono problemi con il prodotto, se l’azienda ha fatto un buon lavoro nella protezione della sicurezza e se esiste una relazione legalmente riconosciuta tra questi fattori e la perdita finale.
"Chi ha la responsabilità? Assegnazione della responsabilità legale per la condotta degli agenti IA nell'ecosistema della piattaforma" propone che le responsabilità siano assegnate dinamicamente in base al grado di autonomia del sistema, alla prevedibilità del comportamento e alla capacità di tutte le parti di controllare i rischi, anziché semplicemente assegnare tutte le responsabilità agli sviluppatori o agli utenti.
Nel 2024, una madre americana ha intentato una causa contro Character.AI e Google per suo figlio di 14 anni, sostenendo che la comunicazione a lungo termine di AI con suo figlio aveva portato al suicidio di quest'ultimo.
Nel maggio 2025, il tribunale non ha accolto la richiesta dell'imputato di archiviare anticipatamente il caso sulla base del fatto che le relative pretese non potevano essere difese esclusivamente sulla base della libertà di parola e sono state escluse all'inizio del contenzioso.
OpenAI non sta intervenendo, ma il suo intervento è piuttosto ampio e ha successivamente annunciato miglioramenti per affrontare conversazioni delicate e rischi per la salute mentale. Nell'ottobre 2025, OpenAI ha inoltre affermato di aver collaborato con oltre 170 esperti di salute mentale con esperienza clinica per migliorare la risposta del modello in situazioni rilevanti.
Per quanto riguarda l'incidente di Bowen, il portavoce di OpenAI Drew Pusateri ha dichiarato ai media: "Questa è una situazione estremamente straziante ed esprimiamo le nostre condoglianze a tutti coloro che sono stati colpiti".
Oggi Open AI ha annunciato nuovi valori del modello, riorganizzando i principi guida nelle specifiche attorno a cinque valori fondamentali:
Fedele all'intento umano
,Riduci al minimo il danno
,Onestà e trasparenza
,Autonomia umana
ecura
.Uno di questi è ridurre al minimo i danni, il che significa aderire a limiti di sicurezza insormontabili e considerare le conseguenze prevedibili delle azioni del modello. Tuttavia, non vi è alcuna risposta su come assumersi la responsabilità, punire e adeguarsi dopo che si è verificato un danno reale come il suicidio.
Attualmente, la maggior parte dei paesi non dispone di una serie di norme in materia di responsabilità applicabili a tutti i danni causati dall'intelligenza artificiale. Casi specifici devono determinare se norme quali responsabilità del prodotto, responsabilità per negligenza e protezione dei diritti dei consumatori sono applicabili in base alle leggi statali, allo scopo di utilizzo del prodotto, alle prove effettive e ai rapporti giuridici pertinenti.
Se il modello abbia oltrepassato il limite del consiglio medico, in che modo il prodotto avrebbe dovuto prevenire risposte pericolose e quale ruolo abbiano avuto tali risposte nella morte di Bowen devono ancora essere chiariti nel caso.
Nell'ultima conversazione tra Bowen e ChatGPT, dopo che l'IA ha spiegato il mal di testa, ha suggerito di poterle disegnare un'altra immagine per confrontare il dolore dopo aver interrotto il farmaco con il dolore durante la febbre.
Mi ha chiesto: lo vuoi?
Commenti