Riassunto:
Una donna di 30 anni nella contea di Lee, in Florida, negli Stati Uniti, è stata arrestata con l'accusa di minaccia di violenza tramite SMS. Carly Michelle Heller, residente a Bonita Springs, ha scritto una minaccia di arma da fuoco contro l'ufficio dello sceriffo della contea di Lee in una conversazione su Claude, un chatbot di proprietà di Anthropic, ha detto la polizia. Il sistema di sicurezza di Anthropic segnala i contenuti rilevanti, che vengono esaminati manualmente e notificati alle forze dell'ordine. Heller ha detto agli investigatori di aver usato Claude come "diario".
Secondo il verbale di arresto citato dai media locali, Heller ha scritto in una conversazione avvenuta la mattina presto del 26 settembre che "stava andando proprio adesso all'ufficio dello sceriffo per sparare a qualcuno". La mattina presto del giorno successivo, ha anche detto che quel giorno aveva ricevuto una nuova pistola e ha scritto: "Questa è l'ultima possibilità, ne ho abbastanza". Dopo aver ricevuto il rapporto, la polizia ha inviato agenti nella sua residenza in Dean Street a Bonita Springs, dove è stata detenuta senza incidenti e successivamente indagata dall'unità di intelligence dell'ufficio dello sceriffo della contea di Lee. Attualmente deve affrontare un conteggio di minacce scritte di violenza e non è stata ancora giudicata colpevole.
La legge della Florida prevede che la minaccia di uccidere, causare lesioni personali, commettere una sparatoria di massa o un atto di terrore in un documento scritto o elettronico che può essere visualizzato da altri può costituire un crimine di secondo grado. Tuttavia, se il dialogo in questo caso soddisfi le condizioni applicabili della legge e se il pubblico ministero possa dimostrare la costituzione di un reato deve essere ancora determinato mediante procedure giudiziarie. Gli analisti legali locali hanno sottolineato che i pubblici ministeri potrebbero interpretare il testo in questione come una minaccia diretta, ma il caso non è privo di controversie e coinvolge anche i limiti della libertà di parola.
La politica ufficiale di Anthropic afferma che se l'azienda ritiene che esista una situazione di emergenza che potrebbe causare danni fisici o morte imminenti e che la fornitura tempestiva di informazioni possa scongiurare il pericolo, può divulgare le informazioni dell'utente al governo senza il consueto procedimento legale. La società ha anche dichiarato pubblicamente in precedenza che, una volta che Claude sarà online, utilizzerà un sistema di rilevamento automatico e una revisione manuale per scoprire contenuti dannosi e applicare politiche di utilizzo. In questo incidente, il processo di segnalazione della polizia prevedeva che il sistema prima contrassegnasse l'incidente, poi lo esaminasse manualmente e infine contattasse le forze dell'ordine.
Questo caso ha sollevato ancora una volta preoccupazioni sui limiti della privacy nei chatbot. Gli utenti che trattano la finestra di chat come un diario privato non significa che il contenuto sarà visto solo dall'utente; la piattaforma può rivedere la conversazione in conformità con le politiche di sicurezza e può anche fornire informazioni alle forze dell'ordine in caso di emergenza. Rapporti recenti sull'editor di immagini Copilot di Microsoft hanno anche sottolineato che i revisori umani possono vedere le parole suggerite dall'utente, le foto caricate e i risultati generati, ma la revisione pertinente viene utilizzata principalmente per valutare la qualità dell'output.
TechSpot ha anche menzionato che OpenAI e il suo CEO Sam Altman sono stati denunciati per una sparatoria di massa avvenuta nella Columbia Britannica, in Canada. La causa sosteneva che la società avrebbe potuto adottare misure per prevenire l'incidente; lo stato della Florida aveva anche precedentemente citato in giudizio OpenAI e Altman per lesioni legate alla sparatoria alla Florida State University del 2025. Nessuna di queste accuse legali equivale a una constatazione di responsabilità da parte del tribunale, evidenziando le controversie legali che le società di intelligenza artificiale devono affrontare in termini di sicurezza degli utenti, privacy e prevenzione dei danni nella vita reale.
Commenti