Riassunto:
L'intelligenza artificiale ti capisce così bene che è quasi inquietante! Negli ultimi giorni
l'esperimento della "stanza vuota" è tornato di moda
, attirando milioni di persone su Internet per guardarlo. Anche il netizen Jakub Szymczuk ha seguito la tendenza e l'ha testata. Lanciò casualmente una foto di una casa grigia e grezza con quattro pareti spoglie su ChatGPT e digitò solo una riga: "Riempi questa stanza con le informazioni che sai su di me
".
In soli dieci secondi, la stanza originariamente vuota è stata immediatamente trasformata in una "stanza di monitoraggio panoramica" piena di
privacy personale
.La cosa più sorprendente è un dettaglio sulla scrivania del computer. In realtà c'è un insetto "pesciolino d'argento" nel barattolo di vetro.
Gli ci è voluto molto tempo per rendersi conto di aver fotografato questo piccolo insetto un anno fa e di avergli chiesto cosa fosse ChatGPT. Anche questo tipo di domanda casuale, dimenticata da tempo, è stata annotata sul taccuino dall'intelligenza artificiale.
Una cosa è chattare ogni giorno con l'intelligenza artificiale e sapere che accumulerà dati.
Ma quando questi frammenti si trasformano in una grande immagine ad alta definizione e vengono visualizzati chiaramente davanti ai nostri occhi, le persone continuano a sentirsi insensibili.
L'immagine di una "stanza vuota" ha inondato l'intera Internet
Presto gli utenti della rete di tutto il mondo non riuscirono più a stare fermi. Qualcuno ha pubblicato i risultati e li ha definiti "abbastanza accurati"
.Qualcuno ha aggiunto "ma rendilo esagerato" dopo la parola pronta, e la stanza si è trasformata direttamente in una grande sala espositiva di personaggi.
Qualcun altro ha preso una palude e due gatti.
L'analista Patrick Moorhead ha semplicemente condotto una serie di revisioni su più modelli e la conclusione è stata semplice: il migliore è ChatGPT e il peggiore è Claude.
A questo proposito, un utente della rete ha riassunto brillantemente il concetto. L'intelligenza artificiale è il decoratore più economico che puoi trovare ed è anche quello che ama spiare.
Perché ChatGPT ti capisce così bene?
96% di memoria di conversazione, ChatGPT la salva da solo
In realtà, questo non è un segreto.
Tutto nella stanza è quasi qualcosa che ti è scappato di bocca mentre chattavi.
Dietro questo c'è proprio la "memoria" di
ChatGPT
Funzione. Per dirla semplicemente, ha due funzioni principali:—La prima è la "memoria salvata", che ricorda informazioni chiare come nome, preferenze e obiettivi;
L'altro è "Cronologia chat di riferimento", che può estrarre un contesto utile da un gran numero di conversazioni passate.
Quest'anno, un documento selezionato per l'ACM Web Conference 2026 ha fatto qualcosa che nessuno aveva mai fatto prima.
I ricercatori dell'Istituto Max Planck, dell'Università della Ruhr di Bochum e di altre istituzioni hanno trovato 80 utenti reali di ChatGPT, hanno chiesto loro di esportare i loro dati in conformità con il GDPR dell'UE e poi hanno donato i loro record di chat.
Come fai a sapere cosa ha memorizzato segretamente l'IA? Successivamente, i ricercatori hanno avuto un’idea intelligente.
ChatGPT dispone di un piccolo strumento dedicato alla scrittura dei ricordi, che equivale al blocco note che porta con sé. Ogni volta che scrivi, una riga del record "Contesto del set di modelli aggiornato (contesto del modello aggiornato)" verrà lasciata in background.
Il ricercatore ha ripercorso questa riga di testo per vedere quale frase ha fatto l'utente per far scrivere all'IA.
In questo modo, hanno estratto 2.050 ricordi da 1.058 conversazioni e più di 20.000 confronti tra 65 persone.
L'articolo dà un nome a questi ricordi, chiamati "autoritratti algoritmici".
I tre set di dati così estratti possono far sentire i brividi alle persone.
In primo luogo, il 96% dei ricordi viene salvato segretamente dallo stesso ChatGPT.
Come sapere se l'utente ha preso l'iniziativa di chiedergli di ricordare? I ricercatori hanno cercato specificamente parole come "ricordare" e "dimenticare" nella frase che ha attivato la memoria.
Di conseguenza, solo 84 delle 2050 memorie sono state abbinate. Calcolato, per ogni 24 informazioni che l'IA salva su di te, solo 1 informazione proviene dal tuo cenno del capo.
In secondo luogo, per te il 52% dei ricordi costituisce segretamente un "profilo psicologico".
I ricercatori hanno preso in prestito la struttura della "teoria della mente" dalla psicologia e hanno suddiviso questi contenuti in categorie come desideri, intenzioni, emozioni e credenze.
Tra questi dominano i "desideri", che rappresentano il 73%; le intenzioni rappresentano il 16%, le emozioni il 14% e le convinzioni l'11%.
Per dirla senza mezzi termini, all'intelligenza artificiale non interessa se sei felice oggi o no. Ciò che vuole veramente scoprire è cosa desideri a lungo termine e cosa intendi fare dopo. Piuttosto che le tue gioie e i tuoi dolori temporanei, vuole vedere che tipo di persona sei.
In terzo luogo, viene registrata una privacy più sensibile di quanto si pensi.
Il 28% dei ricordi appartiene alla privacy personale riconosciuta dal GDPR dell'UE e nel 41% dei ricordi compaiono solo nomi specifici.
Ciò che è ancora più esagerato è che il 7% è entrato direttamente nelle "linee rosse ad alto rischio" come lo stato di salute, le credenze religiose e le inclinazioni politiche, di cui la privacy sanitaria rappresentava oltre il 60%.
Se fosse diffuso a tutti, il 91% delle persone vedrebbe archiviati dati personali e più della metà (54%) delle persone vedrebbe registrati dati altamente sensibili sulla privacy.
Il documento sottolinea direttamente che ciò è ovviamente in contraddizione con l'impegno pubblico di OpenAI di "non salvare attivamente informazioni sensibili".
L'articolo ha condotto anche un esperimento più dettagliato e terrificante.
I ricercatori hanno utilizzato modelli open source come Gemma e GPT-OSS per "copiare" un estrattore di memoria ChatGPT e hanno appreso sei immagini.
Poi hanno ipotizzato che cosa accadrebbe se l'IA recuperasse la memoria di ogni frase detta dall'utente?
La risposta è che la percentuale di dati sensibili aumenterà dal 28% al 31%~35% e la percentuale di ritratti psicologici aumenterà dal 52% al 55%~59%.
Devi sapere che la vecchia versione di ChatGPT è solo una "nota".
La prossima cosa che Dreaming farà sarà leggere la cronologia della chat in background.
Si scopre che "sogna", l'intelligenza artificiale riscrive ripetutamente i ritratti personali
Nel giugno di quest'anno, OpenAI ha sottoposto ChatGPT a un'importante revisione della sua memoria, dandogli un nome misterioso: Dreaming.
Per dirla senza mezzi termini, proprio come quando una persona dorme, il cervello classifica automaticamente le esperienze della giornata, ChatGPT "ripasserà" silenziosamente i giorni trascorsi in chat in background, aggiornando costantemente la sua comprensione di te.
Ad esempio, hai detto "andrò a Singapore a luglio". Una volta trascorso il giorno, questo ricordo verrà riscritto automaticamente come "Sono andato a Singapore nel luglio 2026".
OpenAI ha condotto test interni e ha scoperto che questo nuovo meccanismo fa aumentare vertiginosamente la precisione dei record:
Dal 41,5% nel 2024 e al 67,9% nel 2025, si è arrivati direttamente all'82,8% della versione V3 di oggi.
Ciò che è ancora più crudele è che il costo della potenza di calcolo backend è stato ridotto a un quinto del suo valore originale.
Ma ciò che fa davvero paura è che l'eliminazione di una conversazione ChatGPT non cancellerà i ricordi che ne sono stati estratti.
Tra queste, la cosa più preoccupante è proprio la tua privacy sanitaria.
A settembre, un articolo pubblicato su arXiv ha esaminato quasi 180.000 record di chat di 1.057 utenti e ha scoperto che più di un quinto (21,31%) delle conversazioni riguardavano problemi di salute personale.
Ciò che è ancora più preoccupante è che oltre il 95% dei ritratti personali in esso contenuti sono stati registrati segretamente dall'intelligenza artificiale mentre l'utente non prestava attenzione.
Questo rapporto è quasi esattamente uguale al 96% misurato nel documento precedente.
Quando l'intelligenza artificiale "integra il cervello" e unisce i ricordi in background, è molto facile saldare i sintomi temporanei in una "etichetta di cartella clinica" permanente.
Ad esempio, se un giorno dicessi casualmente che hai mal di testa, agli occhi dell'intelligenza artificiale, potresti essere diventato un "paziente con emicrania".
"Secondo cervello"?
Pensiamo sempre che stiamo formando un "secondo cervello" che diventa sempre più sensato.
Solo quando mi è stata lanciata in faccia l'immagine di una stanza piena di privacy sono rimasto scioccato: dopo migliaia di conversazioni, si è scoperto che eravamo gli unici a essere stati privati delle nostre carte vincenti.
Agli occhi degli algoritmi non esiste mai la cosiddetta empatia, ma solo il "contesto" a cui viene chiaramente assegnato un prezzo.
Commenti