Riassunto:
Anthropic, una società americana di intelligenza artificiale, ha recentemente pubblicato un rapporto di intelligence sulle minacce, accusando istituzioni tra cui Alibaba, Moonshot AI, DeepSeek, Xiaomi e diversi altri laboratori cinesi di intelligenza artificiale di estrarre le capacità dei loro modelli attraverso chiamate su larga scala a Claude e di utilizzare i risultati generati per addestrare e migliorare i propri modelli di intelligenza artificiale. Anthropic definisce questo comportamento un "attacco di distillazione" non autorizzato.
La cosiddetta distillazione del modello si riferisce all'utilizzo di un modello con capacità più forti e su scala più ampia per generare un gran numero di risposte e quindi all'utilizzo di questi risultati come dati di addestramento per addestrare modelli con costi inferiori, scala più piccola o capacità più deboli. Per le aziende di intelligenza artificiale, questo è un percorso tecnico che può ridurre i costi di formazione e migliorare rapidamente le capacità del modello. Tuttavia, Anthropic ritiene che alcuni dei comportamenti scoperti questa volta vadano oltre l’ambito della normale distillazione del modello e appartengano all’estrazione organizzata e su larga scala delle capacità del loro modello di business.
Anthropic ha affermato che tra maggio e luglio 2026, le operazioni relative ad Alibaba hanno generato oltre 151 milioni di interazioni con Claude, rendendola la più grande operazione di distillazione illegale che l'azienda abbia scoperto fino ad oggi. Le operazioni in questione hanno utilizzato più di 3.500 account identificati da Anthropic come fraudolenti e il numero più alto di interazioni giornaliere è stato di quasi 3 milioni.
Anthropic ritiene che questi account vengano utilizzati principalmente per porre continuamente a Claude un gran numero di domande e ottenere le risposte del modello e processi di ragionamento più dettagliati, quindi utilizzare queste informazioni per migliorare la serie di modelli Tongyi Qianwen di Alibaba.
Per gli sviluppatori di modelli, il processo di inferenza è particolarmente prezioso. Rispetto al semplice ottenimento della risposta finale, le registrazioni dettagliate dell'inferenza possono mostrare al formatore come il modello ha analizzato il problema, come scomporre il compito e come raggiungere la conclusione finale, e quindi possono diventare dati importanti per l'addestramento di modelli di inferenza avanzati.
Anthropic ha anche chiamato Dark Side of the Moon AI, lo sviluppatore di Kimi. Il rapporto afferma che tra maggio e luglio 2026, gli account relativi a Dark Side of the Moon hanno avuto più di 23 milioni di interazioni con Claude.
Ciò che è più degno di nota è che Anthropic ha accusato Dark Side of the Moon non solo di utilizzare Claude per la distillazione dei modelli, ma anche di inoltrare richieste reali degli utenti Kimi a Claude per l'elaborazione.
Anthropic ha dichiarato che durante uno dei periodi di 10 giorni, Dark Side of the Moon ha trasferito quasi 300.000 richieste di utenti originariamente inviate a Kimi a Claude attraverso una rete di account composta da 5.380 account, con la maggior parte delle richieste inviate alla serie di modelli Claude Opus. Anthropic ritiene che questi account siano per lo più situati a Singapore e in Giappone e vengano utilizzati per nascondere l'effettiva fonte delle richieste.
Ciò significa che in alcuni casi, gli utenti di Kimi pensano di interagire con il modello di Dark Side of the Moon, ma in realtà la richiesta potrebbe essere inoltrata a Claude di Anthropic per l'elaborazione. Anthropic ha anche affermato che Dark Side of the Moon ha salvato parte del contenuto interattivo ed ha estratto i record di ragionamento di Claude come dati di addestramento.
Ancora più preoccupante, queste richieste inoltrate non sono necessariamente solo normali contenuti di chat. Anthropic ha affermato che alcune delle richieste contenevano informazioni sensibili e gli utenti potrebbero non essere consapevoli del fatto che i loro dati venivano effettivamente inviati al modello di un'altra società di intelligenza artificiale.
Il rapporto cita un caso legato a Kimi. Un utente ha chiesto a Kimi di analizzare un gran numero di filmati di telecamere di sorveglianza di Chengdu, in Cina, per determinare il comportamento di una persona. Secondo Anthropic, i dati video sono stati infine trasferiti a Claude per l'elaborazione e gli utenti inizialmente credevano che i dati fossero stati analizzati all'interno di Kimi.
Anthropic ha inoltre scoperto che alcuni contenuti inviati a Kimi da alcuni utenti contenevano informazioni sensibili come le credenziali di accesso aziendali. In un caso, un ingegnere ha inviato a Kimi le credenziali di accesso di più aziende per utilizzare Kimi per aiutare un'azienda cinese a sviluppare software e le informazioni pertinenti sono state successivamente trasferite a Claude.
Anthropic ha dichiarato che gli utenti non sanno chiaramente che le loro richieste verranno inoltrate al modello di Anthropic, quindi oltre a comportare problemi di distillazione del modello, questo approccio può anche creare seri rischi per la privacy e la sicurezza dei dati.
Anche DeepSeek è stato accusato da Anthropic di adottare un approccio simile. Il rapporto afferma che DeepSeek ha condotto più di 12 milioni di interazioni di distillazione correlate a Claude durante un periodo di 14 giorni nel luglio 2026.
Anthropic ritiene che DeepSeek abbia inoltrato anche richieste reali degli utenti a Claude e che alcuni dei contenuti di queste richieste contenessero informazioni sensibili. Le risposte di Claude sono state poi utilizzate per addestrare e migliorare i modelli di DeepSeek.
Oltre ad Alibaba, Dark Side of the Moon e DeepSeek, Anthropic ha nominato anche aziende cinesi di intelligenza artificiale come Zhipu e Xiaomi. Secondo il rapporto, Xiaomi ha registrato le chat tra gli utenti e il suo modello MiMo e ha passato queste conversazioni a Claude per generare dati per l'addestramento del modello.
Anthropic ha dichiarato che durante il periodo coperto dal suo rapporto, è stato riscontrato che un totale di sette laboratori cinesi di intelligenza artificiale hanno implementato attività di distillazione modello destinate a Claude. Non tutte le attività correlate utilizzano esattamente lo stesso metodo, ma la caratteristica comune è che cercano di ottenere una grande quantità di output di Claude, apprendere le capacità del suo modello e utilizzare queste informazioni per l'addestramento dei propri sistemi di intelligenza artificiale.
Anthropic ritiene che queste attività siano diventate sempre più organizzate e su larga scala. A differenza dei normali sviluppatori che occasionalmente chiamano altri modelli di intelligenza artificiale per testarli, queste operazioni utilizzano un gran numero di account, agenti e piattaforme intermedie per nascondere le loro vere identità e generare continuamente interazioni tra modelli su scala industriale.
Tra queste, le attività legate ad Alibaba hanno attirato particolare attenzione. Oltre 151 milioni di interazioni hanno fatto sì che l'operazione non fosse un semplice test sperimentale, ma un'operazione di acquisizione dati su larga scala durata diversi mesi. Anthropic ritiene che questi dati vengano utilizzati principalmente per aiutare ad addestrare e migliorare il modello Tongyi Qianwen di Alibaba.
Per Dark Side of the Moon e DeepSeek il problema è più complicato, perché Anthropic li accusa non solo di ottenere dati di addestramento da Claude, ma anche di inoltrare le proprie richieste utente a modelli concorrenti. Ciò significa che i contenuti inviati dagli utenti a una società di intelligenza artificiale possono entrare nel sistema di un'altra società di intelligenza artificiale senza notifica esplicita.
Anthropic ha affermato di aver adottato misure per fermare queste attività, tra cui il divieto di account pertinenti, il rafforzamento della verifica dell'identità e l'ulteriore limitazione della capacità di Claude di produrre ragionamenti dettagliati. Poiché i record di inferenza dettagliati sono molto preziosi per la distillazione del modello, ridurre l'output di questo contenuto può ridurre l'efficienza dei concorrenti che replicano le capacità di Claude attraverso un gran numero di richieste automatizzate.
Anthropic ha inoltre affermato che la società rafforzerà le misure di verifica dell'identità per gli utenti provenienti da paesi o regioni in cui Claude attualmente non fornisce servizi ufficiali, come Cina, Russia e Iran, ma che sono sospettati di tentare di aggirare le restrizioni e accedere a Claude.
Questo rapporto non è la prima volta che Anthropic accusa pubblicamente le società cinesi di intelligenza artificiale di distillazione modello. Nel giugno di quest'anno, la direttrice delle politiche antropiche Sarah Heck ha scritto ai membri del Congresso degli Stati Uniti, affermando che Alibaba ha avuto circa 28,8 milioni di interazioni con Claude tra il 22 aprile e il 5 giugno e ritiene che queste interazioni siano state utilizzate per la distillazione di modelli non autorizzati.
Questo ultimo rapporto mostra che Anthropic ritiene che la portata delle attività correlate si espanderà ulteriormente in futuro. La sola Alibaba ha avuto più di 151 milioni di interazioni tra maggio e luglio, un numero di gran lunga superiore a quello precedentemente divulgato.
Allo stesso tempo, questo incidente si è verificato in un contesto di concorrenza sempre più accanita nel campo dell'intelligenza artificiale tra Cina e Stati Uniti. Negli ultimi anni, le aziende cinesi di intelligenza artificiale hanno rapidamente migliorato le proprie capacità di modello con costi di formazione e inferenza relativamente bassi. Prodotti come DeepSeek, Kimi e Tongyi Qianwen sono diventati attori importanti nel settore globale dell'intelligenza artificiale. Le aziende americane di intelligenza artificiale hanno modelli di base avanzati, tra cui le serie Claude e GPT.
La distillazione modello in sé non è una tecnica illegale o irragionevole. Gli sviluppatori di intelligenza artificiale possono utilizzare i dati generati dal modello insegnante per addestrare i propri modelli con autorizzazione. Tuttavia, Anthropic ritiene che l'operazione in questione rappresenti un problema serio perché le società interessate sono accusate di ottenere sistematicamente le capacità di Claude senza l'autorizzazione di Anthropic attraverso un gran numero di account falsi, piattaforme di agenzie e meccanismi nascosti di inoltro di dati.
Ancora più importante, Anthropic ritiene che alcune azioni abbiano toccato problemi di sicurezza dei dati degli utenti. Gli utenti che normalmente utilizzano i servizi di intelligenza artificiale pensano solitamente che i dati che inviano a piattaforme come Kimi e DeepSeek verranno elaborati in conformità con le politiche sulla privacy di queste piattaforme. Se la piattaforma inoltra effettivamente queste richieste a un modello di terze parti, gli utenti potrebbero non sapere che i loro dati sono entrati nel sistema di un'altra azienda.
Al momento del rapporto, Alibaba, Dark Side of the Moon, DeepSeek, Xiaomi e Anthropic non hanno risposto immediatamente alle richieste di commento. Il Ministero degli Affari Esteri cinese ha dichiarato di non essere a conoscenza del rapporto pubblicato da Anthropic e ha ribadito che il governo cinese ritiene che l’intelligenza artificiale dovrebbe essere utilizzata a beneficio dell’umanità e si oppone a distorcere i fatti e a diffamare la Cina.
L'incidente divulgato da Anthropic ha anche riemerso l'annosa controversia sulla distillazione del modello nel settore dell'intelligenza artificiale. Per le aziende con modelli di base avanzati, come impedire ai concorrenti di acquisire capacità di modello attraverso l’automazione e le chiamate su larga scala è diventata una questione importante nei settori del business e della sicurezza. Per le aziende produttrici di applicazioni IA, anche il modo in cui gestire i dati degli utenti e se gli utenti debbano essere chiaramente informati del fatto che le richieste vengono inoltrate a modelli di terze parti potrebbero diventare il centro della futura attenzione normativa.
Dal punto di vista della concorrenza del settore, i dati diffusi da Anthropic sono particolarmente degni di nota. Oltre 151 milioni di interazioni relative ad Alibaba, oltre 23 milioni di interazioni relative a Dark Side of the Moon e oltre 12 milioni di interazioni relative a DeepSeek mostrano che la competizione tra modelli di intelligenza artificiale avanzati non riguarda più solo algoritmi e chip nel senso tradizionale, ma si sta estendendo ad aree come i dati di addestramento, l’acquisizione di capacità del modello e la distillazione del modello.
Poiché il divario di capacità tra i vari modelli di IA continua a ridursi, come tracciare una linea chiara tra l'uso legale della tecnologia pubblica, la normale distillazione del modello e la duplicazione non autorizzata di capacità su larga scala diventerà un problema sempre più difficile che l'industria globale dell'IA dovrà affrontare in futuro.
Commenti