Riassunto:
Oltre a migliorare le capacità del modello, si è scoperto che l'ultimo Claude Opus 5.5 di Anthropic ha anche aggiunto uno speciale meccanismo di restrizione per scenari all'avanguardia di sviluppo di modelli linguistici di grandi dimensioni. Quando gli utenti utilizzano Opus 5.5 per sviluppare il kernel sottostante per una nuova generazione di modelli di intelligenza artificiale, il sistema potrebbe non utilizzare direttamente l'ultimo Opus 5.5, ma ricorrere automaticamente a Opus 5 con funzionalità inferiori. La cosa più degna di nota è che attualmente si è scoperto che questa serie di restrizioni sembra prendere di mira alcuni acceleratori di intelligenza artificiale di Huawei e Amazon.
Anthropic ha spiegato nel documento di supporto di Opus 5.5 che il modello ha un classificatore dedicato per lo "sviluppo LLM all'avanguardia" e copre una gamma limitata di attività, come lo sviluppo del kernel per alcuni acceleratori di machine learning. Lo scopo di questo tipo di classificatore è determinare se la richiesta attuale dell'utente implica lo sviluppo del modello linguistico di grandi dimensioni all'avanguardia stesso. Una volta attivate le condizioni pertinenti, Claude tornerà automaticamente dall'Opus 5.5 all'Opus 5.
Il cosiddetto core AI si riferisce a una serie di operazioni di calcolo al livello più basso quando si esegue un modello di intelligenza artificiale. Il kernel è responsabile di decidere come il modello utilizza le risorse di calcolo e la memoria sul chip e come eseguire varie operazioni matematiche. Poiché queste operazioni determinano direttamente il modo in cui i calcoli matematici vengono mappati sul processore effettivo, la progettazione del kernel influisce direttamente sulla velocità di esecuzione, sull'utilizzo della memoria, sulla precisione e sul costo di inferenza di modelli linguistici di grandi dimensioni. Per l'addestramento e l'esecuzione dei modelli di intelligenza artificiale più avanzati, l'ottimizzazione del kernel per specifici acceleratori di intelligenza artificiale è spesso un passaggio fondamentale.
Questa limitazione è stata scoperta per la prima volta dagli utenti nella documentazione di supporto dopo il rilascio ufficiale di Opus 5.5. Anthropic ha già utilizzato classificatori in alcuni modelli per identificare richieste potenzialmente rischiose, e questa volta ha ulteriormente applicato meccanismi simili allo sviluppo di modelli di intelligenza artificiale all’avanguardia.
Anthropic ha chiarito che queste restrizioni non influenzeranno la stragrande maggioranza dell'intelligenza artificiale tradizionale, della ricerca sull'apprendimento automatico e delle attività di programmazione ordinarie. Solo quando sono coinvolte un numero limitato di capacità di sviluppo LLM all’avanguardia, il sistema può attivare il meccanismo di rollback. Pertanto, per gli sviluppatori ordinari, l'uso di Opus 5.5 nella programmazione quotidiana, nello sviluppo di applicazioni AI e nella ricerca sull'apprendimento automatico non sarà sostanzialmente influenzato.
Ma dopo ulteriori test, alcuni utenti hanno scoperto che Opus 5.5 sembra riconoscere specificamente alcuni chip AI. Secondo gli attuali risultati dei test pubblici, questo set di classificatori coinvolge almeno l'Ascend 950DT di Huawei e il chip AI Trainium3 sviluppato da Amazon. Detto questo, se gli sviluppatori utilizzano Opus 5.5 per sviluppare kernel sottostanti per modelli linguistici di grandi dimensioni all'avanguardia per questi chip, i modelli potrebbero passare automaticamente a Opus 5.
Non sorprende che i chip Huawei siano inclusi in questa restrizione. Negli ultimi anni Anthropic ha alzato la guardia contro la capacità delle entità cinesi di ottenere i suoi modelli e considera la distillazione modello come un’importante questione di sicurezza e sicurezza nazionale. La cosiddetta distillazione del modello si riferisce al richiamare un modello più capace in grandi quantità, estrarne le caratteristiche di comportamento e capacità e quindi utilizzare questi dati per addestrare un altro modello. Il recente rapporto di Threat Intelligence di Anthropic ha rivelato che la società ha scoperto che diverse organizzazioni legate alla Cina hanno svolto attività di distillazione non autorizzate contro i modelli della serie Opus di Claude, rafforzando quindi ulteriormente i meccanismi di identificazione dell'account, intercettazione delle richieste e protezione dei processi di inferenza.
Anthropic ha inoltre aggiunto misure anti-distillazione più rigorose nell'Opus 5.5, inclusa la limitazione agli utenti API di modificare il contesto di conversazione precedente del modello per evitare di estrarre informazioni sul ragionamento interno del modello manipolando ripetutamente il contesto. La società ha affermato che tali misure sono principalmente rivolte ad attività di estrazione di capacità industriale su larga scala, piuttosto che al normale utilizzo da parte degli utenti ordinari.
Pertanto, quando Opus 5.5 rileva richieste di sviluppo di modelli all'avanguardia che coinvolgono l'acceleratore AI di Huawei, il meccanismo di restrizione potrebbe avere evidenti origini tecniche e geografiche. Tuttavia, al momento non ci sono prove sufficienti per dimostrare se Anthropic abbia progettato questo insieme di regole appositamente per Huawei o se includa tipi specifici di acceleratori di intelligenza artificiale nel loro insieme nell’ambito delle restrizioni.
Ciò che è davvero sorprendente è che anche Amazon Trainium 3 sembra essere interessato allo stesso modo.
Amazon non è solo una grande azienda globale di cloud computing, ma anche un importante partner e investitore di Anthropic. Lo stesso modello Claude di Anthropic viene fornito ai clienti aziendali tramite Amazon Web Services, mentre la serie Trainium è un chip di addestramento e inferenza AI sviluppato in modo indipendente da Amazon per ridurre la dipendenza del cloud computing di intelligenza artificiale dalle GPU Nvidia. Pertanto, se Opus 5.5 limita Trainium3 allo sviluppo di kernel di modelli all'avanguardia, Amazon potrebbe invece essere interessata dalla stessa serie di restrizioni tecniche di Huawei.
Non è chiaro se questa situazione sia stata intenzionale da Anthropic o se il classificatore abbia commesso un errore di valutazione inaspettato durante l'identificazione di uno specifico chip AI. Test rilevanti mostrano che Opus 5.5 sembra essere in grado di identificare diverse piattaforme hardware e decidere se consentire l'ultimo modello in base al contenuto della richiesta, ma Anthropic non ha spiegato pubblicamente perché Trainium3 attiverebbe le restrizioni contemporaneamente a Huawei 950DT.
Questa situazione è particolarmente degna di nota perché Anthropic ha precedentemente sottolineato che i suoi modelli possono essere ampiamente forniti attraverso piattaforme cloud come AWS, e Opus 5.5 è ufficialmente sbarcato su piattaforme come Amazon Web Services, Google Cloud e Microsoft Azure. Se in futuro questa limitazione si estenderà a più acceleratori di intelligenza artificiale per l’addestramento di modelli avanzati, le partnership tra società di cloud computing e società di modelli di intelligenza artificiale potrebbero richiedere un coordinamento più complesso tra capacità del modello, supporto hardware e vincoli di sicurezza.
Da un punto di vista tecnico, l'approccio di Anthropic questa volta riflette anche una nuova tendenza: mentre il modello di intelligenza artificiale stesso inizia ad aiutare gli esseri umani a progettare e ottimizzare la prossima generazione di modelli di intelligenza artificiale, i produttori di modelli devono iniziare a distinguere tra due tipi di attività: "utilizzare l'intelligenza artificiale per sviluppare applicazioni" e "utilizzare l'intelligenza artificiale per sviluppare un'intelligenza artificiale più forte".
Per i normali programmatori, lasciare che Opus 5.5 aiuti a scrivere applicazioni, eseguire il debug del codice o condurre esperimenti di apprendimento automatico di solito non comporta restrizioni speciali. Ma se lo stesso modello viene utilizzato per sviluppare il nucleo informatico sottostante della prossima generazione di modelli linguistici di grandi dimensioni all’avanguardia, Anthropic potrebbe ritenere che questo sia entrato in un altro livello di rischio e far ricadere automaticamente la richiesta sul modello precedente.
Ciò significa che il modello di intelligenza artificiale stesso sta gradualmente diventando parte dell'infrastruttura di ricerca e sviluppo sull'intelligenza artificiale. In passato, limitare l’uso dei modelli significava principalmente limitare alcuni contenuti pericolosi o aree sensibili; ora, i produttori di modelli stanno iniziando a considerare ulteriormente questioni come “chi può utilizzare gli ultimi modelli per realizzare modelli di prossima generazione” e “se gli ultimi modelli dovrebbero aiutare i concorrenti a ottimizzare la propria infrastruttura informatica AI”.
Al momento, Anthropic non ha dichiarato pubblicamente il motivo per cui Trainium3 attiva le restrizioni contemporaneamente a Huawei 950DT, né è stato chiarito se questo meccanismo continuerà ad esistere nelle versioni future. Man mano che sempre più aziende iniziano a sviluppare i propri acceleratori di intelligenza artificiale, questa limitazione su hardware specifico e attività di sviluppo di modelli all’avanguardia diventerà probabilmente un nuovo problema che i produttori di modelli di intelligenza artificiale dovranno affrontare quando devono trovare un compromesso tra sicurezza, prevenzione della distillazione di capacità ed ecologia dell’hardware.
Commenti