Riassunto:
Anthropic rifiuta di sottoporre il suo ultimo modello all'Artificial Intelligence Safety Institute (AISI) del Regno Unito per i test prima del rilascio del nuovo prodotto. La mossa ha sollevato preoccupazioni all’interno del governo britannico sul fatto che le aziende tecnologiche stiano seguendo la linea protezionistica dell’IA dell’amministrazione Trump.
L'azienda da mille miliardi di dollari, che si sta preparando per un'importante IPO nelle prossime settimane, ha lanciato la scorsa settimana il suo ultimo modello, Claude Mythos 5.1, definendolo il modello più capace nel campo delle scienze della vita e della sicurezza informatica.
Ma questa è la prima volta che il modello è stato aperto solo a istituzioni statunitensi accreditate e l'Artificial Intelligence Security Institute (AISI) del Regno Unito non è stato in grado di accedervi. AISI è l'organizzazione leader a livello mondiale nel campo della valutazione all'avanguardia di modelli di grandi dimensioni.
Molti funzionari del governo britannico hanno affermato che l'AISI non è riuscito a ottenere i diritti di accesso prima del rilascio del modello, il che ha scatenato l'allarme all'interno di Whitehall (il governo centrale britannico) e dell'istituto. L’AISI è la merce di scambio più importante del Regno Unito nella corsa globale all’intelligenza artificiale.
Un membro del governo ha dichiarato: "I funzionari della sicurezza nazionale sono preoccupati per questo. In realtà non stanno testando Mythos 5.1. C'è molta ansia da tutte le parti... Sono preoccupati che questo costituirà un precedente e che l'AISI non avrà più accesso agli ultimi modelli in futuro."
Negli ultimi mesi, l'amministrazione Trump ha assunto una posizione sempre più rigorosa nei confronti del settore dell'intelligenza artificiale, introducendo ampi controlli sulle esportazioni e vietando temporaneamente a tutti gli stranieri (compresi i dipendenti delle società statunitensi di intelligenza artificiale) l'accesso ai modelli di punta di Anthropic.
Fonti hanno rivelato che alcune persone all'interno di Whitehall credono che Anthropic abbia rifiutato di aprire la nuova versione del modello Mythos ad AISI su indicazione del governo degli Stati Uniti, ma questa speculazione non è stata confermata. AISI, fondata tre anni fa, ha già ottenuto il nuovo modello OpenAI Astra per la valutazione in anticipo prima del suo rilascio ufficiale questo mese.
Anthropic ha rifiutato di commentare. La settimana scorsa la società ha dichiarato che si sta “coordinando con il governo degli Stati Uniti per espandere il più presto possibile l’apertura del modello a più partner nazionali ed esteri”.
Nel giugno di quest'anno, il governo degli Stati Uniti ha implementato controlli sulle esportazioni di Fable e Mythos, due modelli di Anthropic incentrati sulla sicurezza della rete, vietando agli stranieri di utilizzare la tecnologia. L'incidente è avvenuto dopo l'introduzione dei controlli sopra menzionati.
Gli Stati Uniti hanno scoperto che il modello presentava una vulnerabilità "jailbreak", ovvero un metodo in grado di aggirare le barriere di sicurezza integrate nel software, e hanno immediatamente implementato questo controllo. In seguito alla scoperta, Anthropic ha rimosso per diverse settimane il suo modello all’avanguardia dai mercati globali.
Questo incidente ha intensificato il conflitto tra la Casa Bianca e la Silicon Valley. La Silicon Valley ha criticato il governo degli Stati Uniti per aver adottato norme di emergenza temporanee sull’intelligenza artificiale all’avanguardia.
Questa mossa ha anche attirato l'opposizione di molti governi e i paesi interessati hanno accusato gli Stati Uniti di punire gli alleati attraverso divieti. La Commissione Europea, il braccio esecutivo dell’UE, all’epoca aveva avvertito che i rischi per la sicurezza erano una “sfida condivisa” e che le misure adottate “non dovevano costituire una discriminazione nei confronti dei paesi partner”.
I funzionari governativi britannici sono chiaramente consapevoli che se il Regno Unito non sarà in grado di ottenere i modelli di intelligenza artificiale più all'avanguardia, il paese non solo dovrà affrontare implicazioni sulla sicurezza, ma anche l'economia potrebbe soffrirne.
I media hanno riferito il mese scorso che il Cabinet Office, responsabile del coordinamento degli affari governativi, ha ordinato una valutazione urgente del rischio che i normali consumatori e le imprese potrebbero non essere più in grado di utilizzare l'ultima versione dei modelli di intelligenza artificiale.
Il rapporto di Anthropic con il governo degli Stati Uniti è teso dall'inizio di quest'anno. La società era stata precedentemente in una situazione di stallo con il Dipartimento della Difesa degli Stati Uniti sui termini contrattuali e gli Stati Uniti successivamente l’hanno identificata come un’entità a rischio della catena di fornitura.
Negli ultimi mesi, i rapporti tra il principale laboratorio di intelligenza artificiale degli Stati Uniti e parti dell'amministrazione Trump sembrano essersi allentati, con entrambe le parti che lavorano a stretto contatto sul rilascio dei modelli Mythos e Fable.
Il Cabinet Office britannico ha dichiarato: "L'Artificial Intelligence Safety Institute (AISI) continua a lavorare a stretto contatto con i partner del settore, tra cui Anthropic, per migliorare la sicurezza dei modelli."
Commenti