Riassunto:
Anthropic ha rivelato durante il roadshow IPO che utilizza Claude Mythos Preview per aiutare ad adattare gli acceleratori AI di AMD. Una società ha affermato che Claude AI ha impiegato solo 3 giorni affinché il modello interno completasse tempestivamente l'elaborazione testi su AMD MI355X e raggiungesse livelli di prestazioni utilizzabili.
Claude ha portato o scritto quasi tutto il codice del kernel della GPU in questo sforzo con un intervento umano minimo. Questo caso ha innescato discussioni sull'ecosistema software CUDA di NVIDIA e sulla concorrenza con i chip AI. CUDA è il fossato di NVIDIA, ma resta da vedere quanto potrà durare questo fossato nell'era dell'IA.
Quando i modelli di intelligenza artificiale vengono eseguiti su architetture di chip diverse, devono adattarsi al codice informatico sottostante, allo stack software e alle funzionalità hardware. Per ottenere prestazioni pratiche, gli ingegneri spesso ottimizzano anche le operazioni a matrice, l'accesso alla memoria e le comunicazioni multi-chip.
Un'azienda ha affermato che, in base alla sua esperienza passata, l'utilizzo di metodi di ingegneria tradizionali per integrare nuove piattaforme di chip richiede solitamente a decine di ingegneri diversi mesi (in realtà da 6 a 12 mesi), ma con la partecipazione dell'intelligenza artificiale, questo processo può essere ridotto a soli 3 giorni.
CUDA di Nvidia, che riunisce un gran numero di strumenti di sviluppo, librerie di calcolo e software ottimizzato per GPU, rappresenta da tempo una base importante per lo sviluppo dell'intelligenza artificiale, poiché l'adattamento del codice originariamente ottimizzato per hardware specifico ad altri chip richiede l'investimento di una grande quantità di risorse ingegneristiche.
Una volta che l'intelligenza artificiale partecipa al trapianto del codice sottostante, può aiutare gli ingegneri a scrivere e adattare i kernel GPU più velocemente e i costi e i tempi necessari alle aziende per accedere a diverse piattaforme di chip avranno l'opportunità di diminuire. In questa fase, i chip effettivamente adattati dall'azienda A includono, ma non sono limitati a, NVIDIA, AMD, Google TPU e Amazon Trainium.
AMD e Anthropic hanno precedentemente annunciato che distribuiranno fino a 2 GW di potenza di elaborazione GPU basata sulla serie AMD MI450. L’inizio della prima implementazione da 1 GW è previsto nella prima metà del 2027. Entrambe le parti utilizzeranno Claude anche per ottimizzare i carichi di lavoro delle GPU AMD e accelerare lo sviluppo del software ROCm.
Commenti