Riassunto:
OpenAI ha pubblicato martedì un post sul blog affermando che il suo chip di intelligenza artificiale "Jalapeño" (pepe) sviluppato internamente è superiore ad altri attuali sistemi di intelligenza artificiale in termini di efficienza nel completamento delle attività e velocità di risposta. In un incontro informativo con i giornalisti dei media, il vicepresidente dell'hardware di OpenAI Richard Ho ha affermato che Jalapeño raggiunge "entrambi", con una latenza inferiore e un rendimento più elevato, mentre i precedenti sistemi di intelligenza artificiale di solito devono trovare un compromesso tra questi due indicatori.
Questo chip è stato annunciato per la prima volta nel giugno di quest'anno. È un circuito integrato specifico per l'applicazione (ASIC) sviluppato congiuntamente da OpenAI e Broadcom. È progettato principalmente per attività di inferenza dell'intelligenza artificiale, ovvero l'esecuzione di un modello addestrato per eseguire attività o distribuire agenti.
In termini di test delle prestazioni, OpenAI utilizza una piattaforma di test di riferimento chiamata InferenceX, che può essere utilizzata per valutare la capacità dei sistemi di intelligenza artificiale di gestire compiti di ragionamento. Il test ha confrontato il Jalapeño con i superchip Nvidia GB200 e GB300 più performanti dell'epoca. I risultati mostrano che sui tre modelli GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T, Jalapeño può completare da 1,5 a 1,9 volte più lavoro di intelligenza artificiale per watt rispetto al sistema di confronto e il ritardo end-to-end è ridotto da 1,7 a 3,6 volte. Ho affermato che ciò significa che il chip può offrire agli utenti "risposte più rapide, intelligenza più reattiva e un'esperienza di accesso più affidabile man mano che la domanda cresce".
OpenAI prevede di distribuire Jalapeño in "piccoli lotti" prima della fine di quest'anno ed espandere gradualmente la capacità di produzione nel 2027, ma la società non ha rivelato il numero specifico di implementazioni l'anno prossimo. Nonostante i miglioramenti delle prestazioni, Ho ha sottolineato che OpenAI non intende sostituire la sua attuale gamma di chip con Jalapeño e ha affermato che la strategia complessiva di potenza di calcolo dell'azienda include ancora "partner di qualità" come Nvidia. È stato riferito che OpenAI continuerà a sviluppare i prodotti di seconda e terza generazione del chip.
Commenti