Riassunto:
Sebbene una volta sia stato riportato sul mercato che NVIDIA aveva pianificato di ridurre la configurazione HBM dell'acceleratore AI Rubin di prossima generazione da uno stack a 12 strati a uno stack a 8 strati, le ultime notizie sulla catena di fornitura mostrano che si prevede che i prodotti della serie Rubin saranno ancora dominati da soluzioni HBM4 a 12 strati e che il mercato delle memorie a larghezza di banda elevata potrebbe dover affrontare una nuova tornata di sostanziali aumenti di prezzo.
Secondo i risultati del sondaggio sulla catena industriale citato da Counterpoint Research, la stragrande maggioranza dei prodotti dell'architettura Rubin manterrà ancora il design HBM4 impilato a 12 strati originariamente previsto. Questo è diverso dalle voci precedenti secondo cui Nvidia si starebbe preparando a passare ad una configurazione HBM4 a 8 strati su larga scala.
Secondo la tabella di marcia tecnica ufficiale di NVIDIA, la GPU Rubin sarà dotata di 12 strati di memoria HBM4 impilata. Una singola GPU ha una capacità di memoria massima di 288 GB e può raggiungere una larghezza di banda di memoria fino a 22 TB/s. Per gli attuali compiti di addestramento e inferenza di modelli linguistici su larga scala, la capacità di memoria e la larghezza di banda sono ancora indicatori chiave che determinano le prestazioni. Pertanto, l'industria ritiene che Nvidia abbia pochi incentivi a scendere a compromessi sulle specifiche principali.
I media coreani hanno precedentemente riferito che Nvidia ha chiesto a Samsung Electronics e SK Hynix di aumentare la fornitura di prodotti HBM4 a 8 strati. Le ragioni principali includono la resa produttiva, il controllo della dissipazione del calore e la pressione sulla catena di fornitura. Poiché HBM4 aumenta la larghezza dell'interfaccia di memoria a 2048 bit e richiede l'impilamento verticale di 12 strati di chip DRAM, la sua complessità di produzione è molto superiore a quella delle precedenti generazioni di prodotti.
Tuttavia, le ultime notizie sottolineano che queste due affermazioni non sono necessariamente contraddittorie tra loro. Gli esperti del settore ritengono che Nvidia potrebbe utilizzare HBM4 a 8 strati in alcuni prodotti per alleviare la pressione sulla capacità produttiva, ma il principale prodotto Rubin per il mercato AI di fascia alta manterrà comunque la configurazione HBM4 a 12 strati.
Allo stesso tempo, maggiori sfide provengono dalla situazione della domanda e dell'offerta nel mercato HBM. Con la continua espansione delle infrastrutture di intelligenza artificiale, la HBM è diventata una delle risorse più scarse nel settore globale dei semiconduttori.
La società di ricerche di mercato TrendForce prevede che entro il 2027 il prezzo di vendita medio dei prodotti di memoria con larghezza di banda elevata potrebbe aumentare del 121% su base annua. La ragione principale che guida l’aumento dei prezzi non è la carenza di offerta nel senso tradizionale, ma il miglioramento della struttura del prodotto. Poiché il più costoso HBM4 sostituirà gradualmente l'HBM3E e i successivi prodotti HBM4E entreranno nel mercato, il prezzo di vendita medio complessivo aumenterà in modo significativo.
L'istituto di ricerca ha inoltre sottolineato che anche se NVIDIA espandesse l'uso dell'HBM4 a 8 strati, potrebbe non essere in grado di ridurre i costi della memoria. Poiché ogni stack HBM richiede la configurazione di costosi chip logici di base (Base Dies), quando il numero di strati di stack viene ridotto da 12 a 8, il costo degli stessi chip di base deve essere ripartito su un minor numero di strati di storage, il che può portare ad un aumento dei costi di capacità unitaria.
I dati mostrano che entro il 2027, il prezzo per capacità Gb dei prodotti HBM a 8 layer potrebbe addirittura essere superiore dal 10% al 20% rispetto a quello dei prodotti HBM a 12 layer. Ciò significa che il vantaggio principale derivante dalla riduzione del numero di strati di impilamento potrebbe essere quello di migliorare la capacità di approvvigionamento e l’efficienza produttiva, piuttosto che ridurre direttamente i costi di approvvigionamento.
Gli analisti ritengono che, man mano che l'intelligenza artificiale generativa, l'addestramento di modelli di grandi dimensioni e la costruzione di data center IA entrano in una nuova fase, la domanda del mercato di memorie a larghezza di banda elevata è ancora in rapida crescita. Per NVIDIA, il mantenimento della configurazione HBM4 a 12 layer significa maggiori difficoltà di produzione e costi di approvvigionamento, ma può garantire che la piattaforma Rubin continui a offrire vantaggi in termini di larghezza di banda e capacità di memoria leader del settore.
Con l'ingresso sul mercato della piattaforma Rubin previsto per il 2027, la concorrenza tra i chip IA ad alte prestazioni e la catena di fornitura HBM potrebbe intensificarsi ulteriormente, e la memoria a larghezza di banda elevata sta diventando uno dei fattori chiave che incidono sul costo delle infrastrutture IA di prossima generazione.
Commenti