Riassunto:
NVIDIA ha recentemente annunciato la tecnologia di memoria personalizzata a larghezza di banda elevata NVHBM (NVIDIA High Bandwidth Memory). A differenza delle tradizionali soluzioni HBM che integrano controller di memoria su chip di calcolo, NVHBM inserisce le funzioni correlate nel die di base dello stack 3D HBM. Nvidia prevede di adottare la tecnologia nelle future GPU ed espanderla ai clienti XPU di terze parti tramite NVLink Fusion.
L'architettura tradizionale HBM solitamente distribuisce controller di memoria sul die di calcolo, occupando così una preziosa area di silicio che potrebbe altrimenti essere utilizzata per le unità di calcolo. NVHBM mira a migliorare contemporaneamente la larghezza di banda, l'efficienza energetica e l'area disponibile del die di calcolo spostando il controller all'interno dello stack HBM. Secondo i dati forniti da NVIDIA, rispetto allo standard HBM4E, NVHBM può ottenere un aumento fino al 30% nella larghezza di banda della memoria, una riduzione del 15% nel consumo energetico HBM e consentire al die di elaborazione del processore di ottenere fino al 25% di area disponibile aggiuntiva.
I risparmi in termini di spazio derivano principalmente dall'interfaccia della memoria fisica riprogettata. La HBM standard utilizza connessioni di interfaccia più ampie, che amplieranno lo spazio di confezionamento; Il PHY personalizzato di NVHBM può ridurre l'area I/O fino al 67% rispetto a JEDEC HBM4E. Interfacce più strette semplificano inoltre il routing dell'interposer, liberando fino all'80% di spazio aggiuntivo sul silicio disponibile nel layout complessivo. NVIDIA sottolinea che l'impronta PHY ridotta significa minori vincoli di instradamento sull'interposer, il che è particolarmente importante per l'integrazione di più set di stack HBM accanto a die di elaborazione di grandi dimensioni.
In termini di consumo energetico, la riduzione del 15% del consumo energetico HBM non è solo significativa nel miglioramento dell'efficienza, ma libera anche un maggiore margine di dissipazione del calore per il chip di calcolo. Questo vantaggio è particolarmente importante per implementazioni e data center su scala aziendale: quando migliaia di unità di elaborazione vengono eseguite contemporaneamente in centinaia di rack, i miglioramenti dell'efficienza energetica nei singoli componenti sono notevolmente amplificati. NVIDIA prende come esempio un data center con un XPU da 2000 W e una scala di potenza totale di 1 GW. Il margine energetico risparmiato può teoricamente supportare l'implementazione di un massimo di 15.000 XPU aggiuntivi.
Vale la pena ricordare che Samsung ha recentemente lanciato un nuovo prodotto Hot Chips. Alla conferenza del 2026 è stato confermato che HBM4E si sta preparando a fornire una tariffa single-pin di 16 Gbps, che rappresenta un ulteriore miglioramento rispetto all'attuale versione da 14 Gbps. L'attuale HBM4E da 14 Gbps fornisce 3,6 TB/s di larghezza di banda per stack tramite 2048 pin, mentre la versione da 16 Gbps può aumentare questo valore a 4 TB/s. Se a questo si aggiunge l'aumento della larghezza di banda del 30% dichiarato da Nvidia, si prevede che la larghezza di banda teorica di un singolo gruppo di NVHBM raggiungerà circa 5,2 TB/s.
NVIDIA ha dichiarato che NVHBM accetterà la verifica da parte di più fornitori di memoria per semplificare il processo di certificazione dei fornitori per i clienti. Annapurna Labs, una filiale di Amazon, è diventata il primo partner a confermare che collaborerà con NVIDIA per promuovere NVHBM.
Commenti