Riassunto:
Le ultime notizie sulla catena di fornitura mostrano che i partner Intel si stanno preparando a creare una versione personalizzata con 512 GB di capacità di memoria video basata sulla scheda acceleratrice GPU serie D. Se la notizia è vera, questo diventerà uno dei prodotti di accelerazione AI con la più alta capacità di memoria sul mercato e rafforzerà ulteriormente il posizionamento di Intel nel campo del ragionamento dell'intelligenza artificiale.
Secondo le fonti che hanno dato la notizia, questi prodotti non sono i modelli standard ufficiali di Intel, ma sono ampliati e sviluppati da partner sulla base della piattaforma GPU serie D esistente. Il suo principale punto di forza è aumentare in modo significativo la capacità di memoria per soddisfare le crescenti esigenze di memoria di inferenza di modelli linguistici di grandi dimensioni, generazione avanzata di recupero (RAG) e distribuzione di intelligenza artificiale a livello aziendale.
Negli ultimi anni, con il rapido sviluppo dell'intelligenza artificiale generativa, l'importanza della capacità di memoria video ha continuato ad aumentare. Sebbene le prestazioni di calcolo della GPU siano ancora un indicatore chiave, per l'inferenza di modelli di grandi dimensioni, spesso è più importante se il modello più grande può essere completamente caricato nella memoria video. Per molti utenti aziendali, una capacità di memoria video sufficiente è ancora più pratica della potenza di calcolo massima.
La capacità di memoria video della maggior parte delle schede acceleratrici AI attualmente sul mercato varia da decine di GB a oltre 200 GB. Se alla fine uscirà la presunta versione da 512 GB, consentirà a un'unica scheda di ospitare modelli linguistici più ampi, ridurre la necessità di comunicazione tra dispositivi e migliorare l'efficienza dell'inferenza.
Gli analisti ritengono che l'obiettivo principale di questo tipo di prodotto non sia il mercato della formazione, ma il mercato dell'inferenza aziendale in rapida crescita. Poiché sempre più aziende iniziano a implementare servizi di intelligenza artificiale localizzati, la capacità di eseguire modelli di grandi dimensioni su un’unica scheda di accelerazione è diventata un importante punto di vendita per attirare i clienti.
Allo stesso tempo, la concorrenza nel settore dell'intelligenza artificiale per le memorie di grande capacità continua ad aumentare. L'ultima generazione di prodotti IA di Nvidia continua ad aumentare la capacità di HBM e AMD sta anche promuovendo GPU per data center con specifiche di memoria più elevate. Se Intel lanciasse la versione da 512 GB del prodotto tramite i suoi partner, si prevede che otterrà un vantaggio competitivo differenziato in termini di costi e capacità.
Tuttavia, al momento, notizie rilevanti provengono ancora dalle rivelazioni sulla catena di fornitura e Intel non ha annunciato ufficialmente alcun prodotto della serie D con GPU da 512 GB. Pertanto, le specifiche specifiche, i tempi di lancio e le prestazioni effettive devono ancora essere confermate ufficialmente.
Se questo prodotto viene finalmente lanciato, significa che il focus della concorrenza nel mercato dell'hardware AI si sta gradualmente spostando dalla semplice competizione per la potenza di calcolo alla capacità completa di "potenza di calcolo più capacità di memoria". Nell'era futura dell'inferenza di modelli di grandi dimensioni, disporre di una scheda acceleratore per data center in grado di ospitare modelli più grandi potrebbe diventare un fattore chiave nelle decisioni di acquisto aziendali.
Commenti