Riassunto:
Mentre il settore tecnologico globale continua ad aumentare la costruzione di infrastrutture di intelligenza artificiale, sta gradualmente emergendo un nuovo collo di bottiglia. Il problema non è più che non sia possibile acquistare chip avanzati, ma che anche se si ottengono un gran numero di GPU ad alte prestazioni, i data center potrebbero non avere abbastanza energia per metterle in funzione.
Secondo i rapporti, AWS, l'unità di cloud computing di Amazon, sta acquistando i più recenti sistemi server AI di Nvidia a un ritmo senza precedenti. Secondo la pianificazione interna, una volta AWS avrebbe dovuto ricevere rack di server NVIDIA GB300 per un valore di circa 5 miliardi di dollari e prevede di continuare ad acquistare apparecchiature correlate in futuro su una scala mensile di circa 3 miliardi di dollari. Tuttavia, alcune apparecchiature non vengono messe in uso immediatamente dopo la consegna, ma vengono temporaneamente immagazzinate in magazzini o strutture di trasferimento.
La ragione di questo fenomeno non è una domanda insufficiente, ma il fatto che, sebbene alcuni data center dispongano già di spazio di installazione, non dispongono di una capacità di alimentazione sufficiente per gestire questi sistemi di intelligenza artificiale ad alta potenza. L'industria definisce questo tipo di attrezzatura che è stata acquistata ma che non è temporaneamente in grado di funzionare come "GPU oscura". Questo concetto può riferirsi all'hardware inattivo a causa di vincoli di alimentazione o infrastruttura, oppure può essere utilizzato per descrivere risorse di elaborazione AI distribuite ma sottoutilizzate.
Negli ultimi anni, la sfida principale che il settore dell'intelligenza artificiale deve affrontare è stata la scarsità di chip avanzati. Le principali aziende tecnologiche competono per la quota GPU di Nvidia e spesso i chip scarseggiano. Ma man mano che le aziende vincolano in anticipo le risorse della catena di approvvigionamento, nuovi vincoli iniziano a spostarsi sulle reti elettriche e sulle infrastrutture energetiche. Per gli operatori di grandi data center, l’accesso ad alimentatori stabili e adeguati sta diventando importante quanto l’accesso ai chip.
Per garantire di non rimanere indietro nella futura competizione sui chip, Amazon ha modificato il suo modello di approvvigionamento. Secondo le procedure precedenti, le aziende di solito ricevono e pagano formalmente i rack dei server dopo che questi arrivano al data center pronti per l'uso. Con il nuovo meccanismo di "ricezione anticipata delle scaffalature", Amazon completerà prima il processo di ricezione e pagamento, anche se l'attrezzatura non è stata ancora installata nella sede operativa finale.
Questo approccio aiuta a bloccare in anticipo le scarse risorse hardware, ma significa anche che le aziende devono investire molto denaro in anticipo e questi dispositivi non possono generare entrate prima di essere ufficialmente online e fornire servizi di cloud computing ai clienti. Di conseguenza, la tensione tra ingenti spese in conto capitale e rendimenti ritardati si sta intensificando.
Amazon prevede di investire quest'anno circa 220 miliardi di dollari in spese in conto capitale sull'intelligenza artificiale e sull'infrastruttura del cloud computing, superando la portata di molti concorrenti tecnologici. Allo stesso tempo, il flusso di cassa libero dell'azienda è stato sottoposto a notevoli pressioni ed è diventato negativo per la prima volta negli ultimi anni. Per AWS, occupare in anticipo le risorse hardware chiave è vista come una scelta strategica, anche se alcune apparecchiature non sono temporaneamente in grado di funzionare.
Gli analisti hanno sottolineato che l'attuale focus sullo sviluppo del settore dell'intelligenza artificiale sta cambiando. Due anni fa, l'industria si è concentrata su chi potesse ottenere più GPU NVIDIA. Ora sempre più aziende stanno scoprendo che la vera risorsa scarsa potrebbe non essere i chip stessi, ma le reti energetiche e di potenza necessarie per supportare il funzionamento di questi chip.
Mentre la portata dei modelli di intelligenza artificiale continua ad espandersi e la domanda di potenza di calcolo continua a crescere, l'alimentazione, la capacità di trasmissione e i cicli di costruzione dei data center stanno gradualmente diventando fattori chiave che influenzano lo sviluppo del settore. Il gran numero di GPU temporaneamente inattive riflette anche la realtà dal lato: la competizione sull’intelligenza artificiale non è solo una battaglia per i chip, ma anche una battaglia per l’energia e le infrastrutture.
Commenti