Riassunto:
Google ha recentemente annunciato l'espansione della sua linea di prodotti di chip di intelligenza artificiale e il lancio di due nuove unità di elaborazione tensore (TPU) progettate specificamente per diversi scenari applicativi, denominate TPU 8tx e TPU 8i Max. Questi due prodotti sono sviluppati sulla base dell'architettura TPU esistente di ottava generazione di Google e sono progettati per soddisfare le crescenti esigenze dei clienti aziendali per la sicurezza dei dati e attività di inferenza di intelligenza artificiale su larga scala.
Tra questi, TPU 8tx si concentra sui settori con requisiti estremamente elevati di protezione della privacy e sicurezza dei dati, tra cui agenzie governative, servizi finanziari, sanità medica e altri settori rigorosamente regolamentati. Google ha affermato che il prodotto introduce funzionalità informatiche riservate per proteggere i pesi dei modelli e le informazioni sensibili durante l'elaborazione dei dati per evitare l'esposizione ad accessi non autorizzati.
Per raggiungere questo obiettivo, TPU 8tx funziona insieme ai processori AMD e integra profondamente le funzioni di crittografia a livello hardware. A differenza delle soluzioni tradizionali che richiedono la decrittografia dei dati in memoria prima di eseguire i calcoli, la nuova soluzione può migliorare significativamente la sicurezza durante l’elaborazione dei dati sensibili e soddisfare le esigenze delle aziende di implementare sistemi di intelligenza artificiale ad alta sicurezza.
Un altro nuovo prodotto, TPU 8i Max, è appositamente progettato per applicazioni di modelli di grandi dimensioni che richiedono finestre di contesto estremamente lunghe. Negli ultimi anni, con il rapido sviluppo dell’intelligenza artificiale generativa e della tecnologia degli agenti AI, sempre più modelli devono elaborare enormi quantità di testo, codice o dati contemporaneamente, ponendo così requisiti più elevati in termini di capacità di memoria e prestazioni di inferenza.
Secondo i rapporti, TPU 8i Max può supportare finestre di contesto più lunghe migliorando la potenza di calcolo e le risorse di memoria, consentendo ai modelli di intelligenza artificiale di analizzare più contenuti in un'unica richiesta. Questa funzionalità è particolarmente importante per scenari quali la generazione di codici complessi, il ragionamento matematico, la ricerca scientifica e lo sviluppo di farmaci. Può aiutare il modello a conservare più informazioni di base e migliorare la qualità del completamento delle attività.
Amin Wahdat, responsabile dell'infrastruttura AI di Google, ha affermato che questi due chip non sono prodotti di nuova architettura, ma modelli derivati basati sull'attuale TPU di ottava generazione, appositamente ottimizzati per soddisfare le esigenze dei clienti. L'azienda ritiene che invece di sviluppare un chip generico che tenti di coprire tutte le esigenze del mercato, sia meglio creare più versioni professionali per scenari specifici per fornire agli utenti un valore maggiore.
All'inizio di quest'anno, Google ha rilasciato TPU 8t e TPU 8i nella serie TPU di ottava generazione. Il primo è orientato verso attività di addestramento di modelli su larga scala, mentre il secondo è ottimizzato per l'inferenza a bassa latenza. Con l'aggiunta di TPU 8tx e TPU 8i Max alla gamma, la famiglia TPU di ottava generazione di Google si è estesa a quattro prodotti, coprendo più segmenti come training del modello, inferenza sicura, inferenza a bassa latenza e inferenza di contesto ultra-lungo.
Gli analisti hanno sottolineato che questa nuova versione del prodotto riflette il fatto che l'infrastruttura di intelligenza artificiale si sta spostando dal perseguimento puramente della scalabilità della potenza di calcolo alla soddisfazione di esigenze aziendali più reali. Man mano che gli agenti di intelligenza artificiale, l’intelligenza artificiale generativa a livello aziendale e i modelli a lungo contesto diventano sempre più popolari, la sicurezza, la capacità di memoria e l’efficienza del ragionamento stanno diventando nuovi obiettivi competitivi dopo la potenza di calcolo.
Google ha originariamente sviluppato TPU principalmente per supportare i propri servizi di intelligenza artificiale, e ora è stato aperto a clienti esterni in affitto come parte importante della sua attività di cloud computing. Attualmente, il TPU è diventato una delle piattaforme di elaborazione AI più importanti oltre alle GPU NVIDIA e viene utilizzato da molte grandi aziende di intelligenza artificiale e clienti di cloud computing per addestrare e implementare modelli avanzati.
Con il lancio del nuovo modello, Google spera di migliorare ulteriormente la propria competitività nel mercato delle infrastrutture di intelligenza artificiale e di fornire un supporto hardware sottostante più mirato per agenti IA di prossima generazione e sistemi di ragionamento complessi.
Commenti