Riassunto:
Il 28 ottobre, ora locale, Google ha rilasciato ufficialmente Gemini 4 Carbon, una nuova generazione di modelli di intelligenza artificiale all'avanguardia, concentrandosi sul miglioramento della programmazione del software, della capacità degli agenti di eseguire compiti complessi e delle capacità di difesa della sicurezza della rete. Google ha affermato che il nuovo modello ha compiuto progressi significativi nella scoperta delle vulnerabilità del software, nella verifica dello sfruttamento delle vulnerabilità e nella riparazione dei difetti di sicurezza, ed è in vantaggio rispetto ai modelli di punta di OpenAI e Anthropic in numerosi test di benchmark. Tuttavia, considerando i potenziali rischi che le sue potenti funzionalità di sicurezza di rete possono comportare, Google è attualmente aperta solo ad alcune agenzie di difesa della sicurezza di rete selezionate e non sarà immediatamente disponibile per tutti gli sviluppatori e gli utenti ordinari.
Gemini 4 Carbon è un altro modello all'avanguardia dopo che Google ha lanciato Gemini 4 Argon questo mese. Google ha affermato che il nuovo modello rafforza ulteriormente la generazione di codice, il flusso di lavoro degli agenti e le capacità di elaborazione di attività complesse a lungo termine basate su Argon ed è ottimizzato soprattutto per il campo della sicurezza di rete. L'azienda spera che, migliorando la capacità dell'intelligenza artificiale di scoprire e riparare le vulnerabilità del software, si possa aiutare le aziende a proteggere i propri sistemi in modo più efficace riducendo al contempo il rischio che nuovo codice introduca falle di sicurezza.
In termini di prestazioni complessive, Google ha citato i risultati della valutazione dell'Artificial Analysis Intelligence Index 5.0 rilasciati da Artificial Analysis, affermando che Gemini 4 Carbon si è classificato primo con 59 punti, davanti a Claude Opus 5.5 di Anthropic e GPT-6 Astra di OpenAI. Questo elenco esamina in modo completo le capacità del modello in più dimensioni, ma i tipi di attività e i metodi di valutazione dei diversi benchmark sono diversi, quindi la classifica completa non significa che il modello presenti vantaggi in tutte le applicazioni pratiche.
La sicurezza informatica è al centro di questo lancio. I dati rilasciati da Google mostrano che Gemini 4 Carbon ha ottenuto un punteggio dell'88,2% nel test benchmark SEC-bench Pro, che valuta principalmente la capacità del modello di scoprire le reali vulnerabilità del software; ha ottenuto un punteggio del 54,8% nel test ExploitGym, che viene utilizzato per misurare la capacità del modello di verificare la sfruttabilità delle vulnerabilità e costruire corrispondenti piani di sfruttamento; ha ottenuto un punteggio del 71% nel test CWE-bench, che si concentra sulla valutazione se il modello può proporre soluzioni di riparazione efficaci per i punti deboli di sicurezza identificati.
Queste funzionalità coprono molteplici aspetti chiave del lavoro sulla sicurezza del software. Gli strumenti di sicurezza tradizionali di solito si basano su regole predefinite, caratteristiche di vulnerabilità note e processi di test specifici, mentre ci si aspetta che modelli avanzati di intelligenza artificiale analizzino ulteriormente codici complessi, scoprano difetti nascosti in grandi sistemi software e aiutino gli sviluppatori a comprendere le cause delle vulnerabilità e, infine, generino patch mirate.
Tuttavia, esiste un'importante differenza tra l'individuazione e lo sfruttamento delle vulnerabilità. Essere in grado di identificare i difetti in un programma non significa che il modello sarà in grado di sfruttare con successo questi difetti in un ambiente reale; allo stesso modo, generare un codice di correzione apparentemente ragionevole non significa che abbia eliminato completamente la vulnerabilità. I risultati dei test pubblicati da Google riflettono le prestazioni in condizioni di valutazione specifiche. L'effettivo effetto sulla sicurezza dipende ancora dall'ambiente del codice, dai metodi di test e dalla successiva verifica manuale.
Google ha inoltre affermato che Gemini 4 Carbon ha avuto più del doppio di successo rispetto a Gemini 4 Argon nel generare codice sicuro nei test interni. Il team di Chrome ha inoltre riferito che nelle sue valutazioni interne, Carbon ha prodotto patch di sicurezza di alta qualità significativamente migliori rispetto ai modelli all'avanguardia di altri laboratori. Tuttavia, questi risultati provengono principalmente dall'ambiente di test di Google. Condizioni di valutazione specifiche e attività di test possono influenzare le prestazioni finali e sono ancora necessari test più indipendenti per verificarle.
Oltre alla sicurezza informatica, Gemini 4 Carbon è ottimizzato per attività di ingegneria che richiedono un'esecuzione continua per lunghi periodi di tempo. Google ha affermato che i team interni hanno osservato modelli in funzione per giorni interi, continuando ad affrontare complessi problemi di ingegneria in più fasi dopo molteplici fallimenti e tentativi.
Queste attività possono comportare l'individuazione di bug difficili in basi di codice di grandi dimensioni, la risoluzione di problemi di sistema di basso livello e l'implementazione di modifiche al codice su più moduli. A differenza di un chatbot che deve rispondere solo a una singola domanda, un agente deve elaborare un piano, richiamare strumenti, verificare i risultati e adattare il piano in base al feedback durante l'esecuzione. Quanto più complesso è il compito, tanto più il modello deve mantenere la coerenza contestuale ed evitare di arrendersi prematuramente quando si blocca.
Google ha affermato che quando si affrontano compiti a lungo termine, Carbon è più bravo a identificare i percorsi di fallimento ed evitare scorciatoie inaffidabili per completare l'attività. Nell'effettivo processo di sviluppo, ciò dovrebbe aiutare gli ingegneri a ridurre i tempi di ripetuta risoluzione dei problemi, consentendo all'intelligenza artificiale di intraprendere un lavoro più continuo di manutenzione del software e di debug.
Allo stesso tempo, Google ha sottolineato che il nuovo modello presenta anche miglioramenti in termini di affidabilità. L'azienda afferma che il carbonio riduce le affermazioni infondate di circa la metà rispetto all'Argon. Di fronte a un problema con prove insufficienti o ambiguità, è più probabile che il modello cerchi ulteriormente informazioni, evidenzi contraddizioni tra diverse informazioni o indichi chiaramente quali passaggi non possono ancora essere completati, piuttosto che fornire direttamente una risposta priva di prove.
Per quanto riguarda la difesa dagli attacchi prontamente iniettati, meritano attenzione anche i risultati della valutazione interna pubblicati da Google. Gli attacchi di tipo "hint injection" di solito inducono i sistemi di intelligenza artificiale a deviare dai loro obiettivi di missione originali nascondendo istruzioni dannose in pagine web, file o altri contenuti esterni. Google ha affermato che nel test di iniezione rapida indiretta di Gray Swan, il tasso di successo dell'attacco del carbonio è ulteriormente sceso dallo 0,7% dell'Argon allo 0%, ovvero non ci sono stati casi di successo tra i tentativi di attacco coperti dal test.
Tuttavia, il fatto che nessun attacco sia stato osservato con successo in un singolo benchmark non dimostra che il modello sia resistente a tutti gli attacchi di tipo "hint injection". I metodi di attacco negli ambienti reali possono continuare a cambiare e il modello deve anche essere combinato con misure come la gestione delle autorizzazioni, le restrizioni sulle chiamate agli strumenti, la revisione del contenuto in input e la supervisione manuale per costruire un sistema di sicurezza più affidabile.
Poiché le capacità di Carbon nel campo della sicurezza della rete sono ulteriormente migliorate, Google ha deciso di adottare una strategia di apertura graduale. Il nuovo modello è inizialmente disponibile per un gruppo selezionato di organizzazioni di difesa della sicurezza informatica attraverso il programma Fairwind dell’azienda. Google ha affermato che l'azienda sta partecipando al processo volontario di test pre-rilascio di modelli all'avanguardia promosso dal governo degli Stati Uniti e prevede di continuare ad adattare il meccanismo di protezione della sicurezza in base al feedback dei primi utenti, per poi aprirlo gradualmente a partner più fidati.
Google non ha ancora annunciato la data esatta in cui Carbon sarà aperto a tutti gli sviluppatori, le aziende e gli utenti generali. La società ha affermato che spera di introdurre il modello su più prodotti e servizi il prima possibile dopo aver completato i test necessari e adattato le misure di protezione.
Questa strategia di apertura limitata riflette una vera sfida affrontata dal settore dell'intelligenza artificiale: i modelli che possono aiutare i team di sicurezza a scoprire le vulnerabilità possono essere utilizzati anche da individui malintenzionati per trovare ingressi di attacco o sviluppare strumenti di sfruttamento. Quanto più forte è la capacità del modello, tanto più le aziende devono valutare i rischi legati al duplice uso che potrebbero comportare in diversi scenari di utilizzo.
In termini di prezzo, il prezzo iniziale di Gemini 4 Carbon è lo stesso di Gemini 4 Argon, con addebiti di 2 dollari per milione di token di input e 10 dollari per milione di token di output. Google offre anche uno sconto significativo per la memorizzazione nella cache dei token di input, con uno sconto che va dal 95% al prezzo del token di input. Tuttavia, questo prezzo appartiene al prezzo del periodo promozionale. I prezzi successivi annunciati da Google sono 4 dollari per milione di token di input e 20 dollari per milione di token di output. Il tempo ufficiale di aggiustamento non è stato ancora stabilito.
Dal punto di vista del posizionamento del prodotto, Carbon non è un nuovo modello che persegue semplicemente l'esperienza di chat, ma uno strumento professionale che si concentra maggiormente sull'ingegneria del software complessa, sull'esecuzione continua di attività e sulla difesa della sicurezza della rete. Il suo valore non risiede solo nel saper dare la risposta giusta, ma anche nel poter continuare a portare a termine il lavoro per un periodo di tempo prolungato e nel rispondere adeguatamente quando si riscontrano errori, requisiti ambigui o potenziali rischi per la sicurezza.
Questa versione mostra inoltre che Google sta accelerando il ritmo di iterazione dei modelli all'avanguardia. Poco dopo il lancio di Gemini 4 Argon, Carbon ha ulteriormente migliorato diversi indicatori chiave di prestazione. Per gli utenti aziendali, si prevede che questa rapida iterazione ridurrà il tempo necessario alla tecnologia dell’intelligenza artificiale per entrare negli effettivi processi di sviluppo del software e di operazioni di sicurezza, ma aumenterà anche l’importanza della valutazione indipendente, del monitoraggio continuo e della verifica della sicurezza.
Attualmente, Gemini 4 Carbon ha ottenuto risultati di primo piano in una serie di test benchmark pubblicati da Google, ma le sue prestazioni nel mondo reale devono ancora essere verificate da istituzioni più indipendenti e utenti reali. Man mano che gli attacchi informatici diventano sempre più sofisticati, l’intelligenza artificiale può diventare un importante strumento difensivo per i team di sicurezza e può anche aumentare l’automazione della scoperta e dello sfruttamento delle vulnerabilità. Google ha scelto di aprire il modello prima alle agenzie di difesa selezionate, sperando di valutare ulteriormente i suoi rischi rilasciando al contempo le sue capacità tecniche e stabilendo gradualmente i corrispondenti limiti di utilizzo.
Commenti