Brin parla di Gemini 4: lo sviluppo dell'AI di Google accelera e i modelli intraprendono la strada dell'auto-miglioramento

Riassunto:

Secondo "Business Insider",

Google potrebbe avvicinarsi a un momento critico nel campo dell'intelligenza artificiale: modello di auto-miglioramento.

Brin

Questo concetto è chiamato auto-miglioramento ricorsivo (RSI), in cui l'intelligenza artificiale aiuta a sviluppare sistemi di intelligenza artificiale più avanzati, innescando un effetto volano e formando un ciclo in continua accelerazione che guida lo sviluppo di nuovi modelli sempre più velocemente.

Brin ha indicato la serie di modelli Google Flash lanciati prima del rilascio di Gemini 4 come prova del fatto che questa tendenza è in atto. Ha detto che la società "sta iniziando a intraprendere un percorso ciclico con RSI".

"Ora, i nostri ricercatori e i nostri modelli hanno iniziato a lavorare insieme per creare la versione successiva del modello." Lo ha detto durante la tavola rotonda. Google ha condiviso il contenuto della discussione mercoledì.

Altri all'interno di Google sembrano essere d'accordo con Brin. Vihan Jain, responsabile del lavoro di auto-miglioramento ricorsivo di Gemini presso Google DeepMind, ha pubblicato un articolo sulla piattaforma X e ha parlato di quanto profondamente il modello Argon giochi un ruolo nel suo processo di evoluzione iterativa.

Ha scritto: "Quando le tue esigenze post-allenamento passano dalla richiesta di chip originali alla richiesta di quote di utilizzo dell'Argon, sai che il volano RSI è passato a una nuova marcia."

Brin è sempre più coinvolto nel progetto Google Gemini e sta usando la sua influenza come cofondatore per indirizzare le risorse verso i progetti che ritiene più efficaci, spingendo l'azienda a prestare maggiore attenzione alla RSI.

Nella tavola rotonda, Brin ha affermato di essere entusiasta del ritmo attualmente mostrato dai team di Google e ha affermato che quando le persone hanno visto il video sul rilascio di Argon, Google era effettivamente passata a diversi modelli successivi.

Anthropic e OpenAI hanno inoltre affermato che l'intelligenza artificiale potrebbe essere sul punto di entrare nella fase RSI. Un nuovo rapporto pubblicato questa settimana dalla società di intelligenza artificiale Gladstone AI spiega come varie società di intelligenza artificiale si stanno muovendo verso la RSI. La maggior parte dei ricercatori intervistati per il rapporto, provenienti da aziende come Anthropic, OpenAI e DeepMind, ritiene che l’auto-miglioramento ricorsivo inizierà entro i prossimi 3-12 mesi. Senza l’intervento del governo, hanno affermato, il processo avrebbe potuto iniziare prima.

In un rapporto sulla sicurezza rilasciato per il nuovo modello Argon, Google ha affermato che alcuni aspetti del ciclo di sviluppo dell'IA vengono automatizzati. Il rapporto afferma: "Gli agenti IA sono ora diventati assistenti che possono migliorare notevolmente l'efficienza, responsabili della scrittura della maggior parte del codice nell'ambiente operativo reale e della correzione delle vulnerabilità, ma le modifiche al codice devono ancora essere riviste manualmente prima dell'invio."

Tuttavia, l'RSI è al centro degli avvertimenti emessi dai ricercatori sull'intelligenza artificiale il mese scorso. Credono che senza adeguate garanzie gli esseri umani potrebbero perdere il controllo della tecnologia.