Riassunto:
Secondo il rapporto britannico "Financial Times", Shane Legg, cofondatore di Google DeepMind e capo scienziato dell'AGI, ha recentemente avvertito che le capacità dell'intelligenza artificiale stanno rapidamente migliorando, ma lo sviluppo delle capacità di intelligenza artificiale non deve superare il livello di garanzia della sicurezza. Ha anche confutato il giudizio del presidente di OpenAI Greg Brockman e del CEO di Nvidia Jensen Huang secondo cui "AGI è arrivata".
Legg ha affermato che l'attuale velocità di sviluppo delle capacità di intelligenza artificiale è "molto, molto veloce" e che il settore non può consentire che le capacità avanzino rispetto alle misure di sicurezza. Per quanto riguarda il recente suggerimento avanzato dal CEO di Anthropic Dario Amodei di rallentare il rilascio di modelli all'avanguardia per motivi di sicurezza, ma non sospendere completamente la ricerca e lo sviluppo, Legg ritiene che questa direzione sia "degna di considerazione", ma tutte le parti devono ancora discutere seriamente le specifiche modalità di implementazione.
Legg ha rilasciato la dichiarazione di cui sopra quando DeepMind ha lanciato ufficialmente il DeepMind Institute per studiare l'impiego dell'intelligenza artificiale generale e il suo impatto su scienza, istruzione, società, politica, filosofia e benessere umano. Secondo la definizione di DeepMind, l'AGI è un sistema di intelligenza artificiale che possiede tutte le capacità cognitive del cervello umano.
Nonostante il recente miglioramento significativo delle capacità del modello di intelligenza artificiale, Legg ritiene che sia ancora troppo presto per dichiarare che l'AGI è stata realizzata. Ha affermato di essere ancora fedele alla sua precedente previsione secondo cui la probabilità di raggiungere un “AGI minimo” entro il 2028 è del 50%. Legg fu anche uno dei primi a coniare il termine "AGI".
Dopo che OpenAI ha rilasciato GPT-6 Astra, Brockman ha dichiarato che "siamo ormai entrati nell'era AGI". Huang Renxun ha anche affermato che "l'AGI è arrivata" e si basa sulle capacità di Astra.
Legg ha affermato che anche se organizzazioni diverse hanno definizioni diverse di AGI, non è chiaro se Astra soddisfi gli standard di OpenAI. OpenAI aveva precedentemente definito l’AGI come in grado di completare la maggior parte dei compiti cognitivi di valore economico. Legg ha affermato che questi modelli sono effettivamente in grado di completare alcuni compiti impressionanti, ma a suo avviso le loro capacità non hanno ancora raggiunto la definizione di AGI di OpenAI.
Il DeepMind Institute è co-diretto da Legg, dal presidente di DeepMind Demis Hassabis e dal vicepresidente senior di Google James Manica. Legg ha affermato che ora è necessaria una discussione sociale più ampia poiché il pubblico inizia a prendere sul serio la possibilità di una potente intelligence generale. L'istituto trasformerà la ricerca tecnica di DeepMind in più contenuti comprensibili al pubblico, invitando esperti esterni a partecipare alle discussioni.
L'istituto ha pubblicato i primi tre articoli su argomenti quali la sicurezza dell'intelligenza artificiale, la politica economica e i principi del "nuovo utopismo". Uno degli articoli, scritto dai ricercatori di DeepMind Rohin Shah e Ankar Dragan, puntava il dito sulla velocità del rilascio di GPT-6 Astra.
Due ricercatori ritengono che Astra mostri una "preoccupante tendenza al ribasso" nella trasparenza del suo processo di ragionamento. Le pressioni competitive sulle società di intelligenza artificiale potrebbero minare i loro incentivi per una maggiore trasparenza e la regolamentazione potrebbe svolgere un ruolo in questo ambito.
Tuttavia, l'articolo ritiene che finché nella fase di progettazione del modello verranno aggiunti meccanismi volti a garantire la trasparenza, l'industria potrà continuare a sviluppare modelli più capaci. I ricercatori hanno sottolineato che i modelli di ragionamento più avanzati attualmente possono mostrare parte del processo di ragionamento in un modo che gli esseri umani possano comprendere, il che fornisce una rara finestra al mondo esterno per osservare e studiare il comportamento dell’IA.
Manica ha affermato che esiste un solo concorso per l'intelligenza artificiale a cui Google spera di partecipare, ovvero il concorso per ottenere questa tecnologia nel modo giusto.
Commenti