Riassunto:
Con il salto esponenziale nelle capacità dei sistemi di intelligenza artificiale all'avanguardia e l'avanzamento accelerato della tecnologia dell'intelligenza generale artificiale (AGI), il team di ricerca di Google e il suo istituto di ricerca e sviluppo sull'intelligenza artificiale Google DeepMind hanno recentemente annunciato ufficialmente la creazione del "DeepMind Institute". L’organizzazione mira a costruire una piattaforma di dialogo globale che riunisca forze interdisciplinari e prospettive diverse per ampliare la dimensione delle discussioni pubbliche sui confini di sicurezza dell’AGI, sui meccanismi di governance sociale e sulla distribuzione inclusiva dei dividendi.
Nel contesto della rapida evoluzione dell'IA generativa e degli agenti autonomi (agenti AI), le discussioni su quando verrà realizzata l'AGI e su come controllare i rischi si sono evolute da deduzioni accademiche a questioni fondamentali della politica scientifica e tecnologica globale. Tuttavia, per molto tempo, le principali discussioni sull’intelligenza artificiale generale sono state spesso monopolizzate da una manciata di ingegneri, investitori e decisori a porte chiuse nei principali laboratori della Silicon Valley. La partecipazione esterna all’impatto sociale a lungo termine dell’evoluzione tecnologica, ai cambiamenti nelle strutture del lavoro e all’equilibrio degli interessi interregionali è ancora limitata. La creazione del DeepMind Research Institute è proprio quella di rompere questo contesto chiuso di élite tecnica e introdurre voci globali più diversificate.
È stato riferito che il nuovo istituto è guidato congiuntamente da una serie di leader senior e studiosi di alto livello, tra cui il cofondatore di DeepMind e capo scienziato dell'AGI Shane Legg. Essendo uno dei principali pionieri della tecnologia che ha definito per primo il concetto di AGI, Legg sostiene da tempo la creazione di valutazioni di sicurezza lungimiranti e di quadri etici, promuovendo al contempo scoperte nella potenza di calcolo e negli algoritmi. Il nuovo istituto si baserà sulla ricerca interdisciplinare, non solo assorbendo le intuizioni di informatici ed esperti cognitivi, ma anche collegando ampiamente economisti, scienziati sociali, esperti legali, politici e rappresentanti delle organizzazioni della società civile per studiare e giudicare congiuntamente l’impatto sistemico che la superintelligenza può causare.
Nel programma specifico di ricerca e azione, il DeepMind Research Institute prevede di concentrarsi su tre aree principali: in primo luogo, la verifica della sicurezza AGI e la teoria del controllo dalla dimensione tecnica, esplorando meccanismi per affrontare scenari di sicurezza estremi come il deragliamento di agenti autonomi e il fallimento dell'allineamento; in secondo luogo, una governance inclusiva ed equa delle tecnologie all’avanguardia, studiando come garantire il futuro dell’AGI. L’enorme produttività e il valore economico creato possono essere ampiamente condivisi da tutta l’umanità, anziché esacerbare i divari geografici e di classe; terzo, promuovere il dialogo normativo globale e assistere le agenzie decisionali pubbliche in vari paesi nel costruire una base di governance che tenga conto dell’innovazione tecnologica e della prevenzione dei rischi.
Gli analisti del settore hanno sottolineato che in un momento in cui i principali giganti dell'intelligenza artificiale stanno generalmente accelerando la commercializzazione di modelli di grandi dimensioni all'avanguardia e la corsa agli armamenti per la potenza informatica, Google DeepMind ha scelto di assumere un ruolo guida nella creazione di una piattaforma di discussione accademica e politica indipendente, dimostrando un riesame della responsabilità sociale a lungo termine dell'intelligenza artificiale all'avanguardia. Spingendo il dibattito sull’AGI da un’unica mania tecnologica a un dialogo inclusivo, razionale e multidimensionale in tutta la società, ci si aspetta che l’agenzia fornisca importanti progetti ideologici e supporto da parte di think tank per l’implementazione della conformità e la governance globale delle future tecnologie super-intelligenti.
Commenti