Riassunto:
Jacob Coxon, un ex ricercatore di intelligenza artificiale che ha lavorato per OpenAI e Anthropic, ha recentemente lanciato un forte avvertimento contro la concorrenza globale dell'intelligenza artificiale. Nella sua ultima intervista, ha affermato di essere "sicuro al 90%" che la Cina abbia collocato personale di intelligence all'interno di OpenAI e Anthropic, e ritiene che poiché la concorrenza nella ricerca e nello sviluppo di super-intelligence continua ad aumentare, è quasi impossibile per le agenzie di intelligence di vari paesi ignorare queste aziende che padroneggiano le tecnologie più all'avanguardia.
Coxon ha affermato che, a suo avviso, i migliori laboratori di intelligenza artificiale del mondo sono diventati un obiettivo importante della competizione geopolitica. Poiché la tecnologia avanzata dell’intelligenza artificiale potrebbe avere in futuro un enorme impatto sull’economia, sull’esercito, sulla sicurezza informatica e sui campi della ricerca scientifica, i governi di tutto il mondo hanno forti incentivi per ottenere informazioni rilevanti. Secondo lui non è realistico presumere che queste istituzioni non siano affatto intaccate.
Oltre ad esprimere preoccupazione sulle questioni di sicurezza, Coxon ha anche rivelato alcuni dettagli culturali all'interno di Anthropic. Ha rivelato che molti dipendenti di Anthropic si autodefinirebbero “Formiche”. Questo nome deriva dall'abbreviazione e dall'uso derivato del nome dell'azienda Anthropic ed è anche considerato da alcuni dipendenti come un'identità interna per perseguire congiuntamente l'obiettivo della superintelligenza.
Coxson ha già ricevuto ampia attenzione per aver criticato pubblicamente la direzione del settore dell'intelligenza artificiale. Come ricercatore che lavora presso OpenAI e Anthropic da molti anni, è da tempo coinvolto in ricerche legate ai sistemi avanzati di intelligenza artificiale. Dopo aver lasciato Anthropic, ha pubblicato una serie di articoli pubblici, accusando l’industria di promuovere la ricerca e lo sviluppo della super-intelligence a una velocità eccessiva, mentre le questioni di sicurezza non hanno ricevuto un’attenzione commisurata al progresso tecnologico.
Ritiene che le aziende attualmente leader nel settore dell'intelligenza artificiale siano bloccate in una feroce concorrenza, sperando di essere le prime a costruire sistemi super-intelligenti con capacità di auto-miglioramento. Per competere per la leadership tecnologica, le aziende continuano ad aumentare la velocità della ricerca e dello sviluppo, ma l’industria deve ancora trovare una soluzione matura su come garantire che i sistemi futuri siano sempre sotto il controllo umano.
Coxon ha affermato che alcuni ricercatori al centro del settore credono sinceramente che l'emergere di sistemi intelligenti sovrumani nei prossimi anni non sia una fantasia lontana, ma un vero percorso di sviluppo. Ha avvertito che le persone generalmente sottovalutano la velocità di sviluppo e il potenziale impatto delle tecnologie correlate. Una volta che i sistemi con un elevato grado di autonomia acquisiscono maggiori capacità, potrebbero avere la capacità di invadere i sistemi informatici, controllare le infrastrutture critiche e ottenere l’accesso alle risorse e all’influenza del mondo reale.
Le discussioni sui rischi della superintelligenza hanno continuato ad accendersi di recente. Molti ricercatori e manager di OpenAI, Anthropic e altri importanti istituti di ricerca hanno discusso pubblicamente i rischi esistenziali che l’intelligenza artificiale può comportare. Alcuni addetti ai lavori del settore sostengono l’istituzione di un quadro normativo di sicurezza più rigoroso e il rallentamento dello sviluppo di modelli all’avanguardia per affrontare innanzitutto i problemi di controllabilità.
Tuttavia, alcuni operatori del settore ritengono che un'eccessiva enfasi sui rischi estremi possa ignorare l'enorme potenziale portato dall'intelligenza artificiale in campi quali la ricerca scientifica, l'assistenza medica, l'istruzione e il miglioramento della produttività. Ritengono che rafforzare le misure di sicurezza e continuare a promuovere l’innovazione tecnologica non siano incoerenti.
Mentre aziende come OpenAI, Anthropic, Google DeepMind e xAI continuano a investire ingenti somme di denaro nella creazione di modelli di prossima generazione, i dibattiti sulla sicurezza dell'intelligenza artificiale, sulla concorrenza nazionale e sulla direzione futura della superintelligenza continuano ad intensificarsi. Le osservazioni di Coxon sulla penetrazione dell’intelligence e sulla competizione tra superintelligence hanno spinto ancora una volta l’industria globale dell’intelligenza artificiale al centro dell’attenzione dell’opinione pubblica.
Commenti