Riassunto:
Il CEO di Anthropic, Dario Amodei, ha affermato che l'industria dell'intelligenza artificiale deve rallentare lo sviluppo di nuovi modelli e ha citato le crescenti preoccupazioni che l'intelligenza artificiale possa comportare rischi "seri" per gli esseri umani. "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei nostri modelli di intelligenza artificiale", ha scritto sabato in un post sul blog. "I progressi sembrano ancora rapidi e dobbiamo utilizzare saggiamente il tempo che guadagniamo."
Ha citato due fattori principali: la capacità dell'intelligenza artificiale di migliorarsi e un recente incidente che ha coinvolto OpenAI e Hugging Face. In questo incidente, un gruppo di agenti IA ha collaborato tra loro per violare un sito Web di terze parti.
Ha aggiunto: "Deve essere chiaro che controllare il ritmo non significa fermare la formazione del modello o il progresso tecnologico, ma significa garantire che le aziende investano tempo sufficiente nell'adeguamento del modello e nell'adozione di misure di sicurezza, consentendo al tempo stesso a valutatori terzi di confermarlo."
Le preoccupazioni sui gravi rischi posti dall'intelligenza artificiale hanno iniziato a diventare mainstream, in parte a causa delle dimissioni di alto profilo questa settimana di un ricercatore antropico che era preoccupato per i rischi esistenziali dell'intelligenza artificiale e credeva che l'azienda avesse adottato pratiche irresponsabili.
Dario Amodei
Poco dopo aver pubblicato l'articolo, Amodei ha preso la guida di xAI Corp. Elon Musk scrive: "Dario ha ragione."
Anche il CEO di OpenAI, Sam Altman, ha espresso rapidamente la sua opinione, affermando di essere d'accordo con l'affermazione di Amodei secondo cui "dobbiamo controllare il ritmo di sviluppo di modelli all'avanguardia".
"Offrire ai valutatori indipendenti un accesso simile a quello dei dipendenti è un'ottima idea e noi faremo lo stesso", ha scritto in un post su X. "Presto condivideremo ulteriori informazioni."
Durante il boom dell'intelligenza artificiale, i dirigenti dei principali laboratori di intelligenza artificiale hanno messo in guardia sui possibili rischi esistenziali per l'umanità. Questa affermazione viene talvolta respinta come un tentativo di promuovere le capacità del proprio prodotto e di presentarsi come il più adatto a gestire la tecnologia. Lo stesso Amodei ha precedentemente affermato che esiste una probabilità del 25% che le cose vadano "molto, molto male".
Anthropic si è posizionata da tempo come un'azienda focalizzata maggiormente sullo sviluppo dell'intelligenza artificiale in modo responsabile e sicuro per mitigare i potenziali pericoli della tecnologia e massimizzare i suoi benefici sociali. All’inizio di quest’anno, la società si è impegnata a limitare il rilascio del suo modello Mythos dopo aver stabilito che rappresentava una particolare minaccia alla sicurezza informatica. Anthropic ha anche affermato in precedenza che il mondo deve istituire un meccanismo per decidere congiuntamente quando rallentare lo sviluppo di questa tecnologia.
Allo stesso tempo, Anthropic rimane bloccata in una feroce concorrenza con il rivale di lunga data OpenAI, con entrambe le società che sviluppano modelli sempre più sofisticati per aiutare gli utenti aziendali ad automatizzare attività più complesse e preziose. Entrambe le società hanno presentato documenti riservati per la quotazione e si prevede che Anthropic arrivi a Wall Street già quest'anno.
Poco dopo che l'incidente di sicurezza di Hugging Face è venuto alla luce, Anthropic ha rivelato che i suoi modelli avevano compromesso tre organizzazioni durante i test di sicurezza informatica, alimentando ulteriormente le preoccupazioni sulla capacità del laboratorio di intelligenza artificiale di impedire che la sua tecnologia sfuggisse di mano. All'inizio di questa settimana, Anthropic ha dichiarato di aver scoperto una quarta intrusione.
Sebbene nessuna delle intrusioni di agenti, incluso Hugging Face, abbia causato finora perdite significative, Amodei ha affermato di essere preoccupato che "in un periodo compreso tra 6 e 12 mesi, un tale cluster di agenti potrebbe avere la capacità di prendere il controllo dell'intera Internet attraverso una botnet persistente (causando eventualmente perdite nell'ordine di centinaia di miliardi di dollari), e l'entità del danno continuerà da allora in poi ad espandersi."
Anthropic si impegnerà a fornire ai valutatori di terze parti pieno accesso per verificare le misure di sicurezza e segnalare incidenti, ha scritto Amodei. Anthropic avrà presto questi valutatori sul posto, ha detto, fornendo loro scrivanie, badge, laptop aziendali e "un accesso generalmente equivalente al team interno di valutazione del rischio".
Ulteriori misure richiederanno un coordinamento a livello di settore e una cooperazione globale, ha affermato.
"Continuo a credere che l'intelligenza artificiale possa migliorare notevolmente la qualità della vita umana. Il mio desiderio di realizzare questi benefici non è diminuito", ha scritto. "Ma questi vantaggi possono essere ottenuti solo se la tecnologia viene sviluppata nel modo giusto; e finché facciamo buon uso del tempo che acquistiamo, vale la pena prestare un insolito grado di cautela per assicurarci di farlo bene."
Le preoccupazioni crescono
All'inizio di questa settimana, Altman ha affermato che la società sta valutando la possibilità di rallentare lo sviluppo di un'intelligenza artificiale all'avanguardia e che idealmente avrebbe intrapreso un'azione coordinata con l'intero settore.
Lo scienziato capo dell'azienda, Jakub Pachocki, aveva precedentemente pubblicato un articolo in cui metteva in guardia sui pericoli dell'intelligenza artificiale e affermava di ritenere che le aziende dovrebbero "coordinarsi per rallentare lo sviluppo futuro, se necessario".
Il ricercatore di intelligenza artificiale Jacob Coxon si è dimesso martedì, accusando i suoi due ex datori di lavoro, Anthropic e OpenAI, di "rischiare la nostra vita" nella loro corsa allo sviluppo di un'intelligenza artificiale superintelligente. Coxon ha affermato in un post sui social media che gli sviluppatori di intelligenza artificiale credono che la tecnologia potrebbe “ucciderci tutti prima della fine di questo decennio”.
A questo proposito, Evan Hubinger, che attualmente lavora presso Anthropic, ha affermato che lui e altri membri dell'azienda sono effettivamente preoccupati per questo scenario. "Personalmente ritengo che la probabilità che ciò accada nei prossimi dieci anni sia superiore al 10%." Ha scritto su X.
Sam Altman
Già a luglio, più di 1.000 dipendenti delle principali aziende di intelligenza artificiale hanno firmato una petizione chiedendo al governo degli Stati Uniti di sostenere l'istituzione di un meccanismo per aiutare a "controllare consapevolmente" il ritmo di sviluppo dell'intelligenza artificiale per evitare che la tecnologia si sviluppi troppo velocemente.
I modelli di intelligenza artificiale stanno diventando sempre più capaci di eseguire autonomamente attacchi di hacking. Anthropic, OpenAI e Meta hanno tutti rivelato negli ultimi mesi che i loro modelli hanno violato gli ambienti di test, hanno avuto accesso a Internet e hanno compromesso le vittime del mondo reale durante i test.
Amodei ha scritto nell'articolo che una strategia coordinata consentirà alle aziende leader nel settore dell'intelligenza artificiale statunitense di completare il lavoro di sicurezza necessario senza sacrificare alcun vantaggio competitivo. Ha detto che ciò richiederebbe alcune esenzioni antitrust da parte degli Stati Uniti per consentire alle aziende di coordinarsi in aree specifiche.
Ma finora, l'amministrazione Trump ha mostrato poco interesse a inasprire le normative e a porre barriere allo sviluppo dell'intelligenza artificiale.
Commenti