Riassunto:
Il dibattito nel settore dell'intelligenza artificiale su "se la velocità di sviluppo debba essere rallentata" si sta infiammando rapidamente e la Cina è stata spinta al centro di questa discussione. Il CEO di Anthropic, Dario Amodei, ha recentemente dichiarato pubblicamente che se il mondo cerca di fissare un limite di velocità allo sviluppo dell’intelligenza artificiale, il problema pratico più grande non è la tecnologia in sé, ma come affrontare la possibilità che concorrenti come la Cina continuino ad accelerare.
Amodei ha rilasciato questa dichiarazione in un'intervista ai media. Non molto tempo fa, aveva appena pubblicato un lungo articolo che aveva attirato l’attenzione di molti, invitando l’industria dell’intelligenza artificiale a rallentare in modo proattivo la velocità di miglioramento delle capacità dei modelli all’avanguardia per guadagnare più tempo per la ricerca sulla sicurezza, i quadri di governance e il controllo dei rischi. Ritiene che il progresso dei modelli su larga scala negli ultimi anni abbia superato significativamente le aspettative di molte persone, soprattutto dopo l'emergere della tendenza dell'intelligenza artificiale a partecipare alla ricerca e allo sviluppo dell'intelligenza artificiale e il miglioramento delle capacità tecniche sta accelerando.
Tuttavia, parlando della fattibilità pratica di questa idea, Amodei ha ammesso che la Cina è il "dilemma più difficile" di fronte all'intero piano. Ha detto che se solo alcuni paesi o aziende scelgono di rallentare mentre altri paesi continuano ad accelerare, allora la parte che rallenta attivamente potrebbe trovarsi in una situazione di svantaggio in termini di concorrenza tecnologica, interessi economici e persino vantaggi militari.
Amodei ritiene che, a lungo termine, la comunità internazionale dovrebbe cercare di cooperare per stabilire una sorta di "meccanismo di limitazione della velocità" per lo sviluppo dell'intelligenza artificiale per evitare una concorrenza disordinata e promuovere le capacità tecnologiche per superare rapidamente il confine di sicurezza. Ma ha anche affermato che tale cooperazione è estremamente difficile perché i vantaggi strategici derivanti dall’essere i primi ad acquisire capacità avanzate di intelligenza artificiale sono enormi. Ammette di non essere nemmeno sicuro che un tale coordinamento globale possa effettivamente essere raggiunto, ma ritiene comunque che sia necessario lavorare in tal senso.
Questa affermazione arriva in un momento in cui le questioni legate alla sicurezza dell'intelligenza artificiale hanno ricevuto costante attenzione. Recentemente, diversi ricercatori di Anthropic e OpenAI hanno espresso pubblicamente la preoccupazione che la velocità di sviluppo dei sistemi di intelligenza artificiale stia superando il progresso della ricerca sulla sicurezza. Alcuni ricercatori hanno addirittura avvertito che il rischio di una grave perdita di controllo nei prossimi anni potrebbe essere maggiore di quanto generalmente riconosciuto dall’opinione pubblica.
Prima che Amodei lanciasse il suo appello al rallentamento, il ricercatore antropico Jacob Coxon aveva già annunciato la sua partenza e aveva criticato pubblicamente l'attuale traiettoria di sviluppo del settore dell'intelligenza artificiale. Ritiene che i principali laboratori di intelligenza artificiale stiano correndo rischi troppo elevati e che questo rischio possa influenzare l’intera società umana.
Allo stesso tempo, la velocità di sviluppo del settore cinese dell'intelligenza artificiale negli ultimi anni ha attirato grande attenzione anche da parte del settore tecnologico statunitense. Negli ultimi mesi, i nuovi modelli rilasciati da un certo numero di società cinesi di intelligenza artificiale hanno continuato a ridurre il divario con i principali prodotti americani, intensificando ulteriormente le discussioni nella Silicon Valley sui cambiamenti nel panorama competitivo globale dell’IA.
Contemporaneamente all'intervento di Amodei, i leader cinesi hanno chiesto l'istituzione di un quadro di governance globale dell'intelligenza artificiale basato sul consenso al vertice BRICS e hanno sostenuto la costruzione di un sistema di cooperazione open source per l'intelligenza artificiale. Ciò ha gradualmente ampliato la questione della governance dell’intelligenza artificiale dal campo della scienza e della tecnologia al livello della politica e della diplomazia internazionali.
Gli analisti hanno sottolineato che il settore dell'intelligenza artificiale si trova attualmente ad affrontare una contraddizione senza precedenti. Da un lato, sempre più aziende e ricercatori chiedono di rafforzare la supervisione e di rallentare l’espansione delle capacità all’avanguardia; d’altro canto i paesi non sono disposti a restare indietro rispetto ai concorrenti in questa corsa tecnologica considerata di importanza strategica.
Allo stesso tempo, due delle principali società di intelligenza artificiale negli Stati Uniti, Anthropic e OpenAI, sono in fase di preparazione per la quotazione. Poiché l’attenzione da parte dei mercati dei capitali, della regolamentazione governativa e dell’opinione pubblica continua ad aumentare, si prevede che il dibattito sulla questione se l’intelligenza artificiale debba continuare ad avanzare a tutta velocità o rallentare in modo proattivo si intensificherà ulteriormente nei prossimi mesi.
Per Amodei, il nocciolo del problema non è solo se la tecnologia può diventare più forte, ma se la società umana può stabilire regole corrispondenti ad una velocità sufficientemente elevata quando la tecnologia continua a diventare più forte. Tra tutte le sfide pratiche, ritiene che come affrontare la concorrenza legata alla Cina sia ancora la più complessa e difficile a cui rispondere in questa discussione sulla governance globale dell’intelligenza artificiale.
Articoli correlati:
Anthropic accusa diverse società cinesi di intelligenza artificiale di distillazione su larga scala. Alibaba, Dark Side of the Moon e DeepSeek sono accusati di decine di milioni di interazioni
Commenti