Riassunto:
Mentre la concorrenza nel campo dell'intelligenza artificiale continua a inasprirsi, Cina e Stati Uniti stanno cercando di istituire un nuovo meccanismo di coordinamento della sicurezza. Secondo l'ultimo accordo raggiunto tra le due parti, la Cina e gli Stati Uniti hanno concordato di stabilire un canale di comunicazione bilaterale mirato specificamente ai rischi della "Super Intelligence" (SI) per rafforzare il futuro scambio di informazioni e la gestione del rischio nel campo dell'intelligenza artificiale all'avanguardia.
Questo accordo è considerato uno degli importanti risultati del recente dialogo sino-americano sull'intelligenza artificiale. Secondo le informazioni diffuse dagli Stati Uniti, le due parti continueranno a promuovere la costruzione di meccanismi pertinenti nei prossimi mesi e prevedono di tenere una riunione di follow-up del nuovo "Dialogo sulla super intelligence Cina-USA" prima di novembre.
Il contesto alla base dell'istituzione di questo meccanismo è che le capacità dell'intelligenza artificiale si stanno evolvendo a una velocità senza precedenti. Man mano che continuano ad emergere modelli di grandi dimensioni sempre più potenti e agenti di intelligenza artificiale autonomi, i governi sono sempre più preoccupati per la sicurezza informatica, la protezione delle infrastrutture critiche e i rischi che i futuri sistemi superintelligenti potrebbero comportare.
In effetti, Cina e Stati Uniti sono in contatto da diversi mesi su questioni relative alla sicurezza dell'intelligenza artificiale. Già quest’estate le due parti hanno iniziato a preparare uno speciale meccanismo di dialogo sull’intelligenza artificiale e a discutere temi come i rischi dei modelli all’avanguardia, la prevenzione degli attacchi informatici e la futura cooperazione normativa.
Secondo le informazioni divulgate in precedenza, gli Stati Uniti hanno sempre sperato di istituire un sistema di comunicazione e allarme rapido per gli attacchi informatici guidati dall'intelligenza artificiale e di promuovere i grandi laboratori di intelligenza artificiale affinché si assumano maggiori responsabilità per le questioni di sicurezza. Allo stesso tempo, la Cina considera anche la cooperazione nel campo dell’intelligenza artificiale una questione importante nelle relazioni bilaterali e spera di mantenere canali di dialogo in campo tecnico.
Gli addetti ai lavori del settore hanno sottolineato che, a differenza dei negoziati passati su commercio, tariffe o settori tecnologici tradizionali, il focus di questa discussione si è rivolto alla possibile emergenza di sistemi super-intelligenti in futuro. La cosiddetta super intelligenza si riferisce solitamente a un sistema di intelligenza artificiale le cui capacità superano il livello degli esperti umani in molteplici campi. È considerata da molti istituti di ricerca come una delle direzioni di sviluppo tecnologico più degne di nota nei prossimi dieci decenni.
Mentre le capacità dei modelli all'avanguardia continuano a migliorare, i paesi sono sempre più preoccupati che i sistemi pertinenti possano essere utilizzati per lanciare attacchi informatici complessi, manipolare infrastrutture critiche, automatizzare attività di intelligence o produrre altri impatti imprevedibili sulla sicurezza. Pertanto, il rafforzamento dei meccanismi di comunicazione è considerato una misura importante per ridurre gli errori di valutazione e migliorare le capacità di gestione del rischio.
Gli Stati Uniti hanno dichiarato che il nuovo meccanismo fornirà un canale dedicato per lo scambio di informazioni tra le due parti e aiuterà i due paesi a mantenere la comunicazione di fronte a incidenti di IA potenzialmente gravi. Gli analisti ritengono che questo accordo sia in una certa misura simile al meccanismo di comunicazione delle crisi istituito in passato nel campo della sicurezza nucleare, tranne per il fatto che l’attenzione si è spostata dai tradizionali rischi militari alle nuove sfide portate dall’intelligenza artificiale.
Allo stesso tempo, questo sviluppo è visto anche come un segnale di limitato allentamento nel rapporto in materia di intelligenza artificiale tra Cina e Stati Uniti. Negli ultimi anni, la concorrenza tra le due parti si è intensificata su questioni quali i controlli sulle esportazioni di chip, le capacità informatiche avanzate e lo sviluppo della tecnologia dell’intelligenza artificiale. L'istituzione di un meccanismo di dialogo formale questa volta dimostra che le due parti credono ancora che la comunicazione in determinati settori sia realisticamente necessaria.
Tuttavia, i meccanismi pertinenti non significano che i due paesi rallenteranno sulle questioni legate alla concorrenza tecnologica. L’industria generalmente ritiene che in futuro la Cina e gli Stati Uniti continueranno a competere ferocemente nei campi della ricerca e dello sviluppo dell’intelligenza artificiale, dei chip avanzati, dei data center e delle infrastrutture informatiche. Ma allo stesso tempo, entrambe le parti hanno iniziato a rendersi conto che, man mano che l’intelligenza artificiale si avvicina gradualmente alla soglia delle capacità critiche, è nell’interesse comune stabilire un canale di comunicazione del rischio minimo.
Per l'industria globale dell'intelligenza artificiale, questo accordo ha un certo significato simbolico. Mentre sempre più paesi iniziano a discutere su come gestire sistemi di intelligenza artificiale più potenti in futuro, Cina e Stati Uniti, le due maggiori potenze di intelligenza artificiale, hanno stabilito per la prima volta un meccanismo di comunicazione formale sulla “superintelligenza”, segnando che la governance della sicurezza dell’intelligenza artificiale sta iniziando a passare dalle discussioni teoriche alla fase di coordinamento internazionale.
Anche se resta da vedere come funzionerà il futuro meccanismo, poiché la competizione globale sull'intelligenza artificiale continua ad accelerare, Cina e Stati Uniti hanno inviato un segnale chiaro: anche se la competizione continuerà, è necessario mantenere canali di dialogo sui rischi della superintelligenza.
Commenti