Riassunto:
Sebbene gli Stati Uniti e la Cina abbiano una concorrenza strategica in molti campi, secondo quanto riportato dai media tecnologici, gli Stati Uniti stanno cercando di istituire un meccanismo di notifica di sicurezza con la Cina per inviarsi reciprocamente avvisi tempestivi in caso di pericolosi incidenti di intelligenza artificiale che potrebbero rappresentare gravi minacce alla sicurezza nazionale.
Questa idea è stata proposta congiuntamente dal Consiglio Atlantico e da Security Exploration International. L’obiettivo principale di questo meccanismo è garantire che i due paesi possano contattarsi tempestivamente prima che gravi incidenti legati alla sicurezza dell’intelligenza artificiale si trasformino in crisi geopolitiche o conflitti militari, stabilendo speciali canali di allerta precoce. Il rapporto sottolinea che, a causa della rapida evoluzione della tecnologia dell’intelligenza artificiale, è molto probabile che i sistemi automatizzati causino conseguenze gravi e inaspettate senza il controllo umano diretto, quindi è fondamentale stabilire tali ponti di comunicazione.
Secondo la proposta, il meccanismo di notifica si concentra su quattro categorie principali di scenari ad alto rischio:
In primo luogo, il sistema di intelligenza artificiale autonomo perde il controllo e provoca gravi danni nel mondo reale;
In secondo luogo, gli incidenti legati alla sicurezza dell'IA che coinvolgono armi di distruzione di massa come armi nucleari, armi chimiche o armi biologiche;
In terzo luogo, la fuga accidentale di modelli di intelligenza artificiale ad alto rischio o di tecnologie di base correlate;
In quarto luogo, gli attacchi alle reti IA su larga scala prendono di mira le infrastrutture critiche e causano colpi devastanti.
L'analisi degli esperti ha sottolineato che l'idea di istituire questo meccanismo è molto simile alla chiamata telefonica diretta della "linea rossa" stabilita dagli Stati Uniti e dall'Unione Sovietica durante la Guerra Fredda per prevenire lo scoppio di una guerra nucleare. Sebbene le aziende tecnologiche e gli istituti di ricerca in Cina e negli Stati Uniti abbiano già tenuto un dialogo preliminare sugli standard di sicurezza dell’IA e sulla gestione del rischio, se questa cooperazione può essere formalmente elevata a meccanismo di sicurezza a livello governativo, ridurrà senza dubbio in modo significativo il rischio di gravi crisi internazionali causate da errori di valutazione tecnica e fornirà un importante supporto alla governance globale dell’IA.
Commenti