Riassunto:
Esperti nei settori della sicurezza nazionale, della politica scientifica e tecnologica e dell'intelligenza artificiale degli Stati Uniti e della Cina hanno recentemente proposto congiuntamente una proposta interessante, sostenendo che, attingendo all'esperienza di gestione della sicurezza nucleare della Guerra Fredda, istituire un meccanismo di sicurezza simile a quello nel campo delle armi nucleari per i sistemi avanzati di intelligenza artificiale che potrebbero apparire in futuro, al fine di ridurre i rischi causati dalla perdita di controllo tecnologico, da errori di valutazione e dall'escalation della concorrenza internazionale.
Questo suggerimento appare in un risultato di ricerca formato dopo discussioni tra esperti di entrambi i paesi. Il rapporto ritiene che, man mano che le capacità dell’intelligenza artificiale continuano a migliorare rapidamente, i paesi hanno iniziato ad affrontare alcuni problemi simili a quelli degli inizi dell’era nucleare, vale a dire che una tecnologia con un enorme impatto potenziale si sta sviluppando rapidamente, ma le corrispondenti regole internazionali, i canali di comunicazione e i sistemi di controllo del rischio non sono stati ancora completamente stabiliti.
Gli esperti che hanno partecipato allo studio hanno sottolineato che in futuro sistemi di intelligenza artificiale più potenti potrebbero svolgere un ruolo sempre più importante in settori quali la sicurezza della rete, il comando militare, l'analisi dell'intelligence, la ricerca biotecnologica e la gestione delle infrastrutture critiche. Quando questi sistemi si comportano in modo imprevisto, vengono sfruttati in modo dannoso o implementati in modo errato, il loro impatto può oltrepassare i confini nazionali e avere un impatto sull’ambiente di sicurezza globale.
A tal fine, il rapporto raccomanda che Cina e Stati Uniti facciano riferimento alla loro esperienza storica nella gestione dei rischi nucleari e istituiscano gradualmente un meccanismo di sicurezza multilivello. Questi includono il rafforzamento dello scambio di informazioni, la creazione di canali di comunicazione in caso di crisi, la collaborazione sulla valutazione del rischio tecnologico e l’esplorazione di regimi di test di trasparenza e sicurezza per sistemi di intelligenza artificiale all’avanguardia.
Gli esperti ritengono che, sebbene l'intelligenza artificiale e le armi nucleari non siano la stessa cosa, entrambe hanno un elevato significato strategico e implicano concorrenza internazionale e questioni di sicurezza globale. Pertanto, spesso è più efficace stabilire in anticipo un quadro di protezione quando la tecnologia è in fase di rapido sviluppo piuttosto che aspettare che i rischi siano completamente esposti prima di agire.
Il rapporto sottolinea inoltre in particolare che il pericolo maggiore in futuro potrebbe non derivare dall'intelligenza artificiale in sé, ma da valutazioni errate causate dalla sfiducia tra i paesi. Ad esempio, quando una parte non è in grado di determinare con precisione quali capacità sta sviluppando l’altra parte e a quale livello, è più probabile che reagisca in modo eccessivo, fraintenda o addirittura inasprisca la concorrenza.
Alcuni esperti hanno quindi proposto di esplorare canali di comunicazione simili al "meccanismo della hotline" durante la Guerra Fredda per consentire ai paesi di mantenere un contatto immediato quando si verificano eventi importanti che coinvolgono l'intelligenza artificiale ed evitare inutili crisi di sicurezza causate dall'asimmetria informativa.
Allo stesso tempo, i ricercatori ritengono che dovrebbe essere istituito un meccanismo di revisione della sicurezza più rigoroso per la formazione e l'implementazione dei modelli di intelligenza artificiale più avanzati. In futuro, alcuni sistemi con capacità estremamente elevate potrebbero dover essere sottoposti a test indipendenti e supervisione continua e stabilire un sistema di segnalazione di comportamenti anomali per rilevare potenziali rischi il prima possibile.
Il rapporto sottolinea che l'attuale sistema di governance globale dell'intelligenza artificiale è ancora nelle sue fasi iniziali. Sebbene i paesi abbiano introdotto politiche normative e norme di settore diverse, esistono ancora evidenti lacune a livello di collaborazione transfrontaliera. La velocità di sviluppo della tecnologia dell’intelligenza artificiale sta accelerando, il che significa che la finestra per la cooperazione internazionale potrebbe non esistere per molto tempo.
Gli esperti che hanno partecipato alla discussione ritengono generalmente che la Cina e gli Stati Uniti, in quanto due attori più importanti nel campo dell'intelligenza artificiale globale, abbiano responsabilità speciali nella governance del rischio. Se entrambe le parti riuscissero a raggiungere un maggiore consenso sugli standard di sicurezza, sulla valutazione del rischio e sulla comunicazione delle crisi, ciò contribuirà a ridurre la possibilità di gravi incidenti tecnici di sicurezza in futuro.
Tuttavia, gli esperti ammettono anche che promuovere tale cooperazione non è facile nell'attuale contesto internazionale. La concorrenza tecnologica, le considerazioni sulla sicurezza nazionale e gli interessi industriali influenzeranno il relativo processo di discussione. Pertanto, preferiscono iniziare in aree relativamente pragmatiche come la gestione del rischio e la protezione della sicurezza, piuttosto che cercare accordi normativi completi fin dall’inizio.
Gli analisti hanno sottolineato che questo rapporto riflette l'evoluzione del dibattito sulla governance dell'intelligenza artificiale. In passato, l’attenzione di tutte le parti si concentrava maggiormente sulla privacy, sul diritto d’autore e sugli impatti sull’occupazione, ma ora sempre più esperti stanno iniziando a rivolgere la loro attenzione alle questioni di sicurezza a lungo termine e di stabilità strategica globale.
Mentre le capacità dell'intelligenza artificiale continuano a migliorare, come istituire un meccanismo di sicurezza efficace mantenendo al tempo stesso la vitalità dell'innovazione sta diventando un nuovo argomento affrontato dalla comunità scientifica e tecnologica globale e dagli ambienti politici. Attingere all’esperienza di gestione del rischio accumulata nell’era nucleare potrebbe diventare un’importante direzione di riferimento per il futuro quadro di governance dell’intelligenza artificiale.
Commenti