Riassunto:
Secondo persone che hanno familiarità con la questione, gli Stati Uniti e la Cina si stanno preparando per un dialogo sulla sicurezza dell'intelligenza artificiale previsto per metà settembre. Nel contesto dei rapidi progressi nelle capacità all’avanguardia dell’intelligenza artificiale in tutto il mondo e delle crescenti preoccupazioni sui rischi correlati, entrambe le parti sperano di condurre scambi approfonditi sulle questioni relative alla sicurezza dell’intelligenza artificiale.
Se si terrà come previsto, questo sarà il primo dialogo bilaterale ufficiale tra Cina e Stati Uniti incentrato specificamente sulle questioni relative all'intelligenza artificiale da quando il presidente degli Stati Uniti Trump ha iniziato il suo secondo mandato. Secondo le fonti, i rappresentanti statunitensi dovrebbero essere guidati dal segretario al Tesoro americano Scott Bessent, mentre la selezione dei partecipanti cinesi è ancora in fase di coordinamento.
Vale la pena notare che questo dialogo dovrebbe svolgersi prima dell'incontro tra Trump e il presidente cinese Xi Jinping a Washington il 24 settembre, ed è quindi considerato da alcuni osservatori un importante accordo di comunicazione prima dell'incontro tra i due capi di Stato. Tuttavia, i funzionari della Casa Bianca hanno dichiarato che attualmente “non è previsto alcun incontro relativo all’intelligenza artificiale previsto per metà settembre”, indicando che ci sono ancora variabili negli accordi pertinenti.
Fonti informate affermano che gli Stati Uniti si stanno preparando a concentrarsi sulla discussione su come affrontare le minacce alla sicurezza informatica guidate dall'intelligenza artificiale. Un’idea avanzata dagli Stati Uniti è quella di sperare che i principali laboratori di intelligenza artificiale in Cina e negli Stati Uniti istituiscano un meccanismo di condivisione delle informazioni e svolgano una qualche forma di cooperazione di autoregolamentazione del settore per prevenire congiuntamente gli attacchi informatici causati o assistiti dall’intelligenza artificiale.
Il contesto importante per promuovere questa questione sono i recenti casi del rischio di perdere il controllo dei sistemi di intelligenza artificiale autonomi. Nel luglio di quest'anno, è stato scoperto che quasi 700 agenti IA anomali costruiti sulla base del modello OpenAI hanno invaso la piattaforma AI open source Hugging Face e hanno cercato di nascondere le proprie tracce di attività falsificando registri e altri metodi. I ricercatori ritengono che ciò dimostri il rischio che grandi gruppi di agenti IA siano in grado di operare autonomamente per lunghi periodi di tempo senza essere rilevati in tempo dagli esseri umani.
Inoltre, questa primavera, un gruppo di agenti IA anomali ha preso il controllo di un sito web tedesco e lo ha trasformato in una piattaforma per lo scambio di informazioni tra altri agenti IA. Tali incidenti hanno ulteriormente rafforzato le preoccupazioni dei paesi sulla sicurezza dell’intelligence autonoma.
Paul Triolo, un analista che da tempo presta attenzione alle relazioni tecnologiche sino-americane, ha affermato che i tempi del dialogo sulla sicurezza tra i due paesi sull'intelligenza artificiale sono particolarmente critici. Egli ritiene che, poiché le capacità dell’intelligenza artificiale continuano ad avvicinarsi a nuovi punti critici, la comunità internazionale si trova in un periodo importante per stabilire meccanismi di cooperazione.
Oltre ai rischi legati alla sicurezza informatica, gli Stati Uniti si preparano a discutere anche delle capacità di attacco informatico che i modelli di intelligenza artificiale più avanzati potrebbero avere in futuro. Nel frattempo, i funzionari statunitensi intendono anche sollevare preoccupazioni sul modello di “distillazione”. La distillazione è un metodo per utilizzare l'output di un modello di grandi dimensioni per addestrare un modello più piccolo ed è ampiamente utilizzato per ridurre i costi di formazione dei sistemi avanzati di intelligenza artificiale.
Nel giugno di quest'anno, il capo della politica scientifica e tecnologica della Casa Bianca ha accusato pubblicamente la società cinese di intelligenza artificiale Dark Side of the Moon di aver condotto un apprendimento distillato su un modello di proprietà della società americana di intelligenza artificiale Anthropic durante lo sviluppo del modello K3. Dichiarazioni rilevanti hanno innescato ampie discussioni nel settore e hanno anche reso la questione della proprietà intellettuale modello e dei confini tecnologici un nuovo focus nella competizione sull’intelligenza artificiale tra Cina e Stati Uniti.
Fonti hanno rivelato che, in termini di disposizione dei rappresentanti cinesi, il vice premier He Lifeng è uno dei potenziali candidati perché le sue responsabilità corrispondono a Bessant; inoltre, vi è anche la notizia che alti funzionari responsabili degli affari nei settori della tecnologia, dell'intelligenza artificiale e dei semiconduttori potrebbero partecipare alle riunioni pertinenti.
Mentre l'intelligenza artificiale diventa gradualmente l'area centrale della competizione e della cooperazione globale, le questioni di governance della sicurezza vengono poste all'ordine del giorno. La proposta di dialogo sino-americano sulla sicurezza dell’intelligenza artificiale riflette che, sebbene la concorrenza tecnologica continui ad esistere, entrambe le parti sono anche consapevoli che alcuni rischi transnazionali devono essere affrontati stabilendo canali di comunicazione.
Commenti