Riassunto:
OpenAI esorta gli Stati Uniti ad assumere un ruolo guida nello sviluppo di standard per l'intelligenza artificiale (AI) all'avanguardia insieme ad altri paesi in risposta alle crescenti preoccupazioni sui potenziali danni dell'IA. Lunedì OpenAI ha affermato in un post sul blog che per sviluppare l’intelligenza artificiale in modo sicuro, è necessario sviluppare standard tecnici internazionali, in particolare per aiutare a definire quali tipi di incidenti che coinvolgono modelli di intelligenza artificiale dovrebbero essere notificati, per chiarire come i paesi possono cooperare nello sviluppo dell’intelligenza artificiale e per migliorare l’accesso alla potenza di calcolo necessaria per sviluppare tali tecnologie.
"Per rendere sicuri e vantaggiosi i progressi continui nel campo dell'IA, è necessario portare avanti la ricerca allineata e sviluppare standard comuni per fornire una guida per lo sviluppo dell'IA nei laboratori e nei paesi", ha affermato OpenAI.
OpenAI ha dichiarato che il suo CEO Sam Altman intende parlare mercoledì al Consiglio di sicurezza delle Nazioni Unite su questioni legate all'intelligenza artificiale e alla sicurezza internazionale.
Stati Uniti Il segretario al Tesoro Bessent ha dichiarato lo scorso fine settimana che gli Stati Uniti hanno proposto di istituire un meccanismo di segnalazione per coprire gli incidenti di intelligenza artificiale con implicazioni per la sicurezza nazionale.
OpenAI ha sottolineato in un post sul blog che i paesi dovrebbero lavorare insieme per sviluppare standard nazionali e internazionali complementari per sviluppare i modelli di IA più capaci. OpenAI suggerisce che questo lavoro può essere promosso attraverso le agenzie di sicurezza dell’IA esistenti in più paesi, incluso il Center for AI Standards and Innovation (CAISI) sotto il Dipartimento del Commercio degli Stati Uniti, che aiuta a testare modelli di intelligenza artificiale e a sviluppare linee guida pertinenti.
OpenAI ha anche chiesto lo sviluppo di standard per far fronte alla crescente capacità dell'IA di lavorare in modo autonomo, sottolineando che l'auto-miglioramento ricorsivo "completamente autonomo" - dove l'IA è in definitiva in grado di modificare il proprio codice o migliorare le proprie capacità senza alcun intervento umano - non dovrebbe essere perseguito "a meno che e finché non sia garantita la sicurezza".
Commenti