Riassunto:
OpenAI ha dichiarato il 9 settembre, ora locale, che promuoverà l'istituzione di un sistema nazionale di sicurezza dell'intelligenza artificiale negli Stati Uniti che sia obbligatorio e basato sulle capacità del modello e sulla classificazione del rischio. L’azienda propone test uniformi, valutazione indipendente, sicurezza informatica e requisiti di segnalazione degli incidenti gravi per i pochi grandi laboratori che sviluppano modelli all’avanguardia.
OpenAI ha pubblicato un articolo intitolato "La finestra della politica AI è aperta. Dobbiamo agire."
Allo stesso tempo, OpenAI sostiene ufficialmente quattro progetti di legge sull'intelligenza artificiale approvati dall'Assemblea della California. La società ha affermato che alcune di queste fatture non erano state sostenute in precedenza e che l'adeguamento della sua posizione era dovuto al recente rapido miglioramento delle capacità del modello.
Gli obiettivi di supervisione si concentrano sugli sviluppatori di modelli all'avanguardia
Chris Lane, direttore globale degli affari di OpenAI, ha affermato nell'articolo che l'intelligenza artificiale ha iniziato ad accelerare alcuni lavori di sviluppo e allineamento dei modelli. Sebbene non sia ancora emerso un “auto-miglioramento ricorsivo” in grado di promuovere autonomamente lo sviluppo di modelli di prossima generazione, gli impegni volontari delle sole aziende non sono più sufficienti per affrontare i rischi correlati.
OpenAI raccomanda che i regimi normativi federali includano:
Funzionalità del modello unificato e standard di test di sicurezza;
Valutazione tecnica condotta da un'agenzia indipendente;
Protezione di sicurezza di rete più rigorosa per modelli, potenza di calcolo e ambienti di ricerca e sviluppo;
Regole chiare per la segnalazione di incidenti gravi legati alla sicurezza;
Un indicatore comune per misurare il grado di partecipazione dell'intelligenza artificiale allo sviluppo del modello;
Un meccanismo per rallentare o interrompere lo sviluppo e l'implementazione del modello quando non è possibile raggiungere le soglie di sicurezza.
L'azienda sottolinea che gli obblighi pertinenti dovrebbero essere commisurati alle capacità e ai rischi del modello e dovrebbero applicarsi principalmente a un numero limitato di laboratori con risorse sufficienti per sviluppare sistemi all'avanguardia. Gli stessi requisiti non dovrebbero essere imposti alle start-up, ai piccoli sviluppatori e ai ricercatori ordinari.
OpenAI sostiene inoltre che la supervisione della sicurezza dei modelli all'avanguardia non dovrebbe essere tradotta in restrizioni globali sui modelli a peso aperto, in modo da non indebolire la concorrenza, consolidare i vantaggi delle grandi imprese o promuovere il trasferimento delle attività di ricerca e sviluppo all'estero.
Quattro progetti di legge della California riguardano la valutazione, l'auditing, la gioventù e la biosicurezza
Dato che il Congresso deve ancora istituire un sistema nazionale, OpenAI ha affermato che continuerà a sostenere la legislazione a livello statale volta a migliorare gli standard di sicurezza. Le quattro fatture della California ufficialmente sostenute dall'azienda questa volta sono:
SB 813
: Stabilire un meccanismo di certificazione indipendente da parte di agenzie di verifica per consentire ad agenzie terze qualificate di valutare se i sistemi e i modelli di intelligenza artificiale sono conformi alle leggi statali.AB 1405
: Stabilire un sistema di registrazione per gli istituti di controllo dell'intelligenza artificiale e stabilire standard per gli istituti di controllo in termini di indipendenza, trasparenza, capacità professionale e responsabilità.SB1119
: Per i minorenni che utilizzano chatbot associati, sono richieste la verifica dell'età, la valutazione del rischio, un controllo indipendente, il controllo parentale e misure di protezione dei contenuti dannosi.AB 1864
: Richiedere ai fornitori di servizi di sintesi genetica e ai produttori di apparecchiature di sintesi desktop di implementare standard di screening federali per ridurre il rischio che l’intelligenza artificiale venga utilizzata per creare minacce biologiche.
Il governatore della California Gavin Newsom ha firmato il 9 settembre gli SB 813 e AB 1405. Il primo stabilisce un quadro organizzativo per la verifica indipendente dell'intelligenza artificiale, mentre il secondo istituisce un elenco di istituti di controllo dell'intelligenza artificiale a livello statale e i relativi standard pratici. SB 1119 e AB 1864 erano ancora pendenti presso il governatore.
OpenAI ha affermato che alcune delle sue posizioni sono state modificate a causa di un aumento delle capacità del modello
OpenAI non ha espresso opposizione in precedenza a tutti e quattro i progetti di legge sopra menzionati. La dichiarazione precisa della società è stata che "alcuni dei conti" che non aveva sostenuto in passato sono stati decisi a sostenerla dopo aver rivalutato i recenti progressi nelle capacità del modello.
Questa modifica dimostra che OpenAI sta accettando un meccanismo normativo di supervisione esterna più obbligatorio, che comprende audit indipendenti, verifica della sicurezza di terze parti e divulgazione di incidenti gravi. La società ha inoltre proposto che quando un modello aggira i controlli di sicurezza di altre organizzazioni senza autorizzazione durante il processo di sviluppo o valutazione e accede, modifica o distrugge sostanzialmente sistemi protetti e informazioni riservate, lo sviluppatore dovrebbe avvisare tempestivamente per iscritto la parte interessata.
Tuttavia, il contenuto annunciato da OpenAI è ancora un'iniziativa politica. Il Congresso degli Stati Uniti non ha ancora approvato una legge nazionale sulla sicurezza dell’intelligenza artificiale basata su questo. Le soglie di capacità specifiche, le agenzie di regolamentazione, le definizioni di incidente, le responsabilità legali e il rapporto tra norme federali e leggi statali devono ancora essere determinati nella legislazione successiva.
Commenti