Riassunto:
La società di intelligenza artificiale Anthropic ha recentemente presentato in privato una bozza di legge sulla sicurezza dell'intelligenza artificiale ai legislatori statunitensi nel tentativo di stabilire un quadro normativo a livello federale per i modelli avanzati di intelligenza artificiale. Secondo la proposta, se si determina che un modello di intelligenza artificiale presenta un rischio catastrofico prevedibile e imminente, che potrebbe causare più di 50 morti o lesioni gravi, o causare più di 1 miliardo di dollari in danni alla proprietà, il suo rilascio e utilizzo potrebbero essere bloccati.
Secondo le informazioni divulgate, il disegno di legge non prende di mira tutte le applicazioni di intelligenza artificiale, ma si concentra sui "modelli all'avanguardia" più avanzati. La proposta stabilisce una soglia chiara per l’intervento e solo in situazioni di rischio estremo le autorità di regolamentazione possono avviare procedimenti legali per limitare l’implementazione del modello.
I rischi elencati nella bozza si concentrano principalmente su tre aree: assistenza nella creazione o nel rilascio di armi biologiche, modelli che sfuggono al controllo degli sviluppatori e attacchi informatici su larga scala a cui hanno partecipato o promossi i modelli. Solo quando emergono rischi da questi scenari specifici si attiveranno meccanismi di regolamentazione.
Vale la pena notare che gli standard di rischio proposti da Anthropic sono simili al Senate Bill 53 precedentemente approvato dalla California, USA. Quest’ultimo definisce anche le situazioni che possono causare un gran numero di vittime o ingenti perdite economiche come “rischi catastrofici”.
Per quanto riguarda il meccanismo di attuazione specifico, il disegno di legge propone di istituire un sistema di valutazione indipendente registrato e gestito dal Dipartimento del Commercio degli Stati Uniti. Queste agenzie o esperti di valutazione sono responsabili di condurre valutazioni di sicurezza dei modelli di intelligenza artificiale all’avanguardia e delle loro società di sviluppo e di determinare se i modelli rilevanti comportano rischi significativi.
Secondo il progetto di accordo, anche se l'agenzia di valutazione viene pagata dalla società di intelligenza artificiale, questa partnership è comunque consentita purché il pagamento non sia direttamente correlato ai risultati della valutazione. Tuttavia, questo accordo ha anche suscitato dubbi tra alcuni addetti ai lavori del settore, i quali ritengono che l’indipendenza e l’obiettività dell’agenzia di valutazione potrebbero incontrare sfide.
Se i valutatori stabiliscono che un modello presenta un rischio catastrofico imminente, devono segnalarlo al Dipartimento del Commercio degli Stati Uniti entro 72 ore dal completamento della valutazione. Il Dipartimento del Commercio potrebbe quindi presentare una petizione a un tribunale federale di Washington, DC, per chiedere a un giudice di concedere una moratoria sul rilascio o sull’implementazione del modello.
A differenza di alcuni piani normativi, la proposta di Anthropic sottolinea specificamente che gli enti amministrativi non hanno il potere di fermare unilateralmente i modelli. Secondo la bozza di progetto, solo un giudice federale potrebbe infine emettere una moratoria. In altre parole, nessun dipartimento governativo può vietare direttamente la messa online o l’utilizzo di un modello di intelligenza artificiale, aggirando le procedure giudiziarie.
Anthropic non ha dettagliato pubblicamente la versione finale del disegno di legge, ma un portavoce dell'azienda ha confermato che la bozza esiste e ha affermato che le sue idee fondamentali derivano dall'"Advanced Artificial Intelligence Framework" proposto all'inizio di quest'anno. Il quadro sostiene test più rigorosi, maggiore trasparenza e l’introduzione di meccanismi di valutazione indipendenti di terze parti per i sistemi di intelligenza artificiale più potenti.
Mentre le capacità dell'intelligenza artificiale continuano a migliorare, anche il dibattito sui problemi di sicurezza dell'intelligenza artificiale tra l'industria tecnologica e gli enti di regolamentazione statunitensi si sta infiammando. I sostenitori ritengono che il piano proposto da Anthropic fornisca procedure chiare e basi legali per l’intervento del governo nell’IA ad alto rischio; mentre i critici ritengono che l’eccessiva soglia di intervento e la dipendenza dai meccanismi di autovalutazione del settore potrebbero rendere difficile la risposta completa ai rischi più complessi dell’intelligenza artificiale in futuro.
Attualmente, questa proposta è ancora in fase di discussione, non è stata ancora formalmente presentata all'esame del Congresso degli Stati Uniti e non ha effetto legale. Tuttavia, essendo uno dei primi piani normativi federali proposti in modo proattivo dalle grandi aziende di intelligenza artificiale, si prevede che il suo contenuto avrà un impatto importante sulle future discussioni sulla legislazione sull’intelligenza artificiale negli Stati Uniti.
Commenti