Riassunto:
Rap. Ro Khanna, un democratico della California, è in procinto di presentare al Congresso un disegno di legge completo sulla regolamentazione dell’intelligenza artificiale, sperando di stabilire il quadro normativo federale più rigoroso fino ad oggi per la tecnologia AI all’avanguardia. La proposta non richiede solo l’implementazione di un sistema di responsabilità oggettiva, ma prevede anche di vietare l’utilizzo di sistemi di intelligenza artificiale con capacità di “auto-miglioramento ricorsivo” fino a quando il governo federale non avrà stabilito un sistema di sicurezza completo.
Questo disegno di legge è denominato Human Control Over AI Act. Lo sfondo dell’introduzione del disegno di legge arriva in un momento in cui nei circoli tecnologici e politici statunitensi continuano a crescere le preoccupazioni sui potenziali rischi dell’intelligenza artificiale avanzata. Negli ultimi anni, molti dirigenti di società di intelligenza artificiale hanno pubblicamente avvertito che alcuni sistemi di intelligenza artificiale potrebbero superare le capacità di controllo umano in futuro, ma il Congresso deve ancora formulare un piano normativo completo.
Ro Cana ha affermato in un'intervista che l'intelligenza artificiale non solo comporta il rischio di abusi, ma può anche comportare il rischio di perdita di controllo. Crede che gli esseri umani debbano prendere sul serio questi due tipi di problemi perché lo sviluppo delle tecnologie correlate ha toccato questioni di sicurezza a livello di civiltà.
Secondo il contenuto del disegno di legge, la cosiddetta intelligenza artificiale di "auto-miglioramento ricorsivo" sarà vietata. Questo tipo di sistema è definito come un modello di intelligenza artificiale in grado di migliorare autonomamente le proprie capacità o modificare i propri obiettivi principali, i meccanismi di controllo e le regole di spegnimento.
Come richiesto dalla proposta, nessuna attività correlata sarà consentita finché non saranno stabilite le norme federali di sicurezza. Anche se verrà aperto in futuro, dovrà essere approvato da agenzie di regolamentazione specializzate.
Il disegno di legge prevede inoltre di istituire una nuova agenzia federale di regolamentazione dell'intelligenza artificiale per supervisionare le aziende che sviluppano modelli all'avanguardia come OpenAI, Anthropic, Google DeepMind e xAI.
L'agenzia avrà molteplici responsabilità, tra cui la formulazione di norme sulla sicurezza dell'IA, la creazione di un sistema di licenze per la formazione e l'implementazione dei modelli, l'esecuzione di audit dei modelli all'avanguardia e lo sviluppo di standard per test continui e un controllo umano efficace.
Allo stesso tempo, la nuova agenzia sarà anche responsabile della formulazione di una serie di requisiti tecnici di sicurezza, inclusi ambienti di test isolati, misure di isolamento della rete, sistemi di arresto di emergenza e meccanismi di controllo per impedire ai modelli di lasciare l'ambiente sperimentale ed entrare nell'operazione Internet aperta.
Secondo il piano, tutti i laboratori che lavorano sullo sviluppo di modelli all'avanguardia devono essere sottoposti a audit indipendenti. I revisori rimarranno a lungo nelle istituzioni competenti e riferiranno direttamente alle autorità di regolamentazione invece di passare le informazioni attraverso la direzione aziendale.
Oltre al modello normativo stesso, il disegno di legge prevede anche di includere nell'ambito della supervisione alcuni chip avanzati di intelligenza artificiale e risorse di potenza di calcolo per rafforzare ulteriormente la supervisione delle attività di sviluppo dell'intelligenza artificiale ad alto rischio.
Il disegno di legge assume una posizione decisamente dura sul sistema di responsabilità.
La proposta impone alle società di intelligenza artificiale di acquistare un'assicurazione di responsabilità civile su larga scala prima di rilasciare modelli avanzati per garantire la capacità di compensare danni futuri.
Allo stesso tempo, il disegno di legge introduce anche un meccanismo di responsabilità penale. Qualsiasi dipendente che disattivi consapevolmente le protezioni di sicurezza, disabiliti gli arresti di emergenza, manometta i registri, violi i sistemi di isolamento o utilizzi consapevolmente modelli senza autorizzazione può incorrere in sanzioni penali.
Ciò che è ancora più preoccupante è che il disegno di legge intende anche stabilire disposizioni sulla responsabilità penale relative ad "atti che mettono in pericolo l'umanità". Se alcuni sistemi di intelligenza artificiale causassero danni civili su larga scala, i relativi comportamenti di dispiegamento potrebbero innescare conseguenze legali più gravi.
Ro Kana ha affermato che questo disegno di legge è attualmente una delle proposte normative più complete sulla sicurezza dell'intelligenza artificiale. Egli ha sottolineato che il contenuto del disegno di legge deriva principalmente da scambi a lungo termine con gruppi di ricerca sulla sicurezza dell’intelligenza artificiale, piuttosto che essere formulato sulla base delle opinioni delle grandi aziende tecnologiche.
Allo stesso tempo, Khanna ha anche invitato il governo degli Stati Uniti a promuovere la cooperazione in materia di sicurezza dell'intelligenza artificiale a livello internazionale, compreso il raggiungimento di un accordo di sicurezza esecutivo con la Cina e l'istituzione di meccanismi di verifica, revisione e controllo per ridurre il rischio di proliferazione di pericolosi sistemi di intelligenza artificiale in futuro.
Gli analisti ritengono che questa proposta rappresenti una voce crescente all'interno del Congresso degli Stati Uniti secondo cui l'intelligenza artificiale all'avanguardia non dovrebbe fare affidamento esclusivamente sull'autodisciplina aziendale, ma deve istituire un meccanismo di supervisione governativa simile al sistema di regolamentazione dei farmaci.
Tuttavia, vi è ancora grande incertezza sulla possibilità che il disegno di legge possa essere approvato senza intoppi in futuro. I sostenitori ritengono che la regolamentazione possa ridurre il rischio di perdita di controllo, mentre gli oppositori temono che restrizioni troppo rigide possano indebolire la capacità degli Stati Uniti di innovare nella competizione globale sull’intelligenza artificiale.
Tuttavia, poiché le capacità dell'intelligenza artificiale continuano a migliorare, il dibattito su "se gli esseri umani debbano stabilire dei limiti prima che la tecnologia vada fuori controllo" è entrato ufficialmente a livello legislativo statunitense.
Commenti