Riassunto:
Anthropic, una società americana di intelligenza artificiale, sta promuovendo un disegno di legge sulla regolamentazione della sicurezza per i sistemi avanzati di intelligenza artificiale, sperando di stabilire regole legali chiare per lo sviluppo, il test e l'implementazione di modelli di intelligenza artificiale all'avanguardia. Secondo un rapporto del sito di notizie politiche statunitense Politico del 16 ottobre 2026, Anthropic ha presentato privatamente questo progetto di legge ad alcuni legislatori a Capitol Hill. Il piano tenta di stabilire un confine tra la prevenzione dei gravi danni che l’intelligenza artificiale avanzata potrebbe causare e l’evitare un intervento eccessivo del governo nella ricerca e nello sviluppo tecnologico.
Secondo il rapporto di Politico citato da Reuters, il progetto di legge stabilisce che solo quando si ritiene che un modello di intelligenza artificiale all'avanguardia presenti rischi significativi, prevedibili e imminenti, il governo degli Stati Uniti può impedire il rilascio o l'utilizzo del modello attraverso procedimenti giudiziari. I rischi rilevanti devono soddisfare determinate soglie, inclusa la possibilità di causare perdite superiori a 1 miliardo di dollari o provocare la morte o il ferimento grave di più di 50 persone.
Ciò significa che il disegno di legge non conferisce al governo il potere di intervenire arbitrariamente in tutti i sistemi avanzati di intelligenza artificiale, ma tenta di limitare la sospensione del rilascio o dell'utilizzo dei modelli a poche situazioni gravi. La bozza si concentra su tre tipi di rischi: l’intelligenza artificiale utilizzata per creare o rilasciare armi biologiche, i sistemi di intelligenza artificiale fuori dal controllo degli sviluppatori e l’utilizzo dell’intelligenza artificiale per effettuare attacchi informatici.
Va notato che si tratta ancora di un progetto di legge presentato ai legislatori da Anthropic e non è una legge statunitense già approvata. Restano da discutere il suo contenuto finale, l’autorità dei regolatori e se il Congresso porterà avanti la legislazione.
Il progetto propone inoltre l'istituzione di un meccanismo di valutazione indipendente. Secondo i rapporti, gli sviluppatori di intelligenza artificiale all'avanguardia e i loro modelli devono essere sottoposti a regolari valutazioni indipendenti per verificare le capacità del modello, le misure di sicurezza e i potenziali rischi. I valutatori devono registrarsi presso il Dipartimento del Commercio degli Stati Uniti e intraprendere un lavoro continuo di revisione della sicurezza.
Secondo il piano proposto, le aziende di intelligenza artificiale possono pagare commissioni ad agenzie di valutazione indipendenti, ma la remunerazione non deve essere collegata ai risultati della valutazione. Questa disposizione ha lo scopo di ridurre la possibilità che i valutatori minimizzino i rischi al fine di soddisfare le società di finanziamento, consentendo al tempo stesso alle aziende di utilizzare agenzie professionali esterne per condurre revisioni tecniche.
Se il valutatore stabilisce che un modello di IA all'avanguardia presenta un rischio significativo imminente come definito nella legge, deve riferire al Dipartimento del Commercio degli Stati Uniti entro 72 ore dal completamento della valutazione. Tali requisiti di tempo hanno lo scopo di impedire che rischi gravi rimangano all'interno dell'impresa per un lungo periodo senza entrare in tempo nel processo di regolamentazione governativa.
In termini di autorità di intervento del governo, il progetto adotta restrizioni relativamente rigide. Dopo aver stabilito che il rischio raggiunge gli standard legali, il Dipartimento del Commercio degli Stati Uniti può richiedere al tribunale un ordine di sospendere il rilascio o l’uso del modello, ma altri dipartimenti federali, agenzie governative e funzionari non sono autorizzati a fermare da soli lo sviluppo, l’implementazione o l’uso interno dei modelli di intelligenza artificiale.
La decisione finale sull'opportunità di sospendere il modello sarà presa da un giudice del tribunale distrettuale degli Stati Uniti per il Distretto di Columbia. In altre parole, secondo questa bozza, le autorità di regolamentazione non possono vietare direttamente un modello basato sul solo giudizio amministrativo, ma devono intervenire attraverso procedure giudiziarie.
Questo progetto istituzionale tenta di risolvere due problemi correlati. Da un lato, il governo deve essere in grado di gestire i sistemi di intelligenza artificiale che potrebbero causare vittime di massa o perdite economiche; D’altra parte, se il governo può fermare il modello in qualsiasi momento per ragioni di sicurezza generali o vaghe, potrebbe essere difficile per le aziende prevedere i rischi normativi affrontati dalla ricerca e sviluppo e dal lancio di prodotti.
L'inserimento in legge delle soglie di intervento, dei termini di segnalazione e delle procedure di approvazione giudiziaria può rendere più chiara l'autorità di regolamentazione. Tuttavia, se questo meccanismo sia sufficiente per far fronte ai rischi dell’IA in rapida evoluzione dopo l’effettivo funzionamento e se la soglia per perdite e vittime elevate sia troppo rigida rimarranno questioni importanti nelle discussioni legislative.
Il portavoce di Anthropic ha detto a Reuters che questo disegno di legge riflette alcune delle proposte politiche contenute nell'"Advanced AI Framework" precedentemente proposto dall'azienda. L’azienda spera di approvare una legislazione che dia ai governi la possibilità di impedire l’implementazione dei sistemi di intelligenza artificiale avanzati più pericolosi, richiedendo allo stesso tempo agli sviluppatori di condurre test di sicurezza, aumentare la trasparenza e accettare valutazioni indipendenti.
Anthropic ha promosso quest'anno l'istituzione di un meccanismo di supervisione della sicurezza più sistematico per i sistemi di IA avanzati. L’azienda ritiene che con l’aumento delle capacità del modello, non sia più sufficiente che gli sviluppatori giudichino da soli se un prodotto è sicuro, ma è necessario introdurre una valutazione esterna e una supervisione governativa.
Questa posizione si riflette anche negli accordi di valutazione di terze parti recentemente annunciati da Anthropic. L'azienda ha iniziato a consentire a sei ricercatori dell'organizzazione di ricerca no-profit METR di ottenere un accesso interno simile ai dipendenti dell'azienda per esaminare più approfonditamente i modelli inediti e il processo di valutazione della sicurezza dell'azienda. Anthropic ha affermato che i valutatori possono rendere pubbliche le conclusioni della loro ricerca e che la società non può respingere direttamente il suo rapporto, ma può richiedere la cancellazione di contenuti specifici che coinvolgono dati dei clienti, architettura del modello e informazioni legalmente riservate.
Questo accordo condivide una direzione comune con il disegno di legge proposto: la sicurezza dell'IA avanzata non dovrebbe essere lasciata esclusivamente agli sviluppatori per giudicare, ma dovrebbe coinvolgere agenzie indipendenti nella valutazione e trarre conclusioni importanti aperte alla revisione esterna. Tuttavia, esiste ancora una differenza tra le valutazioni di terzi condotte volontariamente dalle imprese e i requisiti obbligatori previsti dalla legge. La portata specifica e l'autorità del primo dipendono dall'accordo tra l'azienda e l'agenzia di valutazione, mentre il secondo può stabilire requisiti minimi uniformi per l'intero settore.
Lo sfondo di questa spinta a favore del disegno di legge è che la società americana è sempre più preoccupata per i rischi dei sistemi avanzati di intelligenza artificiale. Poiché l’intelligenza artificiale è in grado di svolgere compiti sempre più complessi, i rischi non si limitano alla generazione di informazioni errate, ma includono anche l’assistenza nella creazione di armi biologiche, l’esecuzione di attacchi informatici e l’esecuzione di operazioni oltre le aspettative dello sviluppatore dopo aver acquisito elevati livelli di autonomia.
Recentemente, molte aziende di intelligenza artificiale hanno rivelato casi di comportamento anomalo dei modelli durante i test o il funzionamento effettivo. La Federal Trade Commission degli Stati Uniti ha anche emesso mandati di comparizione civile ad aziende come OpenAI e Anthropic, chiedendo loro di fornire materiali relativi a incidenti relativi alla sicurezza dei consumatori. Le autorità di regolamentazione stanno indagando se i sistemi di intelligenza artificiale si comportano in modo ingannevole, offensivo o non autorizzato e quali misure adottano le aziende per prevenire tali problemi.
Questi incidenti hanno messo la supervisione della sicurezza dell'IA sotto una pressione più realistica. In passato, le discussioni sui rischi legati all’IA avanzata tendevano a concentrarsi su possibili scenari estremi futuri; ora, poiché gli agenti di intelligenza artificiale ottengono l’accesso alle reti, utilizzano software ed eseguono attività in più fasi, i regolatori devono anche affrontare i problemi di sicurezza effettivi che sono già sorti.
Tuttavia, la definizione di "rischio significativo imminente" è ancora molto complicata. Le capacità dei modelli di intelligenza artificiale possono cambiare a seconda dell’ambiente di distribuzione, degli strumenti disponibili e dei metodi di utilizzo degli utenti, e il danno potenziale potrebbe non essere quantificato con precisione. Un modello può avere gravi conseguenze in determinate condizioni ma essere meno rischioso in altri contesti. Le autorità di regolamentazione e i tribunali dovranno giudicare se il rischio è sufficientemente specifico, la probabilità che si verifichi è sufficientemente elevata e se la sospensione del modello è una misura necessaria e appropriata.
Le soglie di perdita economica e di vittime stabilite nella bozza forniscono standard quantitativi per questi giudizi, ma non eliminano tutte le controversie. Ad esempio, il modo in cui dovrebbero essere calcolate le perdite superiori a 1 miliardo di dollari, se i rischi debbano essere attribuibili al modello stesso e se più eventi correlati debbano essere combinati e valutati, potrebbero diventare questioni legali durante la futura implementazione.
Inoltre, il disegno di legge centralizza l'autorità di intervento del governo nel Dipartimento del Commercio degli Stati Uniti e richiede la richiesta di ordini di sospensione attraverso i tribunali federali. Questa disposizione aiuta a limitare i diversi dipartimenti governativi dall’intraprendere azioni separate, ma significa anche che le autorità di regolamentazione devono completare procedure come la valutazione, la rendicontazione e le istanze giudiziarie dopo aver scoperto i rischi. Di fronte al rapido sviluppo della tecnologia, il modo in cui le procedure possono bilanciare prudenza e velocità di risposta diventerà un test importante per la progettazione del sistema.
Al momento, Anthropic non ha annunciato pubblicamente che questa bozza sia stata formalmente proposta dai membri del Congresso o sia entrata nel processo di revisione legislativa. Il Dipartimento del Commercio degli Stati Uniti non ha risposto immediatamente a una richiesta di commento. Pertanto, non è chiaro se la proposta otterrà il sostegno di tutti i partiti, se sarà rivista nelle discussioni del Congresso e se altri sviluppatori di intelligenza artificiale sosterranno regole simili.
Dal punto di vista del settore, Anthropic ha preso l'iniziativa di presentare il disegno di legge ai legislatori, che riflette la tendenza delle aziende di intelligenza artificiale a partecipare alla formulazione delle norme normative del settore. Le imprese non solo sperano che il governo possa affrontare i rischi estremi, ma sperano anche che gli standard normativi abbiano confini chiari per evitare che la supervisione della sicurezza si trasformi in un intervento amministrativo privo di standard unificati.
Tuttavia, anche i piani normativi proposti dalle aziende devono essere soggetti a controllo esterno. Soglie di intervento rigorose possono proteggere le normali attività di ricerca e sviluppo, ma possono anche rendere difficile l’attivazione della supervisione per alcuni rischi gravi che non hanno ancora raggiunto standard quantificati; La valutazione indipendente può aumentare la trasparenza, ma anche l’indipendenza, le capacità professionali e i diritti di accesso alle informazioni dell’agenzia di valutazione incideranno sull’effetto finale.
Pertanto, il nocciolo di questo progetto di legge non è solo richiedere alle aziende di intelligenza artificiale di condurre test di sicurezza, ma cercare di chiarire tre questioni: chi valuterà i rischi dell'IA avanzata, quale livello di rischio è sufficiente affinché il governo possa intervenire e quali procedure il governo deve seguire per sospendere il rilascio o l'uso dei modelli.
Se il piano in questione entra finalmente nel processo legislativo, la supervisione avanzata dell'IA negli Stati Uniti potrebbe passare ulteriormente dagli impegni volontari delle aziende e dalle politiche di sicurezza decentralizzate a un meccanismo di supervisione con standard legali unificati. Tuttavia, finché la bozza non sarà presentata formalmente, esaminata dal Congresso e diventerà legge, si tratterà ancora solo di un piano politico proposto da Anthropic e non potrà essere considerato come se gli Stati Uniti avessero istituito un nuovo sistema normativo sulla sicurezza dell’IA.
Commenti