Riassunto:
Il CEO di Anthropic, Dario Amodei, ha chiesto di controllare la velocità di miglioramento delle capacità dei modelli di intelligenza artificiale all'avanguardia per guadagnare tempo per le valutazioni di sicurezza e le misure di protezione. Ha proposto l'introduzione di valutatori indipendenti permanenti, il coordinamento degli standard di sicurezza dei principali sviluppatori e la promozione della gestione transfrontaliera del rischio e della cooperazione di controllo.
I valutatori indipendenti ottengono l'accesso interno
Amodei ha proposto che le aziende all'avanguardia nel campo dell'intelligenza artificiale forniscano accesso continuo, quasi a livello di dipendente, a team di valutazione indipendenti qualificati in modo che possano rivedere i test dei modelli, la segnalazione dei rischi, i quadri di sicurezza e i processi di gestione degli incidenti.
Anthropic si impegna ad essere il primo ad implementare questa misura. Il personale esterno avrà un accesso simile a quello del team di valutazione del rischio dell'azienda e sarà in grado di pubblicare conclusioni senza il controllo editoriale di Anthropic.
Questa disposizione deve ancora risolvere questioni quali la selezione dei valutatori, le fonti di finanziamento e gli obblighi di riservatezza. I pesi dei modelli, l'infrastruttura di formazione e le vulnerabilità della sicurezza sono informazioni altamente sensibili e l'espansione dei diritti di accesso aumenterà anche i requisiti di sicurezza delle informazioni.
Il coordinamento del settore limita la concorrenza non protetta tra competenze
La seconda raccomandazione richiede che i principali laboratori di intelligenza artificiale sviluppino standard comuni per i test di rischio, le soglie di sicurezza e le condizioni di rilascio dei modelli. Amodei ritiene che la pressione competitiva possa spingere le aziende ad accelerare il ritmo di formazione e rilascio, rendendo difficile per le misure di protezione tenere il passo in modo tempestivo con le capacità del modello.
La politica di dimensionamento responsabile di Anthropic ha adottato un meccanismo a più livelli. Quando i modelli superano le soglie di rischio biologico, informatico, di ricerca e sviluppo automatizzato o di perdita di controllo, le aziende devono aumentare i livelli di protezione dell’implementazione e di sicurezza delle informazioni.
La cooperazione tra imprese può comportare limiti antitrust. Esiste un interesse pubblico a lavorare insieme per sviluppare standard di test di sicurezza, ma gli accordi possono ancora essere soggetti a controllo normativo se impediscono agli operatori più piccoli di entrare nel mercato, coordinano il lancio di prodotti o riducono la concorrenza.
La cooperazione internazionale copre i rischi transfrontalieri
La terza raccomandazione riguarda la cooperazione intergovernativa, compresa la definizione di accordi minimi di sicurezza con concorrenti strategici come la Cina. Amodei ritiene che modelli e tecnologie possano attraversare i confini e che il rallentamento della velocità di sviluppo di un singolo paese o impresa possa portare al trasferimento di attività di ricerca e sviluppo ad alto rischio verso regioni con normative più deboli.
I rischi potenziali elencati da Anthropic includono l'utilizzo di modelli per assistere le attività relative alle armi biologiche, la scoperta su larga scala di vulnerabilità del software, attacchi a infrastrutture critiche e sistemi di intelligenza artificiale che sfuggono al controllo degli sviluppatori. L’intelligenza artificiale partecipa automaticamente allo sviluppo di modelli di prossima generazione, che potrebbero anche accelerare ulteriormente i miglioramenti delle capacità.
L'azienda propone che gli sviluppatori all'avanguardia pubblichino schede di sistema e rapporti periodici sui rischi, accettino revisioni indipendenti e forniscano le informazioni necessarie alle agenzie governative designate. I governi dovrebbero avere poteri limitati per prevenire o ritardare l’implementazione di modelli che potrebbero causare danni catastrofici, con soglie chiare e meccanismi di ricorso in atto.
Il sostegno dell'industria non è stato ancora tradotto in un accordo
Il CEO di OpenAI, Sam Altman, è favorevole a concedere l'accesso interno ai valutatori indipendenti e ha affermato che OpenAI adotterà accordi simili. Anche il CEO di Google DeepMind, Demis Hassabis, e il capo di xAI, Elon Musk, hanno sostenuto pubblicamente la direzione generale di Amodei.
Le dichiarazioni pertinenti non hanno ancora formato un accordo industriale vincolante. Quali indicatori di capacità innescheranno rallentamenti o sospensioni, se le revisioni indipendenti avranno effetto obbligatorio e come verranno applicati gli accordi transfrontalieri restano da determinare ulteriormente da parte delle imprese e dei governi.
Commenti