Riassunto:
Il CEO di Anthropic, Dario Amodei, ha proposto un quadro di sicurezza dell'intelligenza artificiale in tre fasi, sostenendo il controllo della velocità di miglioramento delle capacità del modello all'avanguardia per guadagnare tempo per la ricerca sulla sicurezza e sull'allineamento. Anthropic sarà la prima a consentire a valutatori terzi l'accesso a lungo termine all'azienda per verificare le misure di sicurezza, segnalare incidenti e valutare il processo di formazione del modello.
Anthropic introdurrà un team di valutazione esterno permanente
Amodei ha proposto in un articolo intitolato "La velocità del progresso di frontiera deve essere controllata" che le società all'avanguardia nel campo dell'intelligenza artificiale forniscano a team di valutazione indipendenti di terze parti un accesso interno continuo e vicino ai normali dipendenti. I valutatori verificheranno che le aziende rispettino gli impegni di sicurezza, indagheranno e segnaleranno gli incidenti e condurranno valutazioni di allineamento dei modelli e dei loro processi di formazione.
Anthropic si è impegnata ad attuare unilateralmente questa misura e prevede di fornire ai valutatori esterni spazi per uffici, badge di accesso, attrezzature aziendali e uno spazio di lavoro e un accesso agli strumenti più o meno equivalenti al team interno di valutazione del rischio. Possono essere previste eccezioni per contenuti che implicano restrizioni legali, privacy del cliente o segreti commerciali.
Il valutatore esterno avrà il potere di pubblicare in modo indipendente i risultati chiave relativi a rischi, incidenti e pratiche di sicurezza aziendale. Anthropic può effettuare revisioni limitate di informazioni che coinvolgono sicurezza, privilegi legali e riservatezza di terzi, ma non può impedire il rilascio solo perché la conclusione è sfavorevole per l'azienda. I valutatori possono anche dichiarare pubblicamente se le cancellazioni hanno influenzato il loro giudizio.
Il quadro in tre fasi richiede la partecipazione dell'industria e del governo
Oltre a coinvolgere valutatori indipendenti, la seconda fase delle misure proposte da Amodei richiederebbe alle società all'avanguardia nel campo dell'intelligenza artificiale nei paesi democratici di coordinare lo sviluppo di standard di sicurezza comuni e limitare la concorrenza sfrenata nelle capacità dei modelli.
Alcuni coordinamenti tra imprese potrebbero essere limitati dalle leggi antitrust, quindi il governo deve fornire supporto istituzionale. Amodei ha sostenuto che, dopo che un numero sufficiente di aziende avrà accettato la supervisione esterna, l’industria sarà in grado di sviluppare accordi di rallentamento verificabili basati su capacità modello e processi di formazione.
La terza fase prevede il coordinamento internazionale. Amodei ha suggerito che i paesi democratici discutano le regole di sicurezza comuni con altri governi, compresi i paesi autoritari, partendo da aree di interesse comune come il divieto dell’uso dell’intelligenza artificiale per sviluppare armi biologiche.
Le capacità del modello possono migliorare più rapidamente del controllo del rischio
Amodei ha affermato che il recente miglioramento della capacità dei modelli di intelligenza artificiale di partecipare allo sviluppo di modelli di prossima generazione potrebbe accelerare le iterazioni tecnologiche. Se le capacità dei modelli continuano a migliorare rapidamente, la capacità degli esseri umani di comprendere, valutare e controllare i sistemi correlati potrebbe non tenere il passo.
Stima che nei prossimi uno o due anni potranno essere compiuti progressi sostanziali in settori quali l'interpretabilità dei modelli, la valutazione della sicurezza, la ricerca sull'allineamento e le specifiche operative. Controllare adeguatamente la velocità di avanzamento delle capacità può far guadagnare tempo per queste misure senza richiedere al settore di interrompere completamente la ricerca e lo sviluppo dell’intelligenza artificiale.
Il CEO di OpenAI, Sam Altman, ha successivamente sostenuto l'introduzione di valutatori indipendenti e ha affermato che OpenAI avrebbe adottato accordi simili. Elon Musk ha anche pubblicamente concordato con l'appello di Amodei di rallentare lo sviluppo del modello.
Commenti