Riassunto:
Anthropic ha concesso a valutatori esterni un accesso quasi interno a livello di dipendente per valutare il rischio del suo modello di grandi dimensioni. Questa mossa mantiene la promessa dell’azienda di rafforzare ulteriormente i meccanismi di protezione della sicurezza in risposta alle preoccupazioni esterne che la tecnologia AI possa essere catastroficamente fuori controllo.
METR, un'organizzazione senza scopo di lucro, ha collaborato con i principali laboratori di intelligenza artificiale come OpenAI, Anthropic, Google e Meta. Ora il team di METR è di stanza nell'ufficio dello sviluppatore Claude e ha accesso alle sue apparecchiature hardware e ai sistemi interni.
Il mondo esterno è sempre più preoccupato per i rischi che sistemi di intelligenza artificiale più potenti potrebbero comportare per l'economia, la sicurezza della rete e persino per l'intera umanità. Lasciare che le agenzie di valutazione terze si assumano maggiori responsabilità è una delle principali misure di implementazione proposte dai principali laboratori di intelligenza artificiale.
Nel settembre di quest'anno, il CEO di Anthropic, Dario Amodei, ha proposto un piano per inviare revisori esterni al laboratorio principale di intelligenza artificiale, piano che raramente è stato supportato da due importanti rivali, Sam Altman (OpenAI) ed Elon Musk (SpaceX).
L'annuncio di giovedì rappresenta il primo passo verso l'attuazione di questi impegni. Altman ha affermato che la proposta di Amoday è fattibile, ma OpenAI non ha ancora introdotto piani per introdurre valutatori esterni.
Anthropic ha dichiarato giovedì: "Poiché le capacità dei modelli continuano ad aumentare, abbiamo bisogno di una migliore protezione della sicurezza e di valutazioni dei rischi più difficili. Ci auguriamo che le nostre decisioni possano accettare la supervisione pubblica, ma tutte le informazioni relative al lavoro di sicurezza non possono essere divulgate al mondo esterno."
I critici del piano di Anthropic di introdurre valutatori esterni ritengono che questo meccanismo possa creare conflitti di interessi e utilizzano i mali passati del settore contabile come esempio per sostenere l'introduzione di una supervisione governativa più rigorosa.
Anthropic ha sostenuto che la divulgazione di tutte le informazioni potrebbe essere utilizzata da attori o concorrenti malintenzionati; ha inoltre aggiunto che il modello di lavoro di questo gruppo di valutatori è simile a quello della vigilanza bancaria: le agenzie di regolamentazione inviano revisori permanenti a lavorare all'interno delle grandi banche.
L'azienda ha affermato: "Se le operazioni rischiose di una banca minacciano gli interessi pubblici, i terzi devono essere in grado di individuare in anticipo i pericoli nascosti."
Anthropic è inoltre sotto pressione affinché assicuri agli investitori che le questioni legate alla sicurezza non influenzeranno la sua IPO pianificata quest'anno, con la società che dovrebbe essere valutata a più di 2 trilioni di dollari. Questa settimana, i materiali di presentazione dell’azienda per gli investitori hanno dedicato molto spazio all’introduzione delle misure di controllo della sicurezza.
METR una volta ha partecipato all'indagine sull'intrusione del modello fuori controllo OpenAI in Hugging Face, ha esaminato migliaia di registri e ha attrezzato laptop aziendali per svolgere il lavoro.
Attualmente, Anthropic ha accettato sei membri dello staff METR, fornendo loro hardware aziendale e spazi per uffici e fornendo loro l'accesso a strumenti e sistemi interni all'incirca allo stesso livello del team interno di valutazione del rischio dell'azienda.
Il laboratorio di intelligenza artificiale ha affermato di incoraggiare i dipendenti a condividere informazioni con i valutatori proprio come farebbero con i colleghi del dipartimento rischi interno.
Anthropic non pagherà commissioni a METR per questa cooperazione. L'istituto di ricerca non accetta donazioni da società di intelligenza artificiale e dai loro dipendenti. I fondi provengono da donazioni di individui, organizzazioni di assistenza pubblica e agenzie governative come il British Artificial Intelligence Safety Institute.
I valutatori rilasceranno il rapporto di analisi al mondo esterno e Anthropic non ha il diritto di porre il veto sulla pubblicazione del rapporto. Ma le aziende possono chiedere ai valutatori di oscurare determinate categorie di informazioni, come i dati dei clienti, i contenuti protetti dal privilegio avvocato-cliente e i dettagli sull’architettura del modello.
Anthropic continua inoltre a collaborare con Accenture. Le due parti hanno annunciato il mese scorso di essere diventate partner per i test di sicurezza, impegnandosi ciascuna a investire almeno 1 miliardo di dollari per costruire un nuovo sistema di protezione della sicurezza. Esiste anche un'organizzazione di test di terze parti, SecureBio, che esamina specificamente i rischi legati alle armi chimiche e biologiche.
Anthropic ha dichiarato: "Inviamo volontariamente valutatori esterni e crediamo che tutte le aziende all'avanguardia nel campo dell'intelligenza artificiale dovrebbero adottare lo stesso approccio."
Commenti