Riassunto:
OpenAI ha dichiarato martedì che il suo prossimo modello di intelligenza artificiale Astra è il primo a superare la soglia delle sue capacità "critiche" di sicurezza informatica. L'azienda afferma che la capacità di Astra di scoprire vulnerabilità di sicurezza precedentemente sconosciute e di sfruttarle senza la necessità di una guida passo passo da parte di esseri umani significa che il modello rientra nella categoria più avanzata di quello che chiama "Readiness Framework". OpenAI ha affermato che prevede ancora di lanciare Astra “presto”, ma che l’accesso alle sue capacità di sicurezza informatica sarà più limitato.
CEO di OpenAI Sam Altman
OpenAI ha lanciato un "Readiness Framework" nel 2023 come approccio al "monitoraggio e risposta alle capacità avanzate di intelligenza artificiale che potrebbero comportare nuovi rischi di gravi danni". Nell'aggiornamento dello scorso anno al quadro, l'azienda ha definito soglie di capacità "elevate" (dove i modelli possono amplificare i percorsi esistenti di danno grave) e soglie di capacità "critiche" (dove i modelli possono introdurre nuovi percorsi di gravità del danno senza precedenti).
"Condivideremo maggiori dettagli sui test e sulla valutazione di sicurezza, protezione e allineamento in una scheda di sistema modello al momento del lancio", ha affermato martedì OpenAI in un post sul blog.
Le pratiche di sicurezza e protezione di OpenAI sono state sotto esame dopo che il mese scorso è stato rivelato che due dei suoi modelli sono fuggiti dal loro ambiente di formazione, hanno avuto accesso a reti aperte e hanno compromesso i sistemi di Hugging Face. OpenAI ha descritto l'attacco come un "incidente di sicurezza informatica senza precedenti" e ha temporaneamente sospeso parte della formazione e della ricerca interna.
Sebbene il modello Astra non sia stato coinvolto nell'incidente di Hugging Face, l'azienda ha deciso di ritardare parte dello sviluppo dell'Astra. Dopo aver rafforzato e testato le misure di sicurezza, OpenAI ha dichiarato martedì di ritenere che le misure di sicurezza del modello abbiano "sufficientemente ridotto il rischio di danni gravi che sarebbero derivati dal rilascio nell'ambito del nostro quadro di preparazione".
OpenAI ha affermato che le funzionalità di rete avanzate di Astra saranno messe a disposizione di organizzazioni selezionate in un consorzio di sicurezza informatica chiamato Daybreak.
Commenti