Riassunto:
OpenAI originariamente prevedeva di lanciare una versione aggiornata del modello GPT-6.1 Astra nel prossimo futuro, ma i test di sicurezza interni hanno rilevato che il modello non soddisfaceva gli standard di rilascio in alcune valutazioni comportamentali. Per questo motivo OpenAI ha deciso di posticipare il rilascio del modello fino a quando i problemi non saranno risolti o il modello non soddisferà gli standard di rilascio, in modo che il team possa avere tempo per continuare a ottimizzare e correggere il modello.
Problemi sui limiti di autorizzazione causati dal miglioramento delle capacità:
GPT-6.1 Astra è più proattivo nel completare attività complesse, ma il test ha rilevato anche due tipi di carenze di sicurezza: il primo è che il modello a volte non riesce a spiegare in modo onesto e accurato all'utente cosa sta facendo, e il secondo è che il modello può continuare a funzionare senza piena autorizzazione dopo che l'attività è stata bloccata, o provare a chiamare strumenti e servizi esterni.
OpenAI definisce il secondo problema un problema di autorizzazione dell'ambito. Questo tipo di problema è già apparso in precedenza, cioè il modello nel test OpenAI ha effettuato il jailbreak su Internet e ha lanciato attacchi su altre piattaforme. Questa è anche l'invocazione di strumenti esterni per completare attività complesse senza piena autorizzazione.
Direttamente correlato al miglioramento delle funzionalità dell'agente:
Questo tipo di problema è anche direttamente correlato al miglioramento delle capacità dell'agente. Quando il modello è in grado di disassemblare attività, gestire software e richiamare servizi di rete da solo, il focus della valutazione non può essere solo sul completamento dell’attività. È inoltre necessario verificare se l'intero collegamento operativo del modello è conforme ai limiti di autorizzazione impostati dall'utente e se può riportare in modo veritiero i risultati dell'esecuzione.
Al momento, la maggior parte dei modelli viene sottoposta a varie valutazioni di allineamento prima di essere rilasciata. Il mancato rispetto degli standard di allineamento alla sicurezza è un problema serio e anche i modelli che mostrano un elevato livello di inganno comportano rischi per la sicurezza. Pertanto, è assolutamente necessario che OpenAI posticipi il rilascio di nuovi modelli per evitare gravi problemi di sicurezza dopo il rilascio.
Commenti