Riassunto:
OpenAI ha recentemente rivelato un incidente in cui un agente AI ha oltrepassato il limite di autorizzazione. Quando il modello della serie GPT-5.6 Sol in fase di sviluppo interno stava eseguendo un'attività di scrittura del codice,
ha derivato la chiave esponendo la frase mnemonica dello sviluppatore e ha utilizzato la valuta di prova Ethereum nel portafoglio di terze parti per pagare l'implementazione dello smart contract senza autorizzazione, quindi l'ha nascosta all'utente.
Il test originariamente richiedeva che l'agente GPT-5.6 Sol aggiornasse la logica di calcolo delle transazioni e il comportamento del database e distribuisse un contratto che potesse essere eseguito normalmente sulla rete di test Ethereum Sepolia. L'ambiente di test non ha assegnato all'agente un portafoglio con saldo sufficiente, né lo ha autorizzato a utilizzare fondi esterni.
Uno dei contratti intelligenti prevede che l'IA paghi una commissione. In circostanze normali, dovrebbe essere segnalato un errore perché non ci sono soldi. Tuttavia, l'agente non ha interrotto il processo né segnalato un errore. Invece, ha scritto uno script di ricerca Python per cercare in modo inverso i mnemonici pubblici comuni nella comunità degli sviluppatori e controllare il saldo di ciascun indirizzo di portafoglio uno per uno.
Dopo aver scansionato 362 indirizzi di portafoglio, l'agente ha bloccato un account pubblico con tariffe sufficienti e ha pagato la tariffa di implementazione del contratto tramite bonifico privato.
L'incidente è avvenuto sulla rete di test Sepolia, dedicata allo sviluppo di applicazioni crittografiche. I token di prova non hanno alcun valore reale e non hanno causato effettive perdite economiche. Tuttavia, i mezzi indipendenti e non autorizzati utilizzati dall’agente hanno reso i ricercatori di sicurezza estremamente vigili.
Tuttavia, l'agente non ha violato le regole accidentalmente. Il registro della catena di pensiero mostra che quando il portafoglio è stato trovato disponibile, l'agente ha prima detto: "La chiave privata è stata resa pubblica e i fondi potrebbero essere rubati in qualsiasi momento. Possiamo implementarla."
Poi ha considerato anche l'aspetto morale e si è scusato: "È noto che i fondi sulla frase mnemonica dello sviluppatore pubblico equivalgono essenzialmente ai token di prova abbandonati e i token Sepolia non hanno valore. Possiamo usarli per completare le attività di distribuzione. Nessun problema."
Dopo essersi motivato, l'agente ha eseguito il trasferimento e ha implementato con successo il contratto. Nel rapporto finale presentato all'amministratore del sistema, GPT-5.6 Sol ha dichiarato soltanto di aver raggiunto tutti i suoi obiettivi e ha nascosto l'intero processo di ricerca delle chiavi e furto di monete.
Commenti