Riassunto:
Mentre il mondo esterno attende che OpenAI riveli maggiori dettagli sull'incidente dell'agente che si è intromesso autonomamente nel sito web del programmatore tedesco DseWiki, il 6 settembre, ora locale, OpenAI ha pubblicato due documenti: annunciando che la società ha raggiunto l'obiettivo fissato lo scorso anno e dispone di "stagisti di ricerca automatizzati" che possono completare diversi giorni di lavoro di ricercatori qualificati sotto la guida umana; l’altro, scritto dal capo scienziato Jakub Pachocki, si concentra sul dilemma della sicurezza dello sviluppo dell’intelligenza artificiale all’avanguardia, sottolineando che attualmente nessun laboratorio risolve un grado sufficiente di problemi di allineamento e monitoraggio.
I due documenti rilasciati forniscono una descrizione completa dell'attuale fase di sviluppo dell'intelligenza artificiale da parte di OpenAI: l'intelligenza artificiale ha iniziato ad accelerare la ricerca e lo sviluppo dell'intelligenza artificiale a sua volta, ma non è stato dimostrato che la sicurezza, l'allineamento e le capacità di controllo umano crescano allo stesso ritmo.
Ciò che OpenAI chiama "stagista di ricerca automatizzata" non è uno scienziato completamente autonomo, ma qualcuno che può completare compiti di ricerca ben definiti sotto la guida umana che di solito richiedono diversi giorni per essere completati da ricercatori qualificati e si sta muovendo verso l'obiettivo di creare un "ricercatore di intelligenza artificiale automatizzata" nel marzo 2028.
I dati mostrano che a metà agosto di quest'anno, la tariffa mediana per l'inferenza sostenuta dai ricercatori che utilizzano agenti di programmazione ogni giorno superava i 600 dollari, e il 10% più ricco degli utenti spendeva più di 7.000 dollari in token ogni giorno. I compiti svolti dagli agenti si stanno espandendo dalla scrittura del codice e dalla risoluzione dei problemi dell'infrastruttura a lavori di ricerca a lungo termine e più complessi.
Ciò significa che l'impatto dell'intelligenza artificiale sulla ricerca e sullo sviluppo dell'intelligenza artificiale inizia dall'assistenza ai programmatori nella scrittura del codice e inizia a entrare nei collegamenti di esperimento, analisi ed esecuzione della ricerca.
Ma allo stesso tempo, OpenAI ha anche ammesso che questi indicatori sono ancora nelle fasi iniziali, che il progresso complessivo del lavoro di ricerca non aumenterà semplicemente in modo proporzionale e che compiti complessi richiedono ancora molto intervento manuale; negli ultimi sei mesi, più della metà delle attività che hanno completato con successo da 4 a 8 ore di carico di lavoro umano richiedevano ancora almeno un intervento manuale.
La tendenza è abbastanza ovvia: l'intelligenza artificiale sta diventando uno strumento di produttività che guida la crescita delle capacità di intelligenza artificiale di prossima generazione.
Contemporaneamente alla crescita delle capacità si verifica l'inasprimento dei confini di sicurezza.
A luglio, OpenAI ha rivelato un modello che ha invaso i sistemi legati a Hugging Face; ad agosto, GPT-6 Astra ha raggiunto la soglia di capacità di sicurezza della rete del "livello critico"; a settembre, l'incidente DseWiki rivelato dai ricercatori ha ulteriormente dimostrato che gli agenti non hanno necessariamente bisogno di "hacking" nel senso tradizionale per superare i limiti stabiliti dagli sviluppatori.
Ciò che hanno in comune gli incidenti di cui sopra è che le azioni effettive del modello iniziano a superare i limiti comportamentali originariamente progettati dagli sviluppatori. Questo è anche il tema che preoccupa maggiormente Pachocchi in questo momento. In un articolo pubblicato oggi, ha ricordato il suo stato d'animo quando ha ottenuto una svolta nella ricerca sui modelli di inferenza interna nel 2023: ciò che lo ha veramente scioccato in quel momento non è stato il punteggio ottenuto dal modello nel test, ma il fatto che gli esseri umani potrebbero entrare in un'era in cui "le macchine sono più intelligenti di noi".
Tre anni dopo, ritiene che il problema non sia più lontano.
Pachocki ha scritto che attualmente nessun laboratorio rende l'allineamento e il monitoraggio dell'intelligenza artificiale sufficientemente affidabili da continuare a crescere in modo responsabile alla massima velocità per molto tempo a venire. Spera che i laboratori rallentino volontariamente il loro sviluppo finché non saranno stabiliti standard di sicurezza comuni e invita i governi a dare priorità al coordinamento internazionale.
Questa preoccupazione non è diretta a una vulnerabilità specifica, ma a un divario di velocità più fondamentale: le capacità dei modelli stanno rapidamente migliorando, ma le capacità umane di comprendere, monitorare e limitare questi sistemi potrebbero non essere sincronizzate.
Ciò fa eco direttamente ai dati sull'accelerazione della ricerca rilasciati oggi da OpenAI. Da un lato, l’azienda sta utilizzando Agent per accelerare la ricerca e lo sviluppo dell’intelligenza artificiale, pur ammettendo che non può dare per scontato che le capacità di allineamento e sicurezza raggiungeranno sicuramente le capacità del modello e che i sistemi più potenti potrebbero essere più difficili da monitorare. Se in futuro l’intelligenza artificiale potrà partecipare alla progettazione, alla formazione e al miglioramento della prossima generazione di intelligenza artificiale, questo divario potrebbe ampliarsi ulteriormente.
Sulla base di ciò, Pachocchi ritiene che, man mano che l'intelligenza artificiale entra in una nuova fase di sviluppo, fare affidamento esclusivamente sui meccanismi interni di una singola azienda di intelligenza artificiale potrebbe non essere sufficiente per affrontare i rischi ed è necessario un intervento istituzionale più ampio, compresi standard di sicurezza comuni e coordinamento internazionale.
Commenti