OpenAI è accusata di utilizzare risultati non divulgati di altri per risolvere il problema della matematica del Millennio

Riassunto:

Tristan Buckmaster, professore di matematica della New York University, ha annunciato martedì tre dimostrazioni, incluso un risultato preliminare che indica un importante problema irrisolto nella matematica teorica. Ha anche accusato OpenAI di aver ottenuto informazioni rilevanti sui progressi prima che la sua ricerca fosse resa pubblica e di aver approfittato delle sue enormi risorse informatiche per pubblicare prima una prova completa.

I problemi di esistenza e fluidità di Navier-Stokes coinvolti questa volta sono uno dei sette "Problemi del Premio del Millennio" stabiliti dal Clay Mathematics Institute, con una ricompensa di 1 milione di dollari. L'equazione di Navier-Stokes è ampiamente utilizzata nella meccanica dei fluidi, ma la ricerca teorica è ancora insufficiente. OpenAI ha successivamente pubblicato una prova completa dell'esistenza e del problema della fluidità di Navier-Stokes, e la scoperta di Buckmaster aveva precedentemente compiuto passi avanti verso questo problema. Secondo OpenAI, questo lavoro durato una settimana ha consumato un totale di

300 miliardi di token di output

——Se calcolato in base alle attuali tariffe Astra, equivale a

22,5 milioni di dollari USA

costo di calcolo.

OpenAI è stata accusata di non aver avviato lo sprint finché non è stata informata dei progressi

"C'è un'altra parte della storia di cui, a dire il vero, vorrei tanto non dovermi preoccupare", ha scritto Buckmaster in una nota. Mentre lui e Alpöge stavano completando la propria ricerca, ha detto, hanno appreso che "le informazioni sui nostri progressi erano state trasmesse a OpenAI". Dopo aver contattato OpenAI, l'altra parte ha affermato di aver ottenuto una prova completa del problema principale. Ma quando è stato chiesto quando OpenAI ha iniziato a studiare questo problema e quanta manodopera ha investito, le risposte dell’altra parte sono diventate sempre più vaghe.

"Si è scoperto che un intero team stava già lavorando al problema, utilizzando un'incredibile quantità di calcoli... Alla fine, si è concordato che

il primo suggerimento è arrivato entro pochi giorni da quando le informazioni sul nostro lavoro avevano raggiunto OpenAI

. "Buckmaster ha detto.

Se questa affermazione è vera, significa che il team di OpenAI ha ritenuto che la direzione di ricerca di Buckmaster e Alpöge fosse corretta e ha deciso di sfruttare i suoi enormi vantaggi in termini di risorse informatiche per fornire prima una prova formale. L'annuncio di OpenAI conferma gran parte della cronologia, in particolare sottolineando che l'ultimo tentativo è iniziato il 1 settembre, in seguito alle voci secondo cui "due enigmi del millennio erano stati risolti". L'annuncio conferma anche le conversazioni in corso con Buckmaster e Alpöge.

Metodi unici e controversie sulle firme

Buckmaster ha affermato che, sebbene i matematici abbiano studiato approfonditamente il problema, la strategia specifica adottata da lui e dai suoi collaboratori era tutt'altro che convenzionale, portandolo a chiedersi perché OpenAI avrebbe adottato lo stesso approccio nello stesso momento.

"Il percorso verso il problema di Clay attraverso le forze di livellamento, opzioni c e d nella dichiarazione di Fefferman, è il percorso aperto da Luis e Diego, e il percorso che Levent e io abbiamo tranquillamente scelto di attaccare." Buckmaster ha scritto: "Per quanto ne so, quasi nessuno sta lavorando su questo percorso. Questa non è una direzione che può essere raggiunta consegnando la dichiarazione del problema al modello e impiegando qualche giorno."

Anche se Alpöge è dipendente di Anthropic, questa ricerca non è stata condotta per conto dell'azienda. Pertanto, i due hanno utilizzato una varietà di modelli, basandosi principalmente sul Codex di OpenAI. Anche così, il rapporto di Alpöge con i laboratori rivali sembra essere diventato un punto dolente per OpenAI. Buckmaster ha detto che Bubeck di OpenAI gli ha chiesto di rimuovere l'attribuzione di Alpöge da una proposta di compromesso.

Quando Buckmaster ha insistito per rendere pubblica la controversia, Bubeck ha risposto: "Perché dovresti rovinarti la carriera?" Buckmaster ha detto che dopo la replica di Buckmaster, Bubeck ha detto: "Se non vuoi che io sia gentile, non devo essere gentile."

Preoccupazioni relative ai dati di addestramento e risposta di OpenAI

Buckmaster teme inoltre che, poiché utilizza ampiamente Codex durante la creazione di progetti, le informazioni sul suo lavoro potrebbero alimentare gli sforzi di risoluzione dei problemi di OpenAI. OpenAI si riserva il diritto di addestrare in modo interattivo i modelli utilizzando il Codex, sebbene gli utenti possano rinunciare. Se il team OpenAI utilizza un modello basato sulla formazione interattiva Codex di Buckmaster, è possibile che il modello "ripeta" il suo lavoro di fronte a problemi simili.

OpenAI ha minimizzato la possibilità di recupero della memoria nel suo annuncio: "Noi (ricercatori e agenti) non abbiamo visto in alcun modo nessuno dei loro lavori prima che fossero rilasciati pubblicamente e, in particolare, non abbiamo avuto accesso a nessun dato utente specifico per comprendere questo problema." L'annuncio affermava: "Sebbene improbabile, non possiamo escludere che l'uso di dati non identificati generati dal nostro prodotto abbia contribuito a migliorare il nostro modello. Tuttavia, le nostre dimostrazioni differiscono in modo significativo e anche i risultati precisi nel caso Eulero sono diversi (forzati vs. non forzati)."

A prescindere dalla controversia, è probabile che la questione riaccenda il dibattito in corso sul ruolo dell'intelligenza artificiale nella ricerca matematica e sulle motivazioni specifiche di OpenAI al suo interno. Buckmaster sembra credere che la risposta migliore sia quella di rendere disponibili al pubblico quante più informazioni possibili sulla ricerca.

Articoli correlati:

Si dice che il modello AI interno inedito di OpenAI risolva il problema dell'equazione di Navier-Stokes