Riassunto:
OpenAI ha recentemente annunciato la creazione di un gruppo consultivo indipendente composto dai migliori matematici per fornire consulenza a OpenAI e ad altre società di intelligenza artificiale sul rapporto tra intelligenza artificiale e ricerca matematica. La nuova organizzazione, denominata Gruppo consultivo sulla matematica e l’intelligenza artificiale (AGMAI), si concentrerà su come i risultati matematici prodotti dall’intelligenza artificiale dovrebbero essere rivisti, pubblicati e diffusi e su come le società di intelligenza artificiale dovrebbero seguire norme accademiche e professionali di lunga data nel campo della ricerca matematica.
Questa mossa è avvenuta dopo che OpenAI ha recentemente annunciato una serie di importanti risultati matematici. Negli ultimi mesi, i modelli di intelligenza artificiale di OpenAI hanno apportato una serie di sviluppi accattivanti nel campo della matematica. Tuttavia, anche il modo in cui vengono pubblicati i risultati rilevanti e le questioni relative alla citazione e all’attribuzione della ricerca matematica esistente hanno innescato diffuse controversie nella comunità dei matematici. Alcuni matematici si chiedono se OpenAI comprenda appieno come funziona la ricerca matematica e se le società di intelligenza artificiale rispettino le norme consolidate di attribuzione, priorità e comunicazione accademica nella comunità matematica.
AGMAI ha un totale di nove membri, che provengono dall'Università di Stanford, dall'Università di Harvard, dall'Università di Oxford, dall'Università di Cambridge e da altre istituzioni, tra cui molti studiosi di spicco nel campo della matematica e vincitori della medaglia Fields e del "genius Grant" MacArthur. L'organizzazione sarà ospitata dall'Institute for Advanced Study di Princeton, New Jersey, USA. Un tempo era il luogo di ricerca di famosi scienziati come Albert Einstein, John von Neumann e J. Robert Oppenheimer. È anche una delle istituzioni accademiche più influenti nel campo della ricerca matematica moderna.
OpenAI ha dichiarato che questa organizzazione rimarrà indipendente e avrà il potere di fornire in modo proattivo suggerimenti a OpenAI, anche se i suggerimenti pertinenti non vengono proposti in modo proattivo da OpenAI. Il gruppo consultivo può anche discutere apertamente l’impatto dell’intelligenza artificiale nel campo della matematica e decidere a propria discrezione se rendere pubbliche le sue raccomandazioni. OpenAI ha dichiarato che i membri del gruppo consultivo non riceveranno alcun compenso da OpenAI e potranno modificare da soli la composizione dei membri.
Secondo OpenAI, il gruppo consultivo aiuterà l'azienda a determinare quanto siano significativi i nuovi risultati matematici generati dall'intelligenza artificiale e fornirà opinioni su come coordinare il rilascio di questi risultati e su come rispettare le norme accademiche e professionali per la ricerca matematica. Inoltre, il gruppo discuterà di come gli strumenti di intelligenza artificiale di OpenAI possano supportare meglio la ricerca e l’insegnamento della matematica.
OpenAI sottolinea che il valore reale di questa organizzazione dipende dalla capacità dei membri di esprimere giudizi indipendenti e mettere in discussione l'azienda. In altre parole, il gruppo consultivo non si limita a fornire l’approvazione dei risultati della ricerca di OpenAI, ma spera di fornire pareri indipendenti da parte della comunità matematica prima che i risultati vengano pubblicati.
Tuttavia, dopo l'annuncio di questo accordo, ci sono ancora molte domande nella comunità matematica. Il primo è come sono stati selezionati esattamente questi nove membri. Simon Machado, ricercatore presso il Politecnico federale di Zurigo, ritiene che ci siano ancora molti aspetti oscuri nell'intero processo. Secondo l'introduzione sul sito ufficiale dell'AGMAI, OpenAI ha inizialmente contattato alcuni matematici nella speranza di istituire un comitato consultivo esterno; dopo aver discusso con OpenAI, questi matematici hanno finalmente deciso di creare un'organizzazione indipendente e hanno invitato altri membri ad aderirvi. Ma chi è stato inizialmente contattato da OpenAI e come sono stati identificati i restanti membri non è stato completamente rivelato.
Martin Hairer, membro del gruppo consultivo, ha successivamente pubblicato un articolo per spiegare il gran numero di dubbi che circondano il processo di formazione di questa organizzazione. Ha affermato che l’intelligenza artificiale ha avuto un profondo impatto sulla ricerca matematica e ha sollevato una serie di questioni come l’attribuzione dei risultati, le priorità di ricerca e se gli esseri umani comprendono veramente le idee matematiche generate dall’intelligenza artificiale. Pertanto, non sarebbe realistico per la comunità matematica adottare un approccio completamente senza contatto con i laboratori di intelligenza artificiale e ignorare semplicemente queste aziende.
Hairer ha sottolineato in particolare che, sebbene la creazione del gruppo consultivo sia nata dal contatto con OpenAI, non tutti i nove membri sono stati contattati direttamente da OpenAI e l'organizzazione alla fine creata era indipendente da OpenAI e da altre società di intelligenza artificiale all'avanguardia. Al di là dei normali requisiti di riservatezza, i membri non firmano accordi che limitano la loro espressione pubblica di opinioni e non ricevono alcun compenso finanziario da OpenAI. L'organizzazione si affida principalmente all'Institute for Advanced Study di Princeton per il supporto tecnico e organizzativo.
Hairer ha affermato che l'obiettivo più importante del gruppo consultivo è rappresentare il più possibile gli interessi dell'intera comunità matematica. Riconobbe anche che è ovviamente impossibile per nove matematici essere un rappresentante completo dell'intera comunità matematica, ma riteneva che tutti i membri prendessero molto sul serio questa responsabilità e avrebbero partecipato con buona fede e giudizio indipendente.
Le dimensioni ridotte del comitato consultivo sollevano anche un altro livello di preoccupazione. La matematica moderna è diventata altamente specializzata e spesso esistono barriere conoscitive molto evidenti tra i diversi campi. Persino i migliori matematici del mondo potrebbero non essere in grado di giudicare i risultati dell’intelligenza artificiale in un altro campo altamente specializzato. Pertanto, alcuni matematici sono preoccupati se solo nove studiosi di alto livello possano coprire l’intero campo di ricerca matematica che l’intelligenza artificiale può coinvolgere.
Francesco Fournier-Facio, professore entrante di matematica all'Università Heriot-Watt in Scozia, ha affermato di avere un atteggiamento contrastante nei confronti del gruppo consultivo. Da un lato, ritiene che consentire alle aziende di intelligenza artificiale di comunicare di più con i matematici aiuterà ovviamente a migliorare lo status quo; d’altro canto, si chiede anche se questa organizzazione composta da un piccolo numero di studiosi di alto livello possa davvero rappresentare il vasto numero di ricercatori di matematica che sono colpiti dal rapido sviluppo dell’intelligenza artificiale. Secondo lui l'organizzazione attualmente assomiglia più ad una "torre d'avorio" composta da figure accademiche di alto livello.
Se il gruppo consultivo riuscirà a conquistare la fiducia della comunità matematica in futuro dipende in gran parte dall'impatto effettivo che potrà avere su OpenAI. Vale la pena notare in particolare che quando OpenAI ha annunciato la creazione di un gruppo consultivo, ha anche rivelato una notizia sorprendente: un nuovo modello che l'azienda sta sviluppando e che non è stato ancora rilasciato ufficialmente, che in precedenza si diceva avesse risolto il problema del Premio Navier-Stokes Millennium, ora ha risolto più di 100 problemi matematici irrisolti a lungo termine, e questi problemi sono distribuiti in un gran numero di diversi campi della matematica.
OpenAI ha precedentemente annunciato che il modello sta affrontando un altro problema del Premio Millennio. Poiché i modelli di intelligenza artificiale continuano a produrre nuovi risultati matematici, come rivedere, verificare, organizzare e pubblicare un gran numero di risultati di ricerca in un breve periodo di tempo è diventato un vero problema. AGMAI ha dichiarato sul suo sito ufficiale che uno dei primi compiti che deve attualmente affrontare è quello di aiutare OpenAI a coordinare il rilascio di un gran numero di importanti risultati matematici generati da modelli di intelligenza artificiale interni.
Ciò spiega anche perché questo gruppo consultivo è stato istituito in questo momento. Negli ultimi mesi, i continui progressi di OpenAI nel campo della matematica avrebbero dovuto essere un'importante dimostrazione del miglioramento delle capacità dell'intelligenza artificiale, ma gli eventi correlati sono stati accompagnati da una serie di controversie. Alcuni matematici ritengono che quando OpenAI annunciò i suoi risultati, non spiegò completamente il contributo della precedente ricerca umana ai risultati dell’intelligenza artificiale, e non sempre gestisse le citazioni e le questioni prioritarie in un modo familiare alla comunità matematica. Alcuni ricercatori hanno addirittura accusato OpenAI di utilizzare i risultati della loro ricerca senza dargli il giusto credito.
Queste controversie alla fine hanno portato alcuni matematici a chiedersi se OpenAI capisca davvero come opera la comunità di ricerca matematica.
Kevin Buzzard, professore di matematica all'Imperial College di Londra, ha chiesto: Dato che negli ultimi mesi c'è stata molta discussione pubblica nella comunità matematica, le richieste dei matematici affinché l'intelligenza artificiale partecipi alla ricerca matematica sono state espresse chiaramente, quindi perché OpenAI ha bisogno di un comitato composto dai migliori matematici del mondo per comprendere questi problemi? A suo avviso, il problema non è che nella comunità matematica manchino persone in grado di risolvere teoremi difficili, ma che le società di intelligenza artificiale hanno bisogno di comprendere meglio la disciplina della matematica e le regole della stessa comunità di ricerca matematica.
AGMAI sta attualmente raccogliendo input dalla comunità matematica, anche attraverso scambi con altri matematici, moduli di feedback pubblici e piattaforme di discussione come Proofs and Prompts. Queste piattaforme sono recentemente diventate luoghi importanti per discutere l’impatto dell’intelligenza artificiale nella comunità dei matematici.
Allo stesso tempo, i problemi affrontati da OpenAI sono andati ben oltre la semplice pubblicazione di alcuni articoli. Poiché l’intelligenza artificiale inizia a produrre in modo indipendente risultati matematici che non sono stati risolti da molto tempo, le domande più basilari nella ricerca matematica, come “chi ha scoperto cosa per primo”, “chi dovrebbe ottenere la firma” e “quale ricerca umana ha fornito la base per i risultati finali”, devono essere ridefinite.
Si tratta anche di un cambiamento fondamentale portato dall'attuale ingresso dell'intelligenza artificiale nel campo della ricerca matematica. La ricerca matematica tradizionale di solito si basa sulla pubblicazione pubblica di articoli da parte dei ricercatori, sulla citazione di lavori precedenti, sulla revisione tra pari e sulla continua elaborazione dei risultati esistenti. L’intelligenza artificiale può leggere ed elaborare enormi quantità di conoscenza esistente in un tempo molto breve e generare nuove derivazioni matematiche. Quando gli esseri umani non riescono a tracciare completamente i percorsi attraverso i quali l’IA ottiene un risultato, i metodi tradizionali di attribuzione dei risultati e di giudizio delle priorità diventano più complicati.
La recente controversia sulla soluzione di OpenAI al problema Navier-Stokes ha particolarmente evidenziato questo problema. OpenAI ha indagato sulla controversia rilevante e ha affermato che una parola tempestiva inviata da un matematico utilizzando Codex difficilmente avrebbe influenzato la soluzione finale del problema al sistema. Tuttavia, tali incidenti preoccupano ancora alcuni matematici. In futuro, potrebbe diventare sempre più difficile determinare con precisione su quale tipo di ricerca umana si basa un risultato matematico prodotto dall’intelligenza artificiale.
Il membro dell'AGMAI Hairer ha anche ammesso che il gruppo consultivo deve diffidare del fatto che le società di intelligenza artificiale possano interpretare o utilizzare le opinioni del gruppo consultivo in base alle proprie esigenze di pubbliche relazioni. Tuttavia, ritiene che, una volta che l’intelligenza artificiale sarà inevitabilmente entrata nella ricerca matematica, il rifiuto totale di comunicare con le società di intelligenza artificiale non risolverà il problema. Invece di isolare la comunità matematica dall’industria dell’intelligenza artificiale, dovremmo cercare di stabilire una serie di regole di base che entrambe le parti possano accettare.
Per OpenAI, la creazione di questo gruppo consultivo significa anche che l'azienda si trova ad affrontare una realtà che prima non conosceva: l'intelligenza artificiale si è gradualmente trasformata da strumento ausiliario per la ricerca matematica in un partecipante alla ricerca che può produrre direttamente nuovi risultati matematici, e la comunità matematica tradizionale non ha stabilito regole già pronte per questo cambiamento.
In futuro, AGMAI potrebbe dover risolvere non solo quando e come rilasciare la prossima serie di risultati matematici OpenAI, ma anche come firmare i risultati matematici generati dall'intelligenza artificiale, come citare la ricerca umana, come confermare l'indipendenza dei risultati e che tipo di relazione cooperativa dovrebbe essere stabilita tra matematici e sistemi di intelligenza artificiale. Poiché OpenAI afferma che il suo nuovo modello ha risolto più di 100 problemi matematici irrisolti da tempo, questi problemi si stanno rapidamente spostando dalle discussioni teoriche ai problemi della vita reale che devono essere affrontati.
Commenti