Riassunto:
Le tensioni tra OpenAI e la comunità matematica si sono nuovamente intensificate. Il vincitore della Medaglia Fields Terence Tao ha recentemente ripubblicato una dichiarazione rilasciata dall'Association for Human Mathematics (AHM) sul suo blog personale, criticando OpenAI per aver ignorato le norme di ricerca nella comunità matematica e invitando i matematici a smettere di collaborare con essa. La controversia nasce da una serie di manoscritti di ricerca matematica pubblicati da OpenAI. Il suo modello interno ha cercato di risolvere circa 4.000 problemi matematici e infine ha compilato materiali di ricerca comprendenti 372 serie di risultati e ha divulgato alcuni codici di prova formali Lean.
Tuttavia, la portata dei risultati non è stata riconosciuta all'unanimità dalla comunità accademica. Ciò che interessa ai matematici non è solo se la dimostrazione è corretta, ma anche se la derivazione può essere compresa, se il lavoro precedente viene citato completamente e se nuovi metodi possono essere integrati nel sistema di conoscenza esistente attraverso la discussione tra pari.
La verifica formale può verificare la derivazione logica, ma non può sostituire automaticamente la revisione manuale del significato della proposizione, del contributo alla ricerca e del background accademico. "La pubblicazione contemporanea di più di 700 documenti non dimostra la ricerca accademica, ma il potere", si legge nella dichiarazione.
Dana Moshkovitz, una scienziata informatica teorica che è stata profondamente coinvolta per molto tempo nella congettura del gioco unico, ha immediatamente studiato i documenti rilevanti rilasciati da OpenAI e ha detto che i documenti erano pieni di strutture incomprensibili, passaggi di ragionamento poco chiari e riferimenti letterari confusi. Scott Aaronson, scienziato informatico teorico presso l’Università del Texas ad Austin, ha descritto il giorno del lancio di OpenAI come “l’apocalisse della matematica”.
Alcuni utenti della rete ritengono che le opinioni di Terence Tao siano troppo estreme e non dovrebbero bloccare lo sviluppo di una tecnologia che potrebbe avvantaggiare tutti. Bryna Kra, matematica della Northwestern University, ritiene che l’intelligenza artificiale dovrebbe aiutare i ricercatori a esplorare problemi difficili da risolvere in passato, ma le aziende dovrebbero pubblicare i loro risultati in un modo più coerente con gli standard accademici in modo che i colleghi possano verificare, comprendere e continuare la ricerca.
Il nocciolo del conflitto tra le due parti è il divario tra la velocità con cui l'intelligenza artificiale genera risultati e la comprensione umana. La ricerca matematica tradizionale richiede una spiegazione graduale delle dimostrazioni e il miglioramento dei metodi attraverso articoli, seminari e scambi tra pari; quando i laboratori commerciali pubblicano centinaia di manoscritti complessi contemporaneamente, i costi della successiva verifica, revisione e integrazione delle conoscenze possono essere trasferiti alla comunità accademica. Le agende di ricerca, le cadenze di pubblicazione e le risorse modello sono quindi sempre più influenzate da una manciata di aziende tecnologiche.
Questa controversia non è nata all'improvviso. Terence Tao ha precedentemente firmato una dichiarazione con altri 24 vincitori della medaglia Fields, avvertendo le aziende di intelligenza artificiale che l'utilizzo dei problemi matematici come punto di riferimento per le capacità dei modelli può deviare la concorrenza tecnologica dall'intenzione originale di perseguire comprensione e intuizioni nella ricerca matematica.
Il 29 settembre, il gruppo consultivo sulla matematica e l'intelligenza artificiale (AGMAI) ha emesso raccomandazioni chiaramente contrarie ai laboratori di intelligenza artificiale all'avanguardia che utilizzano modelli interni inaccessibili al mondo esterno per testare difficili problemi matematici.
OpenAI ha dichiarato che questo rilascio si basava sulle raccomandazioni di AGMAI; AHM ritiene che la società abbia ignorato la premessa fondamentale delle raccomandazioni e pertanto ha invitato i matematici a interrompere la collaborazione con OpenAI. Inoltre, l'AGMAI richiede ai laboratori di non utilizzare il rilascio di risultati matematici come strumento di marketing per promuovere i modelli. Le versioni correlate dovrebbero divulgare informazioni quali nomi di modelli, parole chiave, costi della potenza di calcolo e record di guasti.
Mentre l'intelligenza artificiale continua a migliorare le proprie capacità di produzione della ricerca scientifica, la comunità matematica non si trova più ad affrontare la questione se le macchine possano dimostrare teoremi, ma anche chi decide la direzione della ricerca, chi sostiene i costi della verifica e come garantire che il progresso tecnologico sia ancora al servizio dell'accumulo di conoscenza.
Commenti