Riassunto:
Dopo aver incontrato le forti proteste di quasi 800 matematici della comunità accademica che hanno firmato una lettera aperta, il colosso dell'intelligenza artificiale OpenAI ha annunciato di aver ufficialmente ritirato la sua sponsorizzazione e il supporto informatico per l'AI Mathematics Hackathon (Mathathon) del California Institute of Technology (Caltech). Questo concorso universitario, originariamente previsto per il 30 ottobre, è stato accusato di aver trasformato la rigorosa ricerca matematica pura in uno spettacolo promozionale per le società commerciali di intelligenza artificiale e di aver generato molto rumore accademico non testato. Ha innescato una rara tempesta di reazioni negative nei migliori circoli accademici e ha anche messo il co-sponsor Anthropic in un acceso dibattito sull’opportunità di restare o restare.
L'evento hackathon chiamato "Caltech Mathathon" era originariamente previsto per essere supportato da due laboratori all'avanguardia nel campo dell'intelligenza artificiale, OpenAI e Anthropic, con un totale di circa 2 milioni di dollari in punti di potenza di calcolo. L'obiettivo dell'organizzatore è quello di organizzare la partecipazione degli studenti universitari e dei giovani ricercatori per cercare di risolvere problemi matematici di frontiera aperta irrisolti inserendo parole immediate nei modelli linguistici di frontiera più avanzati delle due società. Tuttavia, dopo l’annuncio del piano di attività, esso è stato immediatamente condannato dalla comunità accademica. Gli attuali ed ex studiosi di matematica del Caltech hanno preso l'iniziativa di lanciare una lettera pubblica di protesta, che ha rapidamente ottenuto le firme di ben 771 matematici in tutto il mondo.
La lettera aperta critica senza mezzi termini il fatto che le società commerciali di intelligenza artificiale stiano utilizzando la ricerca matematica pura estremamente seria come "opportunità di pubblicità e marketing a basso costo" e avverte che tali attività di hackathon caratterizzate da un violento accumulo di potenza di calcolo sono "molto probabilmente in grado di causare danni devastanti alla comunità matematica". Gli studiosi sottolineano nella lettera che le cosiddette dimostrazioni lunghe generate da modelli di grandi dimensioni sono spesso piene di "spazzatura matematica dell'intelligenza artificiale (AI slop)" che sembra essere conforme ma in realtà è difficile da verificare. Ciò non solo costringe la comunità accademica a spendere molte preziose energie di revisione tra pari per verificare manualmente i risultati falsi, ma crea anche un rischio morale per gli sponsor che utilizzano la potenza di calcolo per rubare la vera saggezza degli studenti universitari eccezionali.
Di fronte alla feroce resistenza della comunità accademica, Dan Roberts, capo della ricerca presso OpenAI, ha confermato pubblicamente il ritiro della sponsorizzazione e ha dichiarato sui social media che l'azienda si è profondamente resa conto che il rapido progresso dell'intelligenza artificiale nel campo della matematica ha avuto un grave impatto. In futuro, spera di avere un dialogo e una comunicazione più approfonditi con la comunità matematica tradizionale in termini di integrazione di questa tecnologia e di trasmissione del suo impatto sociale. In qualità di co-sponsor, Anthropic non ha ancora risposto positivamente alla domanda se darà seguito al suo ritiro. Il suo silenzio ha innescato un ulteriore confronto e osservazione delle posizioni di espansione accademica dei due laboratori.
Vale la pena notare che questo ritiro della sponsorizzazione avviene durante un periodo delicato in cui la credibilità dei giganti dell'intelligenza artificiale commerciale nella comunità matematica è sottoposta a un duro test. In precedenza, OpenAI era stata coinvolta in diffuse controversie per aver affermato di aver risolto i problemi di esistenza e fluidità dell'equazione di Navier-Stokes attraverso decine di migliaia di agenti IA che lavoravano insieme per 88 ore. Allo stesso tempo, è stato rivelato che l’agenzia era sospettata di aver fatto pressioni su un matematico della New York University affinché rimuovesse coautori con background antropico da un altro importante articolo di matematica, innescando una feroce battaglia tra etica accademica e attribuzione di risultati predatori.
Gli osservatori accademici sottolineano che la matematica è sempre stata la pietra di paragone definitiva per misurare il ragionamento logico e il rigore formale, ed è anche il campo di battaglia principale per i laboratori di intelligenza artificiale per competere per il diritto di parlare delle capacità dei modelli di prossima generazione. Tuttavia, la resistenza del gruppo incontrata dal Caltech Hackathon mostra chiaramente che l’output del modello guidato dalla pura potenza di calcolo ingegneristica e dalle pubbliche relazioni, se separato dalle rigide norme di verifica e dalla fiducia reciproca dei colleghi della comunità accademica tradizionale, alla fine sarà difficile superare il profondo divario della legittimità accademica. Il ritiro forzato di OpenAI non è solo una battuta d’arresto per la reputazione pubblica, ma anche un campanello d’allarme per le regole di collaborazione tra l’intero settore dell’intelligenza artificiale e la ricerca scientifica più radicale.
Commenti