Riassunto:
Il vincitore della Medaglia Fields e famoso matematico Terence Tao ha recentemente lanciato un avvertimento sulla crescente dipendenza dell'umanità dall'intelligenza artificiale. Teme che, man mano che le persone affidano gradualmente i loro processi di pensiero e di risoluzione dei problemi all’intelligenza artificiale, gli esseri umani stiano perdendo la comprensione dei problemi stessi e delle loro soluzioni, e questa tendenza potrebbe presto avere gravi conseguenze nel mondo reale.
Queste osservazioni provengono dal discorso di Terence Tao al Summit Science x AI tenutosi presso l'Università della California, a Los Angeles, il 16 ottobre. La Science and Artificial Intelligence Research Foundation (SAIR) ha recentemente pubblicato un video discorso completo intitolato "Math 2.0" su YouTube, e le clip pertinenti hanno successivamente attirato l'attenzione sulla piattaforma social estera X.
"Affidiamo il nostro pensiero all'intelligenza artificiale e lasciamo che risolvano i problemi per noi. Ma allo stesso tempo stiamo anche perdendo una garanzia: non possiamo essere sicuri che la soluzione fornita dall'intelligenza artificiale sia davvero ciò che vogliamo." Tao Zhexuan ha detto: "Sono davvero preoccupato che presto ne vedremo le conseguenze nel mondo reale. In realtà questa è una preoccupazione che ho al di fuori del campo della matematica."
Tao Zhexuan ha sottolineato che il progresso dell'intelligenza artificiale nel campo della matematica sta cambiando il modo tradizionale di risolvere i problemi. In passato, per risolvere problemi complessi, i matematici dovevano studiare e comprendere le teorie pertinenti per molto tempo e accumulare nuove conoscenze nel processo. Ma al giorno d’oggi, l’intelligenza artificiale può dare risposte rapidamente, ma gli esseri umani potrebbero non essere in grado di comprendere il processo di ragionamento dietro le risposte.
Egli ritiene che il rischio di tali cambiamenti sia relativamente controllabile nel campo della matematica pura, poiché le dimostrazioni matematiche possono solitamente essere verificate attraverso strumenti formali. Ma quando lo stesso approccio viene utilizzato nel mondo reale, la situazione diventa molto più complicata.
Tao Zhexuan ha menzionato specificamente i settori della rete elettrica, del controllo del traffico aereo, della ricerca e sviluppo di farmaci e della progettazione di chip. Teme che in futuro le persone possano affidare direttamente problemi complessi all’intelligenza artificiale per l’elaborazione, ma non abbiano una piena comprensione del modello sottostante e dei vincoli del mondo reale.
In questo caso, la soluzione fornita dall'intelligenza artificiale può essere completamente stabilita nel modello matematico, ma non soddisfa le reali esigenze del mondo reale. L’intelligenza artificiale potrebbe persino trovare scappatoie o condizioni limite nel modello, soddisfacendo indicatori superficiali e deviando dagli obiettivi che gli esseri umani originariamente speravano di raggiungere.
Tao Zhexuan ha sottolineato che il problema non risiede nella tecnologia dell'intelligenza artificiale in sé, ma nel modo in cui gli esseri umani utilizzano l'intelligenza artificiale. Sostiene la promozione della ricerca matematica nell’era della cosiddetta “Matematica 2.0”, in modo che l’intelligenza artificiale possa non solo aiutare gli esseri umani a risolvere i problemi, ma anche migliorare la comprensione umana dei problemi e aiutare i ricercatori a identificare i limiti e i potenziali rischi dei modelli.
Il 22 ottobre, Terence Tao ha anche pubblicato un articolo sulla rivista Nature, invitando la comunità matematica a riesaminare gli obiettivi della ricerca nell'era dell'intelligenza artificiale. Ha sottolineato che la ricerca matematica si trova ad affrontare nuove sfide poiché l’intelligenza artificiale genera prove matematiche più velocemente di quanto gli esseri umani possano comprendere e digerire questi risultati.
Tao Zhexuan ritiene che gli strumenti di intelligenza artificiale abbiano il potenziale per migliorare la comprensione umana, ma ciò richiede cambiamenti nei metodi di ricerca e nei meccanismi di incentivazione. Ciò che davvero deve essere preservato nell’era dell’IA non è solo la capacità di ottenere risposte corrette, ma anche la capacità umana di comprendere, testare e giudicare le risposte.
Commenti