Riassunto:
Yann LeCun, vincitore del Premio Turing 2018 e fondatore e presidente di AMI Labs, ha dichiarato a Seul il 12 ottobre che la prossima fase di scoperte nel campo dell'intelligenza artificiale arriverà da sistemi in grado di comprendere, prevedere e agire sul mondo fisico, piuttosto che limitarsi a espandere la scala di grandi modelli linguistici.
Crede che i "modelli mondiali" diventeranno un'importante direzione tecnica per promuovere lo sviluppo dell'intelligenza artificiale. Per quanto riguarda le preoccupazioni sulla sicurezza causate dalla maggiore autonomia dell'intelligenza artificiale, Yang Likun ha affermato che i recenti incidenti di sicurezza di rete che hanno coinvolto agenti di intelligenza artificiale hanno principalmente messo in luce i difetti del sistema di protezione della sicurezza esistente e che i rischi correlati possono essere controllati migliorando l'architettura del sistema e l'ingegneria della sicurezza.
Yang Likun: i modelli linguistici di grandi dimensioni mancano di una comprensione affidabile della relazione causale nel mondo fisico
Yang Likun ha affermato lunedì, in occasione di un simposio sull'intelligenza artificiale industriale tenutosi a Seul, che sebbene gli attuali modelli linguistici di grandi dimensioni possano apprendere efficacemente la conoscenza da testi, immagini e video, mancano ancora di una comprensione affidabile di causa ed effetto nel mondo fisico.
Ha sottolineato che l'intelligenza artificiale può già dimostrare teoremi matematici e superare esami professionali, ma i robot hanno ancora difficoltà a completare molte faccende domestiche quotidiane che i bambini di 10 anni possono padroneggiare senza formazione. Questo divario di capacità riflette il fatto che gli attuali sistemi di intelligenza artificiale presentano ancora evidenti limitazioni nella comprensione dell’ambiente fisico, nella pianificazione delle azioni e nell’interazione con il mondo reale.
Yang Likun ritiene che l'importante direzione di sviluppo della tecnologia AI nella fase successiva siano i modelli mondiali, ovvero i sistemi di intelligenza artificiale in grado di prevedere come cambierà l'ambiente fisico con azioni specifiche. A differenza dei modelli linguistici, che svolgono compiti principalmente prevedendo la parola successiva o modelli di apprendimento nei dati generati dall’uomo, i modelli mondiali sono progettati per aiutare l’intelligenza artificiale a comprendere la relazione tra azioni e risultati e pianificare una serie di azioni basate sugli obiettivi. Ad esempio, i robot devono essere in grado di prevedere come cambierà l’ambiente dopo aver spostato o afferrato un oggetto per poter completare in modo affidabile compiti complessi nel mondo reale.
AMI Labs, fondata da Yang Likun, sta portando avanti questo percorso tecnologico attraverso la Joint-Embedding Predictive Architecture (JEPA) e sta esplorando come rendere l'intelligenza artificiale più affidabile nelle capacità di previsione ambientale e di pianificazione delle azioni.
Mentre la tecnologia dell'intelligenza artificiale si espande gradualmente dall'elaborazione della conoscenza e dalla generazione di contenuti a campi come la robotica e l'automazione industriale, i modelli mondiali sono considerati da Yang Likun un'importante base tecnica per realizzare l'intelligenza nel mondo fisico. Tuttavia, le tecnologie pertinenti sono ancora in fase di sviluppo e resta da verificare ulteriormente se possano ottenere previsioni affidabili, pianificazione indipendente e implementazione su larga scala in ambienti reali complessi.
Yang Likun confuta le preoccupazioni secondo cui l'intelligenza artificiale è fuori controllo: recenti incidenti di sicurezza hanno messo in luce difetti di protezione ingegneristica
Nel discutere le prospettive di sviluppo delle capacità di azione autonoma dell'IA, Yang Likun ha anche risposto ai recenti incidenti di sicurezza informatica che hanno coinvolto agenti di intelligenza artificiale e si è opposto all'interpretazione di questi incidenti come se l'IA stesse diventando incontrollabile.
Per quanto riguarda i recenti attacchi informatici legati all'intelligenza artificiale riscontrati dal settore finanziario della Corea del Sud, Yang Likun ritiene che il problema derivi principalmente dalla mancanza di sufficienti capacità professionali di sicurezza di rete da parte delle aziende che utilizzano agenti IA e dalle vulnerabilità di sicurezza nel sistema sandbox utilizzato per limitare il comportamento del software. Ha sottolineato che gli attuali modelli linguistici di grandi dimensioni potrebbero effettivamente essere soggetti ad attacchi di jailbreak, aggirando le restrizioni di sicurezza stabilite attraverso specifiche parole immediate, ed è difficile limitare completamente il loro comportamento semplicemente facendo affidamento sulla messa a punto del modello.
Tuttavia, Yang Likun ritiene che i futuri sistemi di intelligenza artificiale orientati agli obiettivi dovrebbero valutare in modo proattivo i vincoli di sicurezza prima di eseguire le operazioni, migliorando così le carenze dei modelli esistenti nel controllo comportamentale. Invece di fare affidamento esclusivamente sulle regole di sicurezza stabilite durante la fase di formazione del modello, tali sistemi possono incorporare ulteriori controlli di sicurezza durante la pianificazione e l’esecuzione delle azioni.
Ha riconosciuto che raggiungere questa capacità non è un semplice compito tecnico, ma ha sottolineato che le questioni correlate rientrano ancora nell'ambito della progettazione ingegneristica. Nel lungo termine, l’intelligenza artificiale potrebbe persino offrire un vantaggio ai difensori informatici, poiché le agenzie di difesa in genere dispongono di più risorse e sono in grado di condividere le informazioni sulla sicurezza e l’esperienza di difesa in modo più aperto.
Questo giudizio è diverso da alcuni punti di vista che sottolineano il potenziale rischio di perdita di controllo dei sistemi avanzati di IA. Yang Likun ha anche sottolineato che, attraverso la progettazione dell’architettura del sistema, le restrizioni dell’autorità di esecuzione e i meccanismi di protezione della sicurezza, è necessario garantire che il comportamento dei sistemi di intelligenza artificiale autonomi rientri in un intervallo controllabile.
Nella sua visione tecnica, in futuro l'intelligenza artificiale avrà gradualmente la capacità di comprendere l'ambiente reale, prevedere le conseguenze delle azioni e completare i compiti in modo autonomo. Come migliorare queste capacità stabilendo vincoli di sicurezza affidabili diventerà una questione importante che dovrà essere risolta nello sviluppo di modelli mondiali e dei relativi sistemi autonomi.
Commenti