Riassunto:
Il 23 settembre, secondo Bloomberg, il pioniere dell'intelligenza artificiale Li Feifei ha chiesto una maggiore supervisione dell'intelligenza artificiale da parte di agenzie indipendenti e del settore pubblico. Ritiene che la valutazione della sicurezza di sistemi di intelligenza artificiale sempre più potenti non dovrebbe essere lasciata interamente alle aziende che sviluppano questi sistemi.
Li Feifei
In qualità di professore alla Stanford University e co-fondatore di World Labs, Li Feifei ha affermato martedì che, sebbene i ricercatori interni delle aziende di intelligenza artificiale possano valutare le capacità e la sicurezza dei singoli modelli, ciò non può sostituire standard più ampi sviluppati congiuntamente da governo, industria e istituzioni accademiche.
"Continuo a credere che sia molto importante che i parametri di riferimento siano fissati da istituzioni indipendenti e da settori pubblici come il mondo accademico. Allo stesso tempo, anche l'industria e il governo dovrebbero condividere la responsabilità." Lo ha detto Li Feifei in un'intervista a Bloomberg TV.
Mentre le capacità dei sistemi di intelligenza artificiale continuano ad aumentare, crescono anche le preoccupazioni sui loro potenziali rischi. Alcuni leader della Silicon Valley hanno avvertito che la tecnologia si sta sviluppando troppo velocemente e potrebbe eventualmente superare il controllo umano. Nelle ultime settimane, il CEO di Anthropic Dario Amodei e il CEO di OpenAI Sam Altman hanno entrambi chiesto di rallentare lo sviluppo di modelli all’avanguardia. Mercoledì i due discuteranno della sicurezza dell’intelligenza artificiale al Consiglio di sicurezza delle Nazioni Unite.
Li Feifei ha affermato che i rischi esistenziali che l'intelligenza artificiale può comportare dipendono in ultima analisi da come gli esseri umani scelgono di sviluppare, governare e utilizzare questa tecnologia. Ha affermato che questo principio si applica anche a tecnologie diverse dall’intelligenza artificiale, dall’elettricità e dai motori a vapore ai trasporti moderni. La società umana deve anche trovare un equilibrio tra i benefici che la tecnologia può apportare e la sicurezza personale.
L'umanità, ha osservato, "ha a sua disposizione il potere della tecnologia". "Dobbiamo prendere il controllo. L'intelligenza artificiale non riguarda l'intelligenza artificiale, ma gli esseri umani. Riguarda la nostra dignità e autonomia comune e individuale, e riguarda anche le nostre responsabilità." Li Feifei ha detto.
I commenti di Li Feifei aggiungono una nuova voce al dibattito sempre più acceso tra politici e leader del settore dell'intelligenza artificiale. Il dibattito è incentrato sulla serietà con cui dovrebbero essere presi gli avvertimenti sui rischi più estremi della tecnologia. Martedì scorso, il presidente degli Stati Uniti Donald Trump ha respinto le preoccupazioni sulla minaccia esistenziale dell’intelligenza artificiale, definendola “una bufala” e sottolineando la necessità di continuare a sviluppare la tecnologia a pieno ritmo durante un discorso all’Assemblea generale delle Nazioni Unite a New York.
Li Feifei ha affermato che la discussione sul comportamento dei sistemi di intelligenza artificiale è andata oltre i cosiddetti modelli all'avanguardia che guidano l'attuale mania dell'intelligenza artificiale. La società da lei fondata, World Labs, sta sviluppando i cosiddetti "modelli mondiali" in grado di generare e ricostruire ambienti tridimensionali. Ha affermato che la tecnologia potrebbe essere utilizzata per addestrare e valutare i robot e consentire applicazioni nel design, nella medicina e in altri settori.
Mentre questi sistemi si spostano verso applicazioni nel mondo reale, ha affermato, il settore si trova ad affrontare la stessa domanda fondamentale: come valutare un'intelligenza artificiale sempre più potente e determinare se funziona come previsto.
Commenti