Riassunto:
In un'intervista martedì sera, ora locale, il CEO di Nvidia Jensen Huang ha criticato la proposta di esenzione antitrust sulla sicurezza dell'intelligenza artificiale di Anthropic, progettata per rallentare in modo collaborativo lo sviluppo di modelli di intelligenza artificiale all'avanguardia, e ha confutato le argomentazioni secondo cui l'intelligenza artificiale potrebbe sterminare l'umanità entro un decennio.
Huang Renxun ha espresso le osservazioni di cui sopra in un'intervista con Jim Cramer, un noto conduttore finanziario americano. In precedenza, sabato scorso, il CEO di Anthropic, Dario Amodei, aveva pubblicato un articolo, innescando un’accesa discussione sulla sicurezza dell’intelligenza artificiale. Amodei ha proposto che i principali laboratori di intelligenza artificiale lavorino insieme per “controllare il ritmo dello sviluppo tecnologico all’avanguardia”, il che significa rallentare intenzionalmente lo sviluppo di modelli avanzati per consentire alle aziende più tempo per i test e la protezione della sicurezza. Amodei ha affermato che il lavoro potrebbe richiedere il coordinamento del governo o esenzioni dalle normative antitrust pertinenti.
Huang Renxun concorda sul fatto che le società di intelligenza artificiale debbano prestare attenzione ai problemi di sicurezza, ma ritiene che le aziende dovrebbero risolvere questi problemi da sole.
Huang Renxun ha affermato: "Alcune persone pensano che sia necessario introdurre nuove leggi, nuove norme antitrust o nuove normative per consentire a queste aziende di svolgere attività di ingegneria di base e standardizzare la ricerca e lo sviluppo prima di rilasciare i prodotti. Ciò è completamente inutile. Disponiamo già di disposizioni legali e normative sufficienti per garantire l'affidabilità e la funzionalità dei prodotti."
Nell'articolo, Amodei ha proposto un piano in tre fasi per rallentare il ritmo di sviluppo del modello: il primo passo è inviare valutatori di sicurezza di terze parti in ciascun laboratorio di intelligenza artificiale. Il secondo e il terzo passo sono rispettivamente la collaborazione democratica e globale sugli standard di sicurezza e la “fissazione di limiti alla velocità dello sviluppo illimitato dell’IA”. "Alcuni metodi collaborativi che possono regolare efficacemente il ritmo dello sviluppo tecnologico presentano ostacoli legali e richiedono il sostegno del governo."
Sorgono problemi legali perché i principali laboratori di intelligenza artificiale sono concorrenti e i modelli che lanciano sono prodotti concorrenti. Lo Sherman Antitrust Act degli Stati Uniti, in linea di principio, vieta ai concorrenti di concludere accordi che limitino irragionevolmente la concorrenza, e alcuni comportamenti collaborativi (compresi gli accordi per limitare la produzione) potrebbero essere illegali. Se le società concorrenti di sviluppo dell’intelligenza artificiale concordano congiuntamente sulla velocità di sviluppo o di rilascio di nuovi modelli, sorgeranno potenziali rischi legali.
Huang Renxun ha affermato che gli sviluppatori di modelli hanno la capacità di garantire la sicurezza dei prodotti prima che vengano rilasciati.
"La sicurezza è una questione di ingegneria, e anche i test sono una questione di ingegneria." Huang Renxun ha affermato: "Dovremmo creare prodotti e testarli completamente. Se il prodotto non ha ancora raggiunto gli standard di rilascio, posticipare il lancio e continuare i test e l'ottimizzazione finché il prodotto non matura". NVIDIA è un importante fornitore di Anthropic e OpenAI e la stessa NVIDIA ha anche sviluppato la serie Nemotron di modelli di peso open source.
La mania dell'intelligenza artificiale ha reso Nvidia il più grande produttore di chip al mondo e l'azienda con il più alto valore di mercato. Proposte rilevanti per rallentare lo sviluppo di modelli ad alte prestazioni potrebbero comportare rischi per la crescita futura di Nvidia.
Huang Renxun ha detto a Cramer: "La sicurezza dell'intelligenza artificiale è un problema reale. La creazione di prodotti che possono essere utilizzati in sicurezza in tutto il mondo non può essere sottovalutata. Le aziende dovrebbero innovare il più rapidamente possibile, ma non devono lanciare prodotti con rischi per la sicurezza solo per il gusto dell'innovazione."
Huang ha anche respinto gli avvertimenti secondo cui modelli di intelligenza artificiale sempre più potenti rappresenteranno una minaccia esistenziale per l'umanità.
Ha detto: "L'umanità non si estinguerà nel 2030. Ci sono così tante persone nel mondo che svilupperanno correttamente l'intelligenza artificiale. Stabiliremo varie misure di protezione e inventeremo varie tecnologie per la sicurezza."
Articoli correlati:
Huang Renxun ha chiesto di allentare la supervisione esterna dell'intelligenza artificiale, affermando che il settore ha la capacità di garantire in modo indipendente la sicurezza
Commenti