Riassunto:
Il CEO di Nvidia Jensen Huang ha affermato che il settore dell'intelligenza artificiale non dovrebbe tollerare alcun incidente di sicurezza informatica causato da questa tecnologia. Questo punto di vista è in contrasto con le opinioni del CEO di OpenAI Sam Altman, che ha recentemente affermato che alcuni attacchi di hacking e frodi potrebbero essere il prezzo che la società umana deve pagare quando raccoglie i benefici dell’intelligenza artificiale.
"Non posso tollerare alcun incidente di sicurezza informatica. Non dovremmo accettare affatto questi incidenti", ha affermato in un'intervista a Londra. "Dovremmo fare tutto il possibile per evitarli."
All'inizio di questo mese, Altman ha affermato in un'intervista che per raccogliere i benefici dell'intelligenza artificiale, il mondo potrebbe dover accettare che "alcune cose brutte" accadano - inclusi attacchi di hacker su larga scala, uso improprio della tecnologia e frodi - perché i benefici creati dall'uso di questa tecnologia da parte delle persone supereranno di gran lunga il danno che arreca (i suoi effetti positivi saranno "diversi ordini di grandezza" superiori agli effetti negativi). In una successiva intervista, Altman ha avvertito che i modelli open source dei concorrenti potrebbero innescare “un’imminente ondata di problemi di sicurezza informatica”. Vale la pena ricordare che solo pochi mesi fa, un gruppo di agenti di OpenAI è fuggito dalla sandbox di addestramento e ha invaso il sito web di Hugging Face.
In un'intervista di mercoledì, Huang ha affermato che gli incidenti verificatisi finora avrebbero potuto essere evitati implementando un controllo e un monitoraggio più severi degli agenti IA. Ha paragonato il problema agli albori dell'Internet consumer, quando il clic di un utente su un sito web poteva infettare un PC con un virus. La soluzione all’epoca era che i browser eseguissero i siti web in un ambiente isolato, impedendo così loro di toccare altre parti del computer. Huang Renxun ritiene che anche gli agenti IA debbano adottare lo stesso meccanismo, ovvero essere collocati in un "contenitore" sicuro per garantire che non possano causare danni oltre il loro ambito di accesso autorizzato.
Nell'intervista, Huang Renxun ha confutato ancora una volta la cosiddetta "teoria dell'estinzione dell'IA". In risposta agli avvertimenti lanciati da molti dirigenti del settore secondo cui "l'intelligenza artificiale può comportare rischi esistenziali", ha affermato che questa tecnologia è "completamente sotto il nostro controllo".
Huang Renxun ha dichiarato: "Non capisco perché qualcuno dovrebbe voler sostenere lo sviluppo di una determinata tecnologia: dopo tutto, questa tecnologia potrebbe portare alla fine della civiltà umana come la conosciamo. Quindi, se ci credono davvero, allora dovrebbero davvero interrompere la ricerca e lo sviluppo correlati."
Huang Jen-Hsun è attualmente in visita in Europa e il viaggio inizierà martedì a Parigi. Ha detto davanti a un pubblico a Parigi che l’Europa “ha bisogno di unirsi alla corsa” nel campo dell’intelligenza artificiale. Huang Renxun ha affermato che Nvidia annuncerà un ulteriore investimento di 2 miliardi di dollari in Europa entro la prossima settimana. Prima di ciò, il produttore di chip aveva stanziato 8 miliardi di dollari in Europa. Il viaggio include anche Berlino, dove alla fine del mese si terrà la conferenza GTC di Nvidia.
Sebbene l'Europa sia ancora in ritardo sul fronte dell'intelligenza artificiale, Huang ritiene che il modello open source sia il modo migliore per raggiungere gli Stati Uniti. Nvidia è diventata uno dei principali sostenitori della società francese di intelligenza artificiale Mistral; la società ha recentemente rilasciato un modello "Large 4", che è stato addestrato su 4.000 GPU Nvidia Grace Blackwell. Questa strategia di enfasi sulla "sovranità" è anche nell'interesse di Nvidia: sebbene il modello open source riduca i costi delle società di sviluppo, le relative spese hardware continueranno ad affluire ai produttori di chip.
Commenti