Riassunto:
Il 28 settembre, secondo Bloomberg,
Nvidia ha lanciato un nuovo sistema di sicurezza AI a due livelli
. La società ha affermato che l’incidente avrebbe potuto essere evitato se il modello AI di OpenAI fosse stato implementato sul sistema quando si è verificata l’intrusione di Hugging Face.
Huang Renxun
Nvidia ha rapidamente espanso la sua linea di prodotti oltre i chip e sta attualmente lanciando due strumenti di sicurezza software open source che possono essere eseguiti sul suo hardware. Sono progettati per controllare in tempo reale a cosa può accedere un agente AI e disattivarlo se infrange le regole.
Il nuovo sistema, chiamato Open Agent Security Platform, mira a fornire un modo per prevenire le intrusioni senza rallentare lo sviluppo dell'intelligenza artificiale.
Justin Boitan, vicepresidente dell'intelligenza artificiale aziendale di Nvidia, ha dichiarato lunedì in un briefing con i giornalisti prima di annunciare il sistema che l'attacco a Hugging Face avrebbe potuto essere prevenuto se i migliori laboratori di intelligenza artificiale avessero utilizzato la tecnologia per valutare i loro modelli di intelligenza artificiale fin dall'inizio.
"Sulla base delle informazioni di cui disponiamo attualmente, questa nuova piattaforma di sicurezza avrebbe potuto impedire tale intrusione", ha affermato. Al momento, il comportamento inappropriato degli agenti IA autonomi ha causato shock nel settore dell’IA e ha portato alcuni a chiedere di rallentare il processo di sviluppo della tecnologia AI.
Boitano non ha commentato se OpenAI o il concorrente Anthropic intendessero utilizzare questo nuovo sistema per monitorare il processo di formazione del modello, ma ha chiesto ai giornalisti di chiedere a queste aziende.
In precedenza, il CEO di Nvidia Jensen Huang ha minimizzato il rischio che l'IA perda il controllo umano. Nei giorni scorsi, Huang ha descritto le questioni relative alla sicurezza dell’intelligenza artificiale come una sfida ingegneristica piuttosto che una questione che richiede una maggiore regolamentazione o un coordinamento globale. Si è unito al presidente degli Stati Uniti Trump nel confutare le affermazioni di alcuni sviluppatori di intelligenza artificiale secondo cui la tecnologia potrebbe portare all’estinzione umana, ma ha anche sottolineato che l’intelligenza artificiale deve essere sottoposta a rigorosi test di sicurezza.
La soluzione ingegneristica di Huang Renxun ai problemi di sicurezza dell'IA è composta da due parti.
Innanzitutto, OpenShell è un prodotto software che Nvidia ha presentato in anteprima alla sua conferenza sulla tecnologia di marzo e funziona sull'unità di elaborazione centrale Vera di Nvidia. Consente agli utenti di impostare regole relative ai contenuti a cui gli agenti AI possono accedere e di applicare tali regole in tempo reale. Il software è open source, ovvero può essere utilizzato e adattato liberamente.Nvidia Sentry è un nuovo prodotto che può essere eseguito sull'unità di elaborazione dati BlueField di Nvidia. NVIDIA ha affermato che questo prodotto è progettato per fornire un ulteriore livello di meccanismo di monitoraggio dell'IA per supervisionare il comportamento degli agenti AI e per intervenire e isolare gli agenti quando viene rilevato un comportamento sospetto.
Commenti