Riassunto:
Un portavoce di OpenAI ha rivelato che il presidente di OpenAI Greg Brockman farà presto un annuncio per espandere l'autorità per aprire gli strumenti di intelligenza artificiale dell'azienda alle infrastrutture critiche e alle agenzie del settore pubblico. L’intrusione accidentale di Hugging Face da parte di OpenAI, insieme a molteplici attacchi informatici ai sistemi idrici statunitensi sospettati di utilizzare l’intelligenza artificiale, ha suscitato grande preoccupazione nel mondo esterno su quanto vulnerabili siano varie strutture pubbliche ai futuri attacchi hacker guidati dall’intelligenza artificiale.
Il portavoce ha affermato che Brockman annuncerà ufficialmente le informazioni di cui sopra al Cyber Security Summit che si terrà giovedì presso la sede di OpenAI.
A questo incontro parteciperanno circa 300 leader della sicurezza aziendale e responsabili della sicurezza informatica di aziende Fortune 100.
L'argomento centrale di questo summit: come le aziende, i governi e i fornitori di sicurezza di rete consentono ai difensori (agenzie di infrastrutture critiche, dipartimenti di servizi pubblici) di utilizzare gli strumenti di intelligenza artificiale.
Questo incontro e il prossimo annuncio rappresentano la risposta di OpenAI ai rischi per la sicurezza dei modelli. Hugging Face è già stato violato in passato e il prossimo modello Astra di OpenAI ha già capacità di attacco informatico di “livello critico”.
All'inizio di questa settimana, un rapporto menzionava che OpenAI stava sviluppando una nuova tecnologia di formazione, che ha causato anche preoccupazioni nel settore: se i professionisti della sicurezza riescono ancora a vedere chiaramente la logica del modello.
OpenAI ha pubblicato una lettera aperta la scorsa settimana, avvertendo che le organizzazioni hanno solo pochi mesi per rispondere alla minaccia di attacchi informatici basati sull'intelligenza artificiale.
Lo stesso Brockman ha lanciato un avvertimento simile in un articolo il mese scorso.
Aumentare la consapevolezza sulla protezione delle infrastrutture critiche è solo il primo passo e non può risolvere i problemi pratici di fondi insufficienti e carenza di talenti nei team di sicurezza comunemente affrontati da queste istituzioni.
Commenti