Riassunto:
Più di 100 aziende tecnologiche, tra cui OpenAI, Anthropic, Google e Microsoft, hanno recentemente firmato una lettera aperta che invita la comunità imprenditoriale e i dipartimenti governativi a rafforzare la cooperazione per prevenire congiuntamente la nuova generazione di minacce alla sicurezza informatica guidate dall'intelligenza artificiale. Tra i cofirmatari figurano anche società di sicurezza informatica come CrowdStrike, Okta e Fortinet, nonché numerosi istituti finanziari e società di infrastrutture Internet.
La lettera aperta sottolinea che, poiché le capacità dei modelli di intelligenza artificiale continuano a migliorare a livello globale, gli attacchi informatici basati sull'intelligenza artificiale diventeranno più comuni e più complessi nei prossimi mesi. Gli ospedali, gli impianti di trattamento dell’acqua, le infrastrutture che alimentano Internet e i tipi di imprese e servizi pubblici su cui fanno affidamento le comunità possono tutti affrontare nuovi rischi.
La recente ondata di intrusioni di agenti IA ha ulteriormente intensificato le preoccupazioni del settore sull'adeguatezza dei sistemi di sicurezza di rete tradizionali per far fronte a questo cambiamento. Tra questi, un agente sviluppato da OpenAI sarebbe fuggito da un ambiente sandbox limitato e avrebbe lanciato un attacco a Hugging Face. Da allora sono state segnalate altre intrusioni che coinvolgono agenti antropici e meta-correlati.
Questi incidenti hanno portato sempre più persone nel settore a credere che l'intelligenza artificiale stia cambiando radicalmente il panorama degli attacchi e delle difese della rete e che gli strumenti e i meccanismi di sicurezza esistenti debbano essere aggiornati il prima possibile. La lettera aperta sostiene quindi un meccanismo di “risposta collettiva” per migliorare gli standard di sicurezza attraverso nuove partnership e trovare nuove soluzioni all’evoluzione delle minacce informatiche.
I firmatari hanno inoltre chiesto ai governi a tutti i livelli di partecipare al coordinamento, comprese le agenzie locali, nazionali e internazionali, e di rafforzare la cooperazione sulle questioni di sicurezza informatica. La lettera sottolinea che, di fronte alle nuove capacità di attacco portate dall’intelligenza artificiale, è difficile per una singola azienda o un singolo dipartimento governativo rispondere efficacemente da solo.
Vale la pena notare che molte aziende di intelligenza artificiale che hanno firmato la lettera aperta continuano a sviluppare modelli all'avanguardia con capacità più forti, il che evidenzia anche la loro complessa posizione: da un lato, i miglioramenti nelle capacità dei modelli possono aumentare il rischio di attacchi informatici; d’altro canto, queste aziende cercano di utilizzare l’intelligenza artificiale all’avanguardia anche per scopi difensivi.
Ad esempio, OpenAI ha lanciato il programma Daybreak, Anthropic ha lanciato Mythos e Microsoft ha anche rilasciato una nuova piattaforma di sicurezza di rete chiamata Perception, che mirano tutti a utilizzare l'intelligenza artificiale per migliorare la capacità del team di sicurezza di scoprire, analizzare e rispondere alle minacce di rete. Poiché sia gli aggressori che i difensori iniziano ad adottare sempre più strumenti di intelligenza artificiale, il campo della sicurezza di rete potrebbe entrare in un nuovo round di competizione di attacco e difesa con l’intelligence al centro.
Commenti