Riassunto:
L'accesso illegale ai modelli di intelligenza artificiale e alla potenza di calcolo sta rapidamente diventando la merce più richiesta nel mondo criminale informatico. Gli hacker cercano di sfruttare costosi modelli linguistici di grandi dimensioni per ricatti, guerre e spionaggio. John Hultquist, principale analista di Google Threat Intelligence Group, ha affermato che quest'anno il gruppo di sicurezza informatica ha registrato un aumento significativo dei cosiddetti attacchi "LLM-jacking", che includono la vendita di credenziali di accesso rubate per strumenti di intelligenza artificiale pubblici e gruppi che rubano risorse informatiche per eseguire gratuitamente i propri modelli.
"Ciò che stiamo vedendo nel mercato clandestino è un'economia in crescita legata all'accesso all'intelligenza artificiale", ha affermato Hultquist, un veterano della sicurezza informatica da 20 anni.
Hultquist ha avvertito che ottenere costose risorse di intelligenza artificiale a basso costo darà agli aggressori informatici un vantaggio finanziario rispetto ai loro obiettivi, che dovranno anche utilizzare questi strumenti di intelligenza artificiale per proteggersi.
Ha detto: "Alla fine, tutte queste azioni danno loro una sorta di vantaggio economico o di efficienza rispetto a noi perché possono effettivamente ottenere questi token a un prezzo molto più economico."
I ricercatori della Threat Intelligence Unit di Google hanno scoperto che alcuni mercati sul Dark Web vendono l'accesso a modelli di intelligenza artificiale di aziende come Anthropic, Google e OpenAI con sconti fino al 97%. Le versioni più avanzate dei servizi di abbonamento ChatGPT e AI di Claude costano fino a $ 200 per utente al mese.
Dato che AI Labs monitora eventuali segnali di tale abuso, alcuni venditori offrono addirittura "accesso garantito", promettendo nuove credenziali di accesso gratuitamente se l'account originale viene bannato, ha affermato Hultquist.
In altri casi, bande criminali e organizzazioni sostenute dallo stato penetrano nei server ospitati dalle aziende nel cloud e implementano i propri modelli di intelligenza artificiale da eseguire sui sistemi presi di mira. Questo approccio è simile ai precedenti tentativi da parte degli autori delle minacce di compromettere computer di terze parti per il mining di criptovalute.
L'intelligenza artificiale è già utilizzata da "tutti gli attori delle minacce", ha affermato Hultquist, aggiungendo che in futuro gli strumenti di intelligenza artificiale dovranno diventare parte integrante dei sistemi di sicurezza informatica. Nell'ultimo rapporto trimestrale di Anthropic sugli abusi dell'intelligenza artificiale, la società ha scoperto che gli autori di minacce provenienti da più di 20 paesi, tra cui Stati Uniti, Regno Unito e Yemen, avevano tentato di utilizzare il suo strumento Claude per attività dannose.
Ha affermato: "Chiunque pensi che l'intelligenza artificiale sia solo una moda passeggera e voglia che scompaia, un giorno si sveglierà e scoprirà di essere stato sopraffatto. Si troverà ad affrontare più incidenti di sicurezza, più avvisi e più attacchi che mai. Ora dobbiamo occuparci dei nostri affari."
Hultquist ha avvertito che, poiché sempre più grandi aziende cercano di implementare modelli di intelligenza artificiale personalizzati sui propri server anziché affittare potenza di calcolo dai fornitori di servizi cloud, anche questi sistemi diventeranno obiettivi di attacchi e dovranno essere attentamente protetti. "Se si paga per la potenza di calcolo, e la potenza di calcolo può essere molto costosa...allora diventa una risorsa potenziale molto interessante agli occhi degli autori delle minacce."
Hultquist ha anche affermato che questo è il momento migliore per gli hacker per "infiltrarsi" negli account e nei server dei computer presi di mira, perché le aziende stanno ancora cercando di capire quante risorse di intelligenza artificiale utilizzeranno.
Ha detto: "Potresti pensare che un aumento improvviso e consistente dell'utilizzo della potenza di calcolo sia del tutto normale perché hai appena implementato così tanta infrastruttura di intelligenza artificiale. Questo offre ad alcune persone l'opportunità di nascondersi nel rumore."
Commenti