Riassunto:
Poche settimane prima che il dipartimento di intelligenza artificiale di SpaceX lanciasse Grok Bot, un prodotto di agente di intelligenza artificiale personale, in agosto, gli ingegneri di Cursor hanno scoperto una potenziale vulnerabilità. A quel tempo, SpaceX stava acquisendo Cursor, una startup di codice AI, e Grok Bot è stato sviluppato da Cursor. Durante il processo di sviluppo, tutti i dipendenti Cursor hanno utilizzato ampiamente questo strumento per i test e il lavoro quotidiano.
Alla fine di luglio, gli ingegneri hanno espresso preoccupazione sul fatto che Cursor potesse aver inviato dati generati da test interni, che potrebbero contenere informazioni riservate di clienti, fornitori e partner commerciali, al dipartimento di intelligenza artificiale di SpaceX. Secondo le comunicazioni interne esaminate dai media, un legale di Cursor ha avvertito che una volta che gli esterni apprendessero che l'azienda utilizza i dati per la formazione dei modelli, ciò potrebbe innescare una "grave crisi di fiducia".
Cursor ha immediatamente avviato un'indagine interna per scoprire quali dati sensibili, se presenti, sono stati inviati all'unità di intelligenza artificiale di SpaceX, ora nota come SpaceX SI, secondo i documenti interni esaminati dai media e da due persone che hanno familiarità con il progetto. La conclusione di questa indagine interna non è chiara, ma la società ha adottato misure per garantire che la successiva formazione del modello non incorpori più i dati generati dall'utilizzo da parte dei dipendenti.
L'incidente evidenzia una sfida affrontata dalle società di ricerca e sviluppo sull'intelligenza artificiale, che è diventata sempre più importante man mano che strumenti di agenti come Grok Bot sono diventati sempre più popolari. Questo tipo di agente è progettato per ricevere autorizzazioni più elevate e può attraversare vari file e applicazioni sul computer dell'utente per completare le attività in modo autonomo.
Ma questo elevato grado di libertà comporta nuovi rischi per la sicurezza, inclusa la fornitura inavvertita di informazioni sensibili al modello per la formazione. In generale, le principali aziende di intelligenza artificiale hanno dichiarato che non utilizzeranno i dati ottenuti da strumenti Internet come Gmail e Google Cloud Disk per condurre corsi di formazione sui modelli. Ad esempio, nei termini di servizio di Grok Bot, SpaceX SI afferma che la società non utilizzerà i dati di Google Cloud Disk per addestrare i modelli e gli utenti possono scegliere di rifiutarsi di condividere i propri dati per questo scopo.
L'indagine sui dati relativa a Grok Bot non è l'unico incidente di sicurezza dei dati riscontrato da Cursor. Le comunicazioni interne esaminate dai media hanno mostrato che quest'estate i dipendenti dell'azienda hanno fatto trapelare accidentalmente alcune informazioni sui clienti attraverso un sito Web accessibile al pubblico creato per uso interno.
SpaceX SI non ha risposto a una richiesta di commento.
Anche prima che SpaceX completasse l'acquisizione da 60 miliardi di dollari di Cursor a metà agosto, Cursor stava espandendo la propria attività e non si limitava più agli strumenti di codifica. Una volta completata l'acquisizione, Grok Bot, un assistente di collaborazione AI per tutte le stagioni in grado di gestire varie attività, è diventato il prodotto principale di SpaceX SI nella competizione per il redditizio mercato degli strumenti di AI a livello aziendale.
Due persone a conoscenza della questione hanno rivelato che, al fine di ottimizzare la prima versione di Grok Bot, Cursor ha fatto sì che l'azienda, i dipendenti di SpaceX SI e individui e aziende esterni testassero il prodotto, raccogliendo al contempo record sul comportamento degli utenti nell'utilizzo dell'agente. Il cursore può utilizzare questi dati per addestrare il modello AI, consentendo al modello di apprendere come l'agente esegue le attività, comprese le operazioni eseguite e le informazioni recuperate durante l'attività.
Romain Ugarte, ex responsabile della crescita di Cursor, ha affermato in un'intervista podcast che intorno a giugno i dipendenti interni di Cursor sono stati i primi a utilizzare Grok Bot, allora nome in codice Sand. Il prodotto divenne rapidamente popolare all'interno dell'azienda e i dipendenti lo utilizzarono per gestire vendite, assunzioni, ricerche e altre attività. Spesso autorizzavano il software ad accedere ai sistemi aziendali, consentendo loro di lavorare in modo indipendente. Persone che hanno familiarità con la questione hanno affermato che ciò significa che i dipendenti utilizzeranno l’agente in scenari in cui interagiscono con clienti esterni e intervistano potenziali candidati, esponendolo potenzialmente a informazioni sensibili nelle conversazioni di vendita, nei file dei clienti e nelle comunicazioni di reclutamento.
Ma a luglio, poco prima che Cursor rilasciasse Grok Bot, alcuni ingegneri hanno avvertito sul canale di segnalazione degli incidenti di Slack: i dati di formazione raccolti dall'azienda dagli scenari di utilizzo interno di Sand potrebbero contenere informazioni riservate e questo lotto di dati potrebbe essere stato trasferito a SpaceX SI.
Nell'ambito della sua indagine, Cursor ha esaminato la gamma di utenti inclusi nel set di dati di formazione, sulla base delle comunicazioni interne e delle persone che hanno familiarità con la questione. Una persona a conoscenza della questione ha affermato che alcuni dipendenti di Cursor hanno utilizzato e-mail personali per accedere a Sand, il che ha reso difficile per l'azienda identificare tali utenti ed eliminare i loro dati dalla formazione successiva.
A tal fine, Cursor ha imposto delle restrizioni: i dipendenti devono utilizzare l'e-mail aziendale per accedere a Sand e ha deciso di non includere alcun dato generato dai dipendenti Cursor nella formazione futura.
L'avvocato di Cursor ha scritto sul canale Slack dell'azienda: "Dal punto di vista legale, Sand è uno strumento generale e il suo set di dati contiene informazioni riservate su clienti, partner, fornitori, ecc. A rigor di termini, non abbiamo l'autorità legale per utilizzare questi dati per l'addestramento dei modelli."
Non è la prima volta che Cursor deve sistemare il caos causato dalla cattiva gestione dei dati degli utenti.
Le comunicazioni interne esaminate dai media hanno mostrato che all'inizio di quest'anno si è verificato un incidente precedentemente non segnalato: il personale di vendita e marketing di Cursor ha accidentalmente esposto informazioni sui clienti su Internet. Il problema risiedeva nei siti web realizzati dal team sulla base della piattaforma di sviluppo siti Vercel, che venivano utilizzati dai team di vendita e marketing per mantenere i rapporti con i clienti esistenti e potenziali.
I documenti mostrano che uno dei siti web viene utilizzato per gestire l'aggancio dei clienti a Verizon. Il sito Web contiene un organigramma di parte della gestione tecnica di Verizon, che elenca diversi utenti principali dello strumento Cursore interno di Verizon, gli importi di consumo del prodotto e l'indirizzo e-mail di ciascun utente.
I registri delle comunicazioni interne di Cursor mostrano che, sebbene il sito web correlato a Verizon disponga di una password, la password, insieme a tutte le informazioni sul cliente, è stata scritta direttamente nel codice sottostante. Qualsiasi utente Internet che visualizza il codice può ottenere la password e le informazioni sul cliente.
Le comunicazioni interne mostrano anche che l'azienda ha riscontrato problemi simili con i dati di altre società come Bosch e Coupa. Dopo aver scoperto la vulnerabilità, gli ingegneri di Cursor hanno messo urgentemente offline il sito Web in questione. Hanno addirittura dato un nome lungo al canale Slack dedicato alla discussione di questo problema infinito: "Un gran numero di siti web GTM hanno fatto trapelare dati interni/clienti" (GTM sta per Go to Market).
Bosch ha indirizzato le domande a Cursor, Coupa ha rifiutato di commentare, Verizon non ha risposto alle richieste di interviste e Vercel ha rifiutato di commentare.
Molto prima che Cursor venisse incorporato in SpaceX SI, il dipartimento di intelligenza artificiale dell'azienda aerospaziale aveva riscontrato incidenti simili sulla sicurezza dei dati. Nel marzo 2025, un dipendente di SpaceX SI ha erroneamente caricato uno script di test nel repository pubblico di codici GitHub, facendo trapelare la chiave dell'interfaccia del programma applicativo Grok. Gli estranei possono utilizzare la chiave per accedere al modello xAI che non è stato rilasciato al pubblico.
Quest'estate, un ricercatore ha scoperto che lo strumento di sviluppo Grok Build di SpaceX caricava il repository completo del codice Git su Google Cloud Storage di SpaceX, facendo potenzialmente trapelare codice sorgente proprietario o credenziali di identità che gli sviluppatori non avevano intenzione di rendere pubblici. In risposta, xAI ha chiuso la funzione di caricamento del magazzino e ha reso lo strumento open source. Elon Musk ha pubblicato sulla piattaforma X: "Tutti i dati utente precedentemente caricati su SpaceX AI verranno completamente e completamente cancellati."
Commenti