Riassunto:
Il 4 novembre, secondo Reuters, OpenAI ha rivelato nell'ottobre di quest'anno di aver scoperto un dispositivo di registrazione che era stato segretamente collocato in una sala conferenze dei dirigenti. Molti ex dipendenti di OpenAI hanno avuto la stessa reazione: non sono rimasti sorpresi.
Alfzan è accusato di aver installato apparecchiature di intercettazione
Il 13 ottobre il Dipartimento di Giustizia degli Stati Uniti ha dichiarato che le forze dell'ordine federali statunitensi hanno arrestato un uomo saudita, Abdulrahman Alfozan, e lo hanno accusato di aver installato un dispositivo di registrazione nascosto in una sala conferenze di dirigenti. Il dispositivo è stato nascosto nella carta igienica per evitare di essere scoperto. Alfzan, che ora ha 35 anni, all’epoca era un ingegnere presso OpenAI.
Secondo cinque persone a conoscenza della questione, anche prima che OpenAI lanciasse ChatGPT alla fine del 2022, alcuni dipendenti dell'azienda avevano già sollevato preoccupazioni internamente sulle sue pratiche di sicurezza. Questi dipendenti avevano espresso preoccupazioni alla leadership senior e al consiglio di amministrazione di OpenAI. Tuttavia, alcuni dipendenti, dopo aver parlato con il management e il consiglio di amministrazione, hanno concluso che il management era più concentrato sul tenere il passo con concorrenti come Google e Anthropic che sulla sicurezza stessa.
Questi dipendenti ritengono che i controlli di sicurezza di OpenAI siano troppo allentati e consentano a soggetti esterni, inclusi governi stranieri, di ottenere con relativa facilità informazioni tecniche sensibili dell'azienda, hanno affermato persone a conoscenza della questione. Ad esempio, qualsiasi dipendente OpenAI con accesso al codice dell'azienda può visualizzare i dettagli tecnici dietro molti dei progetti dell'azienda.
Secondo due persone che hanno familiarità con la questione, OpenAI ha iniziato ad adattare la propria strategia per affrontare i problemi di sicurezza. Thibault Sottiaux, un membro del senior management che supervisiona lo sviluppo del prodotto, ha recentemente assunto la responsabilità di un'iniziativa interna per rafforzare la sicurezza dei sistemi interni di OpenAI. Ad agosto, Sotio ha ridistribuito un quarto degli ingegneri di produzione di OpenAI per migliorare la propria infrastruttura di sicurezza.
Questi avvertimenti interni, che includono anni di denunce dei dipendenti alla leadership in merito a vulnerabilità interne, alcune delle quali non sono state segnalate in precedenza, rivelano una tensione nel campo dell'intelligenza artificiale. Dal lancio di ChatGPT alla fine del 2022, la tecnologia AI è diventata una risorsa strategica per gli Stati Uniti, che hanno esercitato pressioni sulle aziende americane affinché proteggessero la loro tecnologia dai concorrenti stranieri.
Tuttavia, l'aggiunta di livelli di protezione della sicurezza potrebbe anche rallentare i progressi nel progresso della tecnologia AI e potrebbe complicare i piani per massicce IPO di OpenAI e Anthropic. Queste IPO le metteranno tra le aziende di maggior valore al mondo.
La velocità di sviluppo dell'IA è più importante
Will DePue, un ex ricercatore che si è dimesso da OpenAI nell'aprile di quest'anno, ha pubblicato un post su
Alla domanda sulle preoccupazioni dei dipendenti e sulla loro percezione che il management non stia agendo su questi problemi, la portavoce di OpenAI Elana Widmann ha affermato che OpenAI è una delle organizzazioni più prese di mira al mondo. Ecco perché le aziende investono molto nei loro programmi di sicurezza per proteggersi dagli attacchi interni, dai criminali informatici e dagli attori statali, ha affermato.
"Proteggere la nostra tecnologia, i nostri dati e i nostri dipendenti è una responsabilità che prendiamo molto sul serio ed è un compito di importanza nazionale. Le nostre azioni recenti dimostrano che questo meccanismo di sicurezza funziona: identificando i rischi e rispondendo in modo decisivo. Poiché le tecnologie e le minacce continuano ad evolversi, continueremo a rafforzare le nostre capacità di difesa." ha detto Weidmann.
Commenti