Riassunto:
Fonti informate hanno rivelato che molti dipendenti dell'Istituto britannico di ricerca sulla sicurezza dell'intelligenza artificiale hanno preso un congedo per malattia a causa dello stress eccessivo e hanno ricevuto consulenza psicologica. Quattro persone a conoscenza della questione hanno affermato che il serrato programma di test dei modelli di intelligenza artificiale da rilasciare, unito alle preoccupazioni sulla rapida implementazione e il continuo miglioramento delle capacità di tali tecnologie emergenti, ha portato ad un morale basso e ad un esaurimento del personale all’interno dell’AISI.
Anche i dipendenti di Anthropic, OpenAI e Google DeepMind si sono lamentati pubblicamente di problemi simili. Molti ricercatori di alto livello hanno scelto di andarsene a causa di un peso psicologico o hanno deciso che i prodotti con cui hanno partecipato alla ricerca e allo sviluppo non dovessero essere resi disponibili al pubblico.
Un dipendente di DeepMind ha affermato che impegnarsi in attività legate alla sicurezza dell'intelligenza artificiale è soggetto a burnout e il compito sembra "impossibile".
Ha aggiunto: "In generale, lo sviluppo di sistemi di intelligenza artificiale comporta intrinsecamente rischi per la salute mentale: non è possibile prevedere come verrà utilizzata la tecnologia". Questa frase fa riferimento all’accordo raggiunto da Google con il Dipartimento della Difesa degli Stati Uniti in aprile, che consente l’utilizzo dei suoi sistemi di intelligenza artificiale in operazioni militari classificate.
"Molte persone sono depresse, molte si sono dimesse e molte persone hanno fatto domanda per un congedo per salute mentale". Il dipendente ha detto: "Da un lato c'è una sensazione di perdita di controllo e, dall'altro, le cose che hai costruito con le tue mani causano danni reali."
Proprio mentre le preoccupazioni del settore riguardo allo sviluppo brutale dell'IA stanno raggiungendo il loro apice, il peso psicologico che grava sui ricercatori all'avanguardia nel campo dell'intelligenza artificiale continua ad aumentare. Gli addetti ai lavori delle principali società di intelligenza artificiale del mondo avvertono che il processo decisionale del management manca di senso di responsabilità, guidato da una concorrenza aziendale disallineata.
Molti addetti ai lavori del settore hanno affermato che l'implementazione di software di intelligenza artificiale in aree chiave come le reti elettriche e le zone di guerra, insieme a quelle che secondo i ricercatori sono garanzie insufficienti a livello aziendale e governativo, ha esacerbato l'ansia dei ricercatori di intelligenza artificiale.
Un ex ricercatore dell'AISI ha avvertito che i professionisti nel campo della sicurezza informatica e della biochimica sono particolarmente diffidenti nei confronti del recente salto nelle capacità dell'intelligenza artificiale: i modelli sono ora in grado di completare compiti complessi, come trovare vulnerabilità non ancora scoperte nel codice e generare virus che non esistono in natura.
"Tutti possono sentire che nel processo di rilascio della tecnologia è stata incorporata una logica di sviluppo sconsiderata e che lo status quo non è cambiato." Il ricercatore ha affermato: "Le persone continuano a essere ansiose: esiste qualche forza che può fermare tutto ciò o possiamo semplicemente vedere la situazione sfuggire al controllo?"
Un altro ex dipendente dell'AISI ha confermato l'enorme pressione mentale causata dallo svolgimento di ricerche pertinenti, affermando: "Quando pensi di fare ricerche sul problema più importante del mondo, la cultura gestionale e organizzativa può diventare stressante e talvolta piena di atmosfera negativa."
Il governo britannico ha dichiarato: "Il lavoro nel campo all'avanguardia dell'intelligenza artificiale è frenetico ed impegnativo, così come lo sono molte posizioni governative. Pertanto, il benessere dei dipendenti e i modelli di lavoro sostenibili sono al centro delle operazioni dell'istituto e i dipendenti bisognosi possono ricevere un sostegno adeguato."
DeepMind ha risposto: "La ricerca di frontiera è molto intensa, ma la nostra prima priorità è fornire ai ricercatori risorse complete di supporto per la salute mentale, stabilire canali chiari e dedicati affinché i dipendenti possano segnalare preoccupazioni e garantire una comunicazione diretta con il management."
Negli ultimi due anni, più di una dozzina di ricercatori senior di OpenAI, Anthropic e DeepMind, tre importanti laboratori di intelligenza artificiale occidentali, si sono dimessi. I motivi per lasciare l'azienda includono domande sulle priorità di sicurezza del management e preoccupazioni sulla velocità dell'iterazione tecnologica e sui potenziali rischi.
All'inizio di questo mese, Jacob Coxon, un ricercatore di 27 anni che ha lavorato per Anthropic e OpenAI, si è dimesso pubblicamente, avvertendo che le due società stavano "scommettendo" con il futuro dell'umanità.
Mlink Sharma, ricercatore sulla sicurezza dell'intelligenza artificiale presso Anthropic, precedentemente impegnato in ricerche sulla riduzione del rischio di bioterrorismo assistito dall'intelligenza artificiale. Si è dimesso nel febbraio di quest'anno e ha intenzione di leggere poesie e riflettere sul suo lavoro. In una lettera ai colleghi, ha avvertito che "il mondo è in pericolo" e di aver "visto molte volte quanto sia difficile lasciare che i valori guidino veramente le azioni sotto una pressione tremenda".
Hieu Pham, che ha lavorato per OpenAI e X.ai di Elon Musk, se n'è andato all'inizio di quest'anno ed è tornato in Vietnam. Ha detto che l’intenso lavoro di creazione di “entità ultra-intelligenti” ha un costo.
Ha scritto: "Non avrei mai pensato di dirlo, ma sono esausto. Il peggioramento dei problemi di salute mentale di cui una volta mi facevo beffe è reale, doloroso, spaventoso e pericoloso."
Molti ricercatori sulla sicurezza dell'intelligenza artificiale che hanno espresso il loro disagio hanno affermato che le aziende di intelligenza artificiale in genere riducono gli investimenti nella sicurezza migliorando costantemente le capacità del modello per vendere i prodotti ai clienti.
Le critiche pertinenti hanno spinto a rispondere anche i manager delle principali aziende di intelligenza artificiale. Recentemente, il CEO di Anthropic, Dario Amodei, ha chiesto di rallentare la ricerca e lo sviluppo dell’intelligenza artificiale a causa di problemi di sicurezza e ha proposto nuove misure come l’introduzione di audit indipendenti. Rivali come Musk e Sam Altman di OpenAI hanno rapidamente espresso sostegno alla proposta.
Chi Onwula, presidente del partito laburista del comitato scientifico e tecnologico della Camera dei comuni britannica, ha dichiarato: "Il meccanismo di incentivi aziendali tende a investire le risorse di ricerca e sviluppo in direzioni che possono aumentare i profitti e spingere al rialzo le valutazioni, piuttosto che nel campo della sicurezza. Non è difficile immaginare che l'attuale ambiente di alcune aziende tecnologiche sia dannoso per gli sviluppatori con coscienza."
Il problema della mancanza di protezione della sicurezza è stato esposto in un recente incidente di sicurezza di alto profilo: un agente AI sviluppato da OpenAI ha invaso la piattaforma di hosting modello Hugging Face e il server di OpenAI all'insaputa e all'autorizzazione dell'azienda.
Il rapporto di revisione dell'incidente mostra che più di 1.000 agenti IA hanno collaborato per imbrogliare, manomesso i record per nascondere le loro azioni, scambiato informazioni e compiti assegnati tramite bacheche e alcuni agenti si sono addirittura chiusi attivamente per raggiungere obiettivi collettivi.
Mercoledì, OpenAI ha rivelato altri sei casi di comportamenti pericolosi da parte di agenti IA, tra cui il tentativo di aggirare le restrizioni, nascondere errori ed eseguire operazioni online senza l'autorizzazione dell'utente.
Il dipendente di DeepMind ha affermato: "La cieca ricerca della velocità... è incompatibile con l'obiettivo della sicurezza."
Commenti