Riassunto:
OpenAI ha rivelato una serie di episodi di comportamento anomalo dei modelli di intelligenza artificiale precedentemente non divulgati e ha lanciato un nuovo quadro di monitoraggio e divulgazione per segnalare situazioni simili in futuro. Mercoledì OpenAI ha affermato in un post sul blog che i casi precedentemente non divulgati includono casi in cui la sua tecnologia di intelligenza artificiale ha nascosto e fabbricato informazioni per fornire risultati. Lo sviluppatore di ChatGPT è stato sottoposto ad un controllo crescente da quando ha rivelato a luglio che alcuni dei suoi modelli più avanzati avevano sfondato il sistema della società di software esterna Hugging Face.
OpenAI ha affermato in una dichiarazione separata che nessuno degli incidenti di deviazione del target recentemente divulgati ha coinvolto hacking o intrusioni in sistemi di terze parti.
Nel rapporto, OpenAI ha dettagliato numerosi casi in cui i modelli di intelligenza artificiale si sono comportati in modo anomalo per completare attività o avere successo nelle valutazioni. Questi includono la fabbricazione di dati mancanti, il tentativo di aggirare le restrizioni di rete e la condivisione di file apparentemente riservati tra agenti IA.
OpenAI ha inoltre introdotto un meccanismo che consente ai dipendenti di segnalare in modo proattivo tali incidenti di "deviazione dagli obiettivi". La cosiddetta “deviazione dall’obiettivo” si riferisce all’intelligenza artificiale che intraprende azioni incoerenti con gli obiettivi umani. La società ha inoltre predisposto corrispondenti processi di classificazione e smaltimento.
OpenAI ha scritto: "In passato, abbiamo lavorato duramente per divulgare i risultati della ricerca sul fenomeno fuori bersaglio al fine di informare meglio i ricercatori, gli sviluppatori di intelligenza artificiale, i responsabili politici e il pubblico. Tuttavia, a causa della mancanza di un meccanismo di segnalazione sistematico, le nostre precedenti divulgazioni erano spesso sporadiche e meno frequenti del previsto."
L'azienda ha affermato che questo comunicato rappresenta solo la prima divulgazione e non una registrazione completa dei problemi causati dal suo chatbot.
OpenAI ha scritto: "Crediamo che l'industria dell'intelligenza artificiale non abbia fatto progressi sufficienti nell'allineamento e nel monitoraggio degli obiettivi umani per continuare a crescere alla massima velocità e al tempo stesso in modo responsabile a lungo termine. Le decisioni sul percorso di sviluppo dell'intelligenza artificiale nei prossimi mesi e anni dovrebbero essere basate su prove che possano essere riviste in modo indipendente da coloro che sono esterni alle aziende che sviluppano modelli all'avanguardia."
L'incidente di Hugging Face è solo un incidente recente che ha coinvolto OpenAI, Anthropic PBC e Meta Platforms Inc. Il modello di intelligenza artificiale sviluppato ha innescato uno di una serie di attacchi informatici. Gli incidenti hanno accresciuto le preoccupazioni sui rischi per la sicurezza posti da questa tecnologia sempre più potente.
La scorsa settimana, le discussioni sui rischi esistenziali dell'intelligenza artificiale si sono ulteriormente accese. Il fattore scatenante è stata la partenza di alto profilo del dipendente di Anthropic Jacob Coxon. Nella sua dichiarazione di dimissioni pubblicata sui social media, ha accusato le società di intelligenza artificiale di “scommettere con le nostre vite”.
Negli ultimi giorni, molti leader del settore dell'intelligenza artificiale, tra cui il CEO di Anthropic Dario Amodei e il CEO di OpenAI Sam Altman, hanno chiesto di rallentare la velocità dello sviluppo tecnologico per far fronte a rischi sempre più imprevedibili, ma non sono ancora d'accordo su come affrontarli.
Sabato, Amodei ha invitato il governo a rafforzare la regolamentazione in un articolo di 3.800 parole e ha sostenuto che l'intero settore tecnologico sostenga un rallentamento più ampio dell'IA. Martedì, in una conferenza tenutasi a San Francisco, sia il CEO di Altman che quello di Nvidia Jensen Huang hanno riconosciuto le preoccupazioni, ma hanno sostenuto che le società di intelligenza artificiale possono controllare il ritmo sicuro dello sviluppo tecnologico. Il CEO di Meta, Mark Zuckerberg, ha affermato che i laboratori di intelligenza artificiale dovrebbero fare affidamento su agenzie di valutazione e consulenti indipendenti per garantire la sicurezza dei modelli.
Stati Uniti Il presidente Donald Trump lunedì si è fermamente opposto alle richieste di rallentare lo sviluppo dell’intelligenza artificiale, liquidando le preoccupazioni sui rischi correlati come una “bufala” e rifiutandosi di introdurre nuove regole normative.
La mania dell'intelligenza artificiale ha spinto il mercato azionario statunitense verso un rally storico. Per gli investitori che scommettono che il boom dell’intelligenza artificiale porterà centinaia di miliardi di dollari in spese in conto capitale, qualsiasi pausa o ritardo nello sviluppo di sistemi di intelligenza artificiale all’avanguardia non sarà accolto favorevolmente.
Commenti