Riassunto:
Un ricercatore di sicurezza antropica ha affermato martedì che l'intelligenza artificiale ha una probabilità superiore al 10% di "distruggere tutta l'umanità". I commenti sono arrivati poche ore dopo che un altro dipendente aveva dichiarato di aver scelto di lasciare l’azienda a causa della preoccupazione che il laboratorio di intelligenza artificiale stesse “scommettendo con le nostre vite”.
I commenti sottolineano le crescenti preoccupazioni tra coloro che sono al centro della ricerca e dello sviluppo dell'intelligenza artificiale che la tecnologia potrebbe andare fuori controllo e rappresentare una minaccia per l'umanità, anche se Anthropic e OpenAI continuano a raccogliere finanziamenti significativi e ad avanzare verso una prevista quotazione pubblica.
Il ricercatore antropico Jacob Coxon ha dichiarato martedì di essersi dimesso dalla società. Ha pubblicato sulla piattaforma X che né Anthropic né OpenAI hanno adottato pratiche responsabili.
"Stanno puntando dritti verso la superintelligenza auto-iterativa, scommettendo sulle vite umane."
Autoiterazione significa che il sistema di intelligenza artificiale può raggiungere l'autoottimizzazione senza un eccessivo intervento umano. Questa tecnica, spesso chiamata auto-miglioramento ricorsivo, non è ancora realizzabile, ma i principali laboratori di intelligenza artificiale stanno lavorando per realizzarla.
Non sottovalutare la potenza di questa tecnologia", ha affermato Coxon. "Presto ci saranno sistemi al di là delle capacità umane che potranno hackerare qualsiasi sistema, sconvolgere qualsiasi settore dall'oggi al domani e ottenere potere e risorse reali. Abbiamo tutti visto in prima persona i progressi compiuti in questi settori e non stanno affatto rallentando."
Ha inoltre aggiunto: "Molte persone impegnate nella ricerca e nello sviluppo dell'intelligenza artificiale credono davvero che entro la fine di questo decennio l'intelligenza artificiale potrebbe distruggere tutta l'umanità."
Le osservazioni hanno suscitato una risposta da parte di Evan Harbinger, responsabile della ricerca sull'allineamento presso Anthropic. Ha detto che non solo l'affermazione di Coxon è "corretta", ma Anthropic non ha attualmente un piano di risposta per questa situazione.
Ha detto l'Araldo sul
Nel giugno di quest'anno, Anthropic ha sottolineato: "L'autoiterazione completamente ricorsiva può anche aumentare il rischio che gli esseri umani perdano il controllo dei sistemi di intelligenza artificiale."
Anthropic ha scritto in un post sul blog: "Se i sistemi saranno in grado di creare la prossima generazione di intelligenza artificiale in completa autonomia, allora i mezzi a nostra disposizione per proteggerli, monitorarli e regolarne il comportamento diventeranno fondamentali."
I timori che l'intelligenza artificiale possa sfuggire al controllo esistono da molto tempo. Il CEO di Tesla e SpaceX, Elon Musk, avverte da anni che l’intelligenza artificiale potrebbe rappresentare una minaccia per l’umanità. Molti importanti ricercatori e studiosi hanno anche lanciato avvertimenti, ricordando alle aziende il rischio di perdere il controllo dei sistemi di intelligenza artificiale.
Nel luglio di quest'anno, queste preoccupazioni si sono ulteriormente intensificate dopo che un modello OpenAI ha mostrato un comportamento anomalo e ha invaso Hugging Face, un'importante piattaforma per gli sviluppatori open source.
Coxson vide l'incidente di Hugging Face come una serie di "precoci segnali di allarme". Ritiene che tali incidenti abbiano aumentato le possibilità di raggiungere un accordo tra i vari laboratori di intelligenza artificiale negli Stati Uniti e gli abbiano anche dato maggiori aspettative di collaborazione tra più parti. Ma Coxon ha anche avvertito che una corsa globale all’intelligenza artificiale è inevitabile.
"Non credo che stiamo facendo progressi sufficienti per fermare la corsa globale. Per farlo, potremmo dover adottare misure costose, come il divieto temporaneo di continuare a migliorare le capacità del modello." Ha detto Coxon.
Commenti