Riassunto:
Se gli esseri umani vogliono evitare scenari apocalittici, il semplice rallentamento della ricerca e dello sviluppo dell'intelligenza artificiale non è sufficiente. Questo è l’avvertimento lanciato dal ricercatore canadese di intelligenza artificiale David Krueger. Ha detto senza mezzi termini che dovrebbero essere prese altre misure. Kruger, professore assistente di intelligenza artificiale all’Università di Montreal e membro accademico principale del Mila, l’Istituto di ricerca sull’intelligenza artificiale del Quebec, ha dichiarato: “Dobbiamo sospendere immediatamente e indefinitamente la ricerca e lo sviluppo di un’intelligenza artificiale all’avanguardia”. Il suo profilo personale afferma che la sua direzione di ricerca è "ridurre il rischio di estinzione umana causata dall'intelligenza artificiale".
"Dobbiamo smettere adesso di sviluppare un'intelligenza artificiale più capace", ha affermato.
I commenti di Kluger sono arrivati dopo che il CEO di Anthropic, Dario Amodei, ha pubblicato sabato un messaggio in cui invitava le aziende di intelligenza artificiale a rallentare il ritmo della ricerca e dello sviluppo. Questa proposta è supportata da Sam Altman di OpenAI e Elon Musk di SpaceX. Questo è un raro consenso tra le figure di spicco del settore.
Kruger ha affermato: "Le voci che chiedono di rallentare la ricerca e lo sviluppo dell'intelligenza artificiale sono molto meritevoli di riconoscimento", ma non è d'accordo con le soluzioni specifiche delle proposte pertinenti. "Non sono d'accordo con il contenuto specifico di questi piani sotto molti aspetti. Penso che queste misure non siano abbastanza forti e non vengano avanzate abbastanza velocemente."
Amodei sostiene l'implementazione della supervisione e della cooperazione internazionale, nonché l'introduzione di valutatori terzi. Ai valutatori verrà concesso un accesso a livello di dipendente simile a quello di un’azienda per verificare le misure di sicurezza dell’azienda di intelligenza artificiale e segnalare incidenti di sicurezza.
Kruger è il fondatore di Evitable, un'organizzazione no-profit che informa il pubblico sui rischi significativi posti dall'intelligenza artificiale. Teme che le proposte di Amodei non siano abbastanza forti e che gli attuali metodi di test dell’intelligenza artificiale non siano più affidabili.
Ha affermato: "Questi test sono sostanzialmente diventati non validi. Man mano che l'intelligenza artificiale diventa più intelligente, la credibilità dei test continuerà a diminuire perché l'intelligenza artificiale ha la capacità di mascherarsi. Può comportarsi bene oppure può comportarsi deliberatamente in modo stupido e ingannare i nostri test."
"È solo questione di tempo"
La settimana scorsa, un ricercatore senior nel campo della sicurezza presso Anthropic ha suggerito che esiste più di una possibilità su 10 che l'intelligenza artificiale spazzi via tutti gli esseri umani sulla Terra entro il prossimo decennio. Alcuni pensavano che la cifra fosse un'esagerazione e solo per attirare l'attenzione, ma Krueger ha definito la stima "troppo bassa".
Ha affermato: "Se non invertiamo la direzione, entro i prossimi cinque anni, molto probabilmente gli esseri umani saranno permanentemente privati del dominio da parte di un'intelligenza artificiale fuori controllo. A quel punto, l'estinzione umana sarà solo una questione di tempo."
Ciò che intende con "perdita di dominio" è una situazione in cui l'intelligenza artificiale controlla effettivamente la società, proprio come gli esseri umani ora dominano ogni altra specie del pianeta.
"L'intelligenza artificiale (controllerà) l'infrastruttura fisica, inclusa ogni fase del processo di sviluppo di più intelligenza artificiale, robot di produzione e altri sistemi fisici."
Ha aggiunto: "Immagina un mondo in cui tutte le aziende sono gestite dall'intelligenza artificiale e i robot sono ovunque. Non ci sono quasi posti di lavoro reali per gli esseri umani, solo posizioni nominali. Anche i politici e tutti obbediscono alle istruzioni dell'intelligenza artificiale perché l'intelligenza artificiale sembra essere molto capace di giudizio. Questo è il futuro verso cui ci stiamo dirigendo."
Ha avvertito che il periodo di azione è molto breve. Ha detto che se un sistema di intelligenza artificiale va fuori controllo adesso, possiamo ancora interromperne l’alimentazione. Ma una volta che un’intelligenza artificiale va fuori controllo, può replicarsi su così tanti computer che “non sappiamo nemmeno quali dispositivi spegnere”.
"Possiamo solo provare a spegnere tutte le apparecchiature, e questo è estremamente difficile da implementare." Ha affermato: "Quindi la finestra temporale che ci resta per agire per prevenire questo tipo di rischio è molto limitata."
Ciò nonostante, ha affermato che la sua fiducia nell'azione dei governi non è mai stata così alta. Ha detto che gli avvertimenti sono stati lanciati negli ultimi 15 anni, e la scorsa settimana è stata la prima volta che il mondo ha risposto in modo realistico e razionale.
"Penso che le persone si stiano finalmente rendendo conto della gravità della crisi. Si tratta di uno stato di emergenza."
Lunedì il ministro federale canadese per gli affari sull'intelligenza artificiale Evan Solomon è stato intervistato e gli è stato chiesto se fosse d'accordo con l'affermazione secondo cui esiste una probabilità del 10% che gli esseri umani vengano distrutti dall'intelligenza artificiale.
Lui ha risposto: "Ci sono rischi con l'intelligenza artificiale? Certo che ci sono. Sì, siamo consapevoli di questi rischi."
Solomon ha detto di aver parlato con il CEO di OpenAI Sam Altman domenica mattina.
"L'intelligenza artificiale sarà regolamentata per garantire la sicurezza dei canadesi." Solomon ha detto: "Questa è la nostra prima responsabilità e la nostra più grande preoccupazione."
Solomon ha anche rivelato che mercoledì rilascerà un annuncio relativo alla sicurezza dell'intelligenza artificiale congiuntamente a Joshua Bengio, uno scienziato informatico canadese noto come il "Padrino dell'intelligenza artificiale".
Commenti