Un ricercatore nel campo della sicurezza dell’intelligenza artificiale sostiene che l’intelligenza artificiale avrà più della metà delle probabilità di causare l’estinzione umana entro dieci anni. Sono dieci anni che non contribuisce ai suoi risparmi pensionistici.

Riassunto:

Nate Suarez, capo del Machine Intelligence Research Institute (MIRI), ha recentemente dichiarato in un'intervista ospitata da Nicholas Thompson, CEO di The Atlantic Monthly, che ritiene che esista una probabilità superiore al 50% che l'intelligenza artificiale avanzata porti all'estinzione umana in meno di dieci anni. Ha anche rivelato che non risparmia più per la pensione: sebbene conservi ancora il conto pensionistico 401 (k) che ha aperto mentre lavorava presso Google, non ha continuato a versare contributi per dieci anni.

Suarez studia da tempo il problema dell'allineamento dell'intelligenza artificiale, ovvero rendere il comportamento di potenti sistemi di intelligenza artificiale conforme alle intenzioni umane. Ha lavorato come ingegnere presso Google e Microsoft ed è coautore di Se qualcuno ce l'avesse fatta, tutti morirebbero. La sua preoccupazione riguardo al rischio non è che l’intelligenza artificiale odierà gli umani, ma che a un sistema superintelligente potrebbe semplicemente non interessare se gli umani sopravvivono; se gli esseri umani ostacolano il raggiungimento dei suoi obiettivi, o cercano di chiuderlo e sviluppare sistemi concorrenti, gli esseri umani potrebbero essere visti come un ostacolo.

Nel percorso di rischio da lui immaginato, la chiave non è solo se l'intelligenza artificiale può lanciare attacchi, ma se può diventare autosufficiente: se il sistema può ottenere in modo indipendente energia, chip e altre risorse e creare un'infrastruttura automatizzata che non si basa più sugli esseri umani, la capacità degli esseri umani di controllarlo potrebbe diminuire. Suarez ha spiegato che le persone potrebbero non conoscere in anticipo i modi specifici in cui la superintelligenza causerà il disastro, ma potrebbero comunque ritenere di trovarsi di fronte a un avversario molto potente.

Ha sostenuto che il governo interrompa la formazione generale dei sistemi di intelligenza artificiale e sposti l'attenzione della ricerca e dello sviluppo su usi specifici come la ricerca sul cancro e una guida autonoma più sicura. Ha anche affermato che i disastri non sono inevitabili e che sta ancora facendo del suo meglio per prevenire questo risultato. La soluzione che ha sottolineato non è quella di creare un sistema che possa uccidere tutti.

Il giudizio di Suarez è una valutazione del rischio personale, non una previsione scientifica comprovata, né rappresenta un consenso unificato tra i ricercatori sull'intelligenza artificiale. La sua affermazione di aver smesso di aumentare i suoi risparmi pensionistici riflette la sua visione dei rischi futuri e non deve essere interpretata come un consiglio sulle decisioni finanziarie di altri.