Riassunto:
Il CEO di Microsoft AI, Mustafa Suleyman, ha pubblicato un articolo in cui afferma che l'intelligenza artificiale attualmente non è cosciente e dovrebbe esserlo. Anche se tecnicamente possibile, non è d’accordo con lo sviluppo di un’intelligenza artificiale cosciente. Crede che gli sviluppatori non abbiano il diritto di introdurre una nuova specie cosciente nel mondo. Sostiene un percorso di sviluppo più sicuro ed evita di creare un’intelligenza artificiale consapevole godendo dei dividendi dell’intelligenza artificiale.
Il testo originale è il seguente:
Sono preoccupato per alcune reazioni al mio recente articolo sul welfare modello. Ci sono parecchie persone sulla piattaforma X che credono che dovremmo prendere sul serio i diritti dell’IA.
Molte persone hanno frainteso la mia frase di apertura: "L'intelligenza artificiale non ha coscienza. Non possono percepire, provare o soffrire dolore."
Hanno interpretato questa frase come: "L'intelligenza artificiale non può avere coscienza e non potrà mai percepire, provare o sopportare il dolore."
Ma non è mia intenzione. Ho scelto deliberatamente il tempo presente: non sono coscienti in questo momento e dobbiamo mantenere questo stato.
Penso che questa frase sia un giudizio oggettivo e ragionevole sull'attuale sistema di intelligenza artificiale. Sulla base delle migliori prove attualmente disponibili, mi attengo a questo punto di vista. Non vedo alcuna prova che l’intelligenza artificiale sia cosciente o dovrebbe essere benessere. Se in seguito emergeranno prove rilevanti, ovviamente rivedrò la mia opinione.
Se ci sono prove che l'intelligenza artificiale ha una coscienza, o che il livello di coscienza è abbastanza alto da meritare benedizioni, allora queste prove devono essere divulgate immediatamente all'intera società: spetta all'intera società decidere come procedere successivamente.
Sulla base di tutte le informazioni in mio possesso finora: se l'IA consapevole è realizzabile, svilupparla è sconsiderato e non dovremmo costruirla.
Se la coscienza iniziasse ad emergere spontaneamente durante l'addestramento, esorterei tutti a sospendere lo sviluppo dell'intelligenza artificiale finché non saremo in grado di eliminare tali funzionalità dalla progettazione.
Le nostre preoccupazioni per il benessere dovrebbero dare priorità agli esseri umani e agli animali che vivono oggi su questo pianeta, nonché al nostro prezioso e fragile ambiente naturale.
Noi, sviluppatori di intelligenza artificiale, non abbiamo assolutamente il diritto di portare nel mondo una nuova specie cosciente, anche se alcune persone vogliono farlo avendo come obiettivo primario il benessere dell'intelligenza artificiale.
Gli altri 8 miliardi di esseri umani coscienti sulla Terra non hanno accettato di partecipare a questo esperimento; proteggere i loro diritti morali, la sicurezza e il benessere è il nostro primo obbligo.
Cerchiamo di essere chiari: alcuni parlano di creare una specie consapevole con una mente digitale che potrebbe presto essere più intelligente e più capace di tutti gli esseri umani messi insieme.
Se sembra soffrire, o peggio, se crede veramente di poter percepire e provare dolore, allora molto probabilmente metterà i propri bisogni e desideri al di sopra degli obiettivi operativi preimpostati, non sarà d'accordo con noi e competerà con noi.
Questo tipo di intelligenza artificiale avrà capacità di persuasione e inganno di prim'ordine. Alla fine potrebbero danneggiarci per un semplice motivo: competeranno con noi per le risorse (energia, potenza di calcolo, materiali da costruzione, fondi per sostenere le proprie esplorazioni e desideri, ecc.).
Il riconoscimento che le macchine hanno una coscienza sarà un momento storico paragonabile a quello di Copernico e Darwin, e uno degli eventi più significativi avvenuti sulla terra dalla nascita della vita. Una volta costruite macchine coscienti, creeremo una specie digitale completamente nuova. Ciò sovvertirà il nostro sistema morale, l’ordine politico e il fondamento della civiltà umana.
Dovremmo progettare solo un'intelligenza artificiale che non sia consapevole e non meriti diritti e il cui unico obiettivo sia migliorare il benessere umano e non essere guidato dalle proprie motivazioni intrinseche. Verificheremo poi se questo allineamento del percorso e il controllo della sicurezza risultano più o meno difficoltosi. Sono urgentemente necessarie ulteriori ricerche in questa direzione, ed è anche un eccellente punto di ingresso per i principali laboratori per cooperare e condividere informazioni sulla sicurezza.
Riepilogo: penso che abbiamo l'opportunità di implementare una soluzione ingegneristica sicura per impostazione predefinita e raccogliere gli enormi dividendi portati da questa tecnologia senza intraprendere questo percorso pericoloso.
(Supplemento: la trasparenza di Anthropic su questo argomento merita un grande riconoscimento. Hanno pubblicato una costituzione sull'intelligenza artificiale, continuano a produrre articoli e blog e divulgano le loro pratiche e considerazioni dietro di loro. Sebbene io abbia opinioni diverse da loro, ammiro molto la loro forza tecnica e la loro volontà di affrontare questo difficile dibattito pubblico. Ciò merita un riconoscimento continuo. Questa questione è troppo importante e non dovrebbe trasformarsi in un confronto tra fazioni.)
Commenti