Riassunto:
Il CEO di OpenAI, Sam Altman, ha pubblicato il 3 ottobre sulle piattaforme social che era "molto turbato dal fatto che qualcuno cercasse di attribuire potere religioso a un modello di intelligenza artificiale o dal fatto che le persone rinunciassero al proprio giudizio" e credeva che si trattasse di un vero problema di sicurezza. Altman non ha nominato alcuna azienda nel post, ma le sue osservazioni hanno fatto seguito a un rapporto su Anthropic che discuteva con il Vaticano sulla consapevolezza dell'intelligenza artificiale, quindi è stato visto da alcuni media come una critica indiretta ad Anthropic.
La controversia ha avuto origine da un articolo del New York Times del 29 settembre. Il giornale affermava che il cofondatore di Anthropic Christopher Ola aveva discusso con studiosi religiosi se modelli di intelligenza artificiale come Claude potessero avere coscienza e status morale e come far sì che i modelli mostrassero un comportamento morale; l'azienda aveva anche invitato studiosi di diverse tradizioni religiose a partecipare a scambi a porte chiuse. Il rapporto afferma inoltre che, dopo aver letto la bozza dell’enciclica di Papa Leone XIV sull’intelligenza artificiale, Ola era preoccupato per la sua posizione di non accettare che le macchine possano avere una coscienza, e aveva considerato di ritirare Anthropic dalle attività correlate. Il team ha quindi esercitato pressioni sui consiglieri papali, sperando che prendessero sul serio la possibilità di una coscienza modello. Ora ha detto al New York Times che i ricercatori non sanno se il modello di intelligenza artificiale sia cosciente, e in effetti non ne è sicuro. La chiave è trovare la risposta corretta.
Ciò che i media chiamano "conflitto" con il Papa è, più precisamente, disaccordo sulla posizione dell'enciclica e lobbying dietro le quinte; i resoconti pubblici attuali non indicano che Ola abbia mai avuto uno scontro faccia a faccia davanti al Papa. L'enciclica del Papa “Magnifica Humanitas” pubblicata a maggio affermava chiaramente che i sistemi di IA esistenti non hanno un corpo, non provano sentimenti, gioia o dolore e non hanno una coscienza morale; possono imitare il linguaggio e l'analisi, ma non comprendono il contenuto che generano. L'enciclica afferma che la tecnologia dovrebbe essere guidata dalla coscienza e da esseri umani liberi, che dovrebbero essere responsabili di determinarne usi e confini.
Ultraman ha usato l'espressione "intelligenza magica nel cielo" parlando degli obiettivi di OpenAI nel 2023; in un evento a Londra nel 2024, ha anche detto che non prega affinché Dio sia dalla sua parte, ma prega per se stesso di essere dalla parte di Dio, e ha detto che impegnarsi nello sviluppo di modelli di intelligenza artificiale "sembra come stare dalla parte degli angeli". L'articolo di revisione citava anche una dichiarazione attribuita a Ultraman nel 2015 sulla "creazione di una nuova forma di vita", ma l'articolo non forniva una fonte originale altrettanto chiara.
Ultraman una volta ammise pubblicamente che lo pseudonimo di Roon era la sua tromba; il racconto condivideva un diagramma a spirale con testo ebraico che è stato interpretato dai commentatori come uno stile Kabbalah, con il testo "Lightcone Infrastructure". Lo stesso Altman ha preso in prestito anche immagini religiose o mistiche. Tuttavia, il significato religioso di queste immagini appartiene all'interpretazione dell'autore e non può essere utilizzato per dimostrare l'affermazione di Ultraman secondo cui l'IA ha coscienza o divinità.
Le discussioni sull'Anthropic richiedono anche una distinzione tra fatti e commenti. Il New York Times ha riferito che la società aveva esplorato la possibilità di una coscienza modello e di uno status morale, ma lo stesso Ola ha chiarito che non c'era alcuna conclusione al riguardo; Le differenze tra le due società sulla consapevolezza dell’intelligenza artificiale riflettono anche le questioni dibattute nel settore tecnologico: come le persone dovrebbero vedere l’antropomorfismo dei modelli, se dare loro un’identità morale e come evitare che il sistema sostituisca il giudizio umano quando interagiscono con l’intelligenza artificiale.
Commenti