Riassunto:
Papa Leone XIV ha recentemente lanciato un altro avvertimento sull'applicazione dell'intelligenza artificiale in campo militare, invitando i governi a intraprendere azioni specifiche per vietare i sistemi d'arma in grado di determinare autonomamente gli obiettivi di attacco e di effettuare attacchi mortali. Ha sottolineato che le decisioni importanti che riguardano la vita umana, la libertà e l’uso della forza devono sempre essere sotto una supervisione umana efficace, informata e responsabile e non possono essere lasciate all’intelligenza artificiale per prenderle in modo indipendente.
Il 30 ottobre, ora locale, Papa Leone XIV ha incontrato in Vaticano scienziati, esperti tecnici e rappresentanti delle istituzioni correlate che hanno partecipato a una conferenza speciale sull'intelligenza artificiale. La conferenza, intitolata "Il futuro dell'intelligenza artificiale: un dialogo tra il Vaticano e la comunità scientifica sullo sviluppo e l'applicazione delle tecnologie intelligenti", è stata organizzata in collaborazione dalla Pontificia Accademia delle Scienze della Vita e dall'Istituto del Futuro della Vita e si è concentrata sulle questioni tecniche, etiche e sociali derivanti dallo sviluppo dell'intelligenza artificiale.
Nel suo discorso, il Papa ha ricordato il discorso pronunciato dal suo predecessore Papa Francesco ai leader del Gruppo dei Sette nel 2024. All'epoca, Francesco descrisse l'intelligenza artificiale come uno strumento allo stesso tempo entusiasmante e preoccupante, e chiarì che a nessuna macchina dovrebbe essere dato il potere di decidere se togliere una vita umana. Leone XIV riteneva che questo avvertimento sia attuale ancora oggi.
Leone XIV sottolineò che il futuro dell'intelligenza artificiale non è predestinato. Essendo una tecnologia sviluppata dagli esseri umani, la sua direzione di sviluppo dipende in ultima analisi dalle scelte degli esseri umani. Pertanto, gli esseri umani non solo hanno la responsabilità di guidare lo sviluppo dell’intelligenza artificiale, ma devono anche modificare o addirittura respingere determinate applicazioni quando necessario. La vera questione che deve essere discussa non è solo cosa può fare l’intelligenza artificiale, ma, cosa ancora più importante, quale scopo gli esseri umani vogliono che serva.
Ha sottolineato in particolare che l'intelligenza artificiale deve accettare vincoli etici efficaci, in particolare non consentendo ai sistemi algoritmici di decidere chi dovrebbe essere preso di mira o chi dovrebbe essere soggetto al controllo delle frontiere senza una sostanziale supervisione umana. Inserire una persona in una lista di obiettivi militari o in un database di controllo delle frontiere rischia di essere ridotto a un insieme di dati, mentre le vite reali e i diritti individuali coinvolti vengono ignorati.
Pertanto, il Papa ha invitato i paesi a condurre il cosiddetto "disarmo" dell'intelligenza artificiale, e ha esortato in particolare i paesi che si apprestano a tenere una conferenza pertinente a Ginevra, in Svizzera, a novembre ad adottare misure concrete per promuovere il divieto delle armi autonome letali.
Le cosiddette armi autonome letali si riferiscono a sistemi d'arma in grado di identificare, selezionare e attaccare obiettivi senza l'intervento umano diretto. Con lo sviluppo dell'intelligenza artificiale, della visione artificiale, dei droni e dei sistemi militari automatizzati, questo tipo di tecnologia è diventata una questione importante nella discussione della comunità internazionale sull'etica militare e sulle regole di guerra. La controversia principale è che una volta che le macchine acquisiranno la capacità di decidere autonomamente gli obiettivi degli attacchi, l’attribuzione della responsabilità, le conseguenze di errori di valutazione e il controllo umano della guerra potrebbero dover affrontare nuove sfide.
Oltre agli usi militari, Leone XIV espresse chiare obiezioni anche sulla questione se l'intelligenza artificiale dovesse ottenere personalità giuridica. Ha sottolineato che le macchine sono solo strumenti, non persone. L’intelligenza artificiale non ha corpi, emozioni, esperienze di vita e relazioni interpersonali reali, e non può comprendere l’amore, l’amicizia, il lavoro e la responsabilità dalla propria esperienza.
Ritiene che se al sistema di intelligenza artificiale venisse data personalità giuridica o diritti indipendenti, ciò potrebbe oscurare il vero soggetto responsabile. Quando l’intelligenza artificiale causa danni, le vittime potrebbero dover fare i conti con un sistema tecnico che non può assumersi la responsabilità morale, e le responsabilità di sviluppatori, operatori e utenti effettivi potrebbero quindi diventare meno chiare.
Il Papa ha anche sottolineato che lo sviluppo dell'intelligenza artificiale deve servire gli interessi comuni dell'intera società e non può diventare solo uno strumento per poche aziende e gruppi di interesse per ottenere potere e ricchezza. L’assistenza medica, la conoscenza, gli strumenti e le opportunità di sviluppo apportate dal progresso tecnologico dovrebbero favorire i diversi paesi e i gruppi sociali in modo più equo, soprattutto quelli più bisognosi.
A suo avviso, attualmente nel mondo non mancano le discussioni di principio sull'etica dell'intelligenza artificiale. La vera questione urgente è stabilire un sistema in grado di trasformare questi principi in vincoli pratici. La comunità internazionale deve formulare standard comuni, istituire un meccanismo di supervisione indipendente e chiarire il sistema di responsabilità nello sviluppo e nell’uso dell’intelligenza artificiale, in modo che le decisioni pertinenti possano essere riviste e possano essere forniti rimedi efficaci quando viene causato un danno.
Questo discorso continua la posizione centrale della prima enciclica di Leone XIV "Magnifica Humanitas" ("Grande Umanità"), pubblicata nel maggio di quest'anno. Il documento elenca l’intelligenza artificiale come uno degli argomenti chiave, invita i paesi a rafforzare la supervisione legale per evitare che lo sviluppo tecnologico danneggi la dignità umana e avverte che l’applicazione dell’intelligenza artificiale in guerra, nel mercato del lavoro e nel processo decisionale pubblico può avere impatti di vasta portata.
L'ulteriore attenzione di Leone XIV alla questione delle armi autonome letali ha anche portato la posizione del Vaticano in un collegamento più diretto con le discussioni in corso nella comunità internazionale sulla governance dell'intelligenza artificiale militare. Dal 16 al 20 novembre si terranno a Ginevra gli incontri rilevanti nel quadro della Convenzione delle Nazioni Unite su alcune armi convenzionali. Uno dei temi discussi sarà la supervisione internazionale delle armi autonome letali.
Il Papa non ha chiesto la cessazione completa della ricerca sull'intelligenza artificiale, ma ha sostenuto la definizione di confini chiari per le applicazioni che potrebbero causare danni personali irreversibili. Spera che i paesi possano istituire sistemi normativi efficaci attraverso la cooperazione internazionale per garantire che la tecnologia sia sempre sotto la responsabilità e il controllo umano, piuttosto che consentire che la velocità di sviluppo dell’intelligenza artificiale superi la capacità della società umana di gestire i rischi.
Commenti