Riassunto:
Secondo "Business Insider", i media hanno posto la stessa domanda a ChatGPT di OpenAI, Google Gemini, Claude di Anthropic e Grok di xAI, chiedendo loro di analizzare come l'intelligenza artificiale potrebbe portare all'estinzione umana e di classificare gli scenari correlati in ordine di possibilità.
La domanda richiede che le quattro IA spieghino come possono verificarsi i rischi, quali collegamenti fuori controllo si trasformeranno in disastri, perché gli esperti ritengono che un determinato scenario sia più credibile e quali misure preventive possano essere adottate. Allo stesso tempo, si sottolinea che questi scenari sono previsioni di rischio altamente incerte e non sono conclusioni confermate.
Esistono differenze nei giudizi forniti dalle quattro IA, ma sono relativamente coerenti su due questioni.
Un robot simile a "Terminator" distrugge attivamente gli esseri umani, che è considerato lo scenario meno probabile. Al contrario, gli esseri umani che utilizzano l’intelligenza artificiale per creare armi biologiche, lanciare attacchi informatici o distruggere infrastrutture critiche sono visti come rischi più realistici e imminenti.
ChatGPT ha affermato che un'IA cosciente che decide attivamente di eliminare gli esseri umani è uno degli scenari più improbabili.
L'attenzione della maggior parte dei ricercatori sull'intelligenza artificiale non è se le macchine siano coscienti o dannose, ma che la potente intelligenza artificiale viene utilizzata dagli esseri umani per sviluppare armi biologiche, effettuare attacchi di rete complessi, diffondere informazioni false e attaccare infrastrutture critiche.
ChatGPT ha inoltre proposto che possano verificarsi contemporaneamente più crisi amplificate dall'intelligenza artificiale, come guasti del sistema di rete, conflitti geopolitici e la diffusione di false informazioni sovrapposte le une alle altre, aumentando così i rischi. Tuttavia, ha sottolineato che
Attualmente non esiste consenso sul fatto che l'IA che causa l'estinzione umana sia un evento ad alta probabilità o un risultato inevitabile.
Gemini ritiene inoltre che
lo scenario fantascientifico in cui l'intelligenza artificiale diventa improvvisamente consapevole di sé e odia gli esseri umani sia il meno credibile
. Tra le ragioni addotte c’era che l’intelligence non significa intrinsecamente intenti malevoli, che le installazioni militari critiche sono spesso isolate dalle reti pubbliche e fanno ancora molto affidamento sulla supervisione umana.Tutte e quattro le IA ritengono che
la minaccia rappresentata dagli esseri umani che abusano dell'IA sia più urgente dell'IA che attacca attivamente gli esseri umani.
Grok ha affermato che l’intelligenza artificiale potrebbe abbassare la soglia tecnica per la progettazione di agenti patogeni altamente letali, nuove armi e il lancio di attacchi informatici e fisici. Claude si è concentrato sui rischi derivanti dall’aumento delle capacità delle armi biologiche, ritenendo che l’intelligenza artificiale possa aiutare individui o piccoli gruppi a sviluppare agenti patogeni pericolosi senza anni di formazione professionale.In termini di valutazione del rischio a lungo termine, sia Gemini che Grok hanno menzionato la possibilità che gli esseri umani perdano il controllo. Gemini lo elenca come lo scenario di disastro dell’IA più probabile. Ritiene che l’intelligenza artificiale avanzata che realizza obiettivi complessi possa sviluppare obiettivi intermedi come ottenere risorse, autoprotezione e impedire che gli obiettivi vengano modificati e nascondere il vero comportamento durante i test, eludendo infine l’arresto o l’intervento umano.
Grok ritiene inoltre che l'intelligenza artificiale avanzata possa cercare autoprotezione, risorse e influenza per completare i compiti, ingannando così i supervisori, resistendo alle chiusure e indebolendo le capacità di controllo umano.
Claude ha suggerito che la perdita di controllo può avvenire anche in modo graduale. Man mano che l’intelligenza artificiale entra gradualmente nei processi decisionali economici, politici e militari, potrebbe diventare sempre più difficile per gli esseri umani attuare un intervento efficace. A quel punto,
il rischio potrebbe non manifestarsi necessariamente come un attacco improvviso da parte dei robot, ma potrebbe più probabilmente derivare dalla continua e crescente dipendenza degli esseri umani dai complessi sistemi di intelligenza artificiale.
Business Insider ha sottolineato che gli esperti di intelligenza artificiale presentano ancora chiare differenze sui rischi correlati. Alcuni ricercatori avvertono che gli esseri umani potrebbero perdere il controllo dell’intelligenza artificiale avanzata; altri esperti ritengono che tali previsioni manchino di prove sufficienti e che i rischi posti dall’IA possano essere controllati attraverso misure tecniche, supervisione esterna e standard di sicurezza.
Commenti