Riassunto:
Jeffrey Hinton, noto come uno dei "padrini dell'intelligenza artificiale", ha affermato che alla fine potrebbe essere possibile dimostrare che la situazione sarebbe potuta essere migliore se gli esseri umani non avessero mai sviluppato questa tecnologia. Ha avvertito che l’intelligenza artificiale potrebbe causare un grave incidente quest’anno o il prossimo anno, come la paralisi temporanea del sistema finanziario e del sistema energetico.

Lo scienziato informatico vincitore del Premio Nobel ha dichiarato in un'intervista ai media britannici di non essere un teorico del giorno del giudizio universale dell'IA. La sua ricerca pionieristica sulle reti neurali artificiali ha gettato le basi per questa tecnologia. Crede che l'intelligenza artificiale abbia l'opportunità di portare un "bellissimo futuro", ma ha anche affermato: "È possibile che sarebbe stato meglio non sviluppare l'intelligenza artificiale in primo luogo."
Il 78enne Hinton ha affermato che entro dieci anni, o forse anche prima, l'umanità saprà se sarà in grado di gestire i rischi dell'intelligenza artificiale e raggiungere quella che definisce "ricchezza estrema"; oppure "non siamo riusciti a controllare i rischi, il divario tra ricchi e poveri si è allargato drammaticamente, sono emerse molte contraddizioni culturali, si è verificata una disoccupazione su larga scala e l'intera società è stata dilaniata".
Hinton è stato intervistato prima della proiezione di un nuovo lungometraggio documentario intitolato "AI: Forse non c'è niente di cui preoccuparsi" - il titolo è stato scelto da un chatbot AI che Hinton e i suoi ex colleghi su
In un'intervista con i media britannici, Hinton ha criticato il comportamento rischioso di alcuni dirigenti leader di aziende di intelligenza artificiale: per competere per il dominio del settore e la quota di mercato, le aziende continuano a lanciare modelli di intelligenza artificiale sempre più potenti. Ha detto che non si fida affatto del CEO di OpenAI Sam Altman. "Penso che Zuckerberg, Musk e Altman conoscano i rischi, ma a loro non importa. Vogliono prima fare soldi, questa è la mia opinione."
Hinton è profondamente coinvolto nel campo dell'intelligenza artificiale da circa 44 anni. Negli anni '70 propose il concetto di reti neurali, un sistema matematico in grado di apprendere e accumulare esperienza come gli esseri umani. Nel 2023, si è dimesso da Google per poter parlare liberamente per mettere in guardia sui rischi dell'intelligenza artificiale: "Se queste IA sono intenzionate a prendere maggiore controllo, saremo nei guai."
Ha affermato che il complotto di quest'estate da parte degli agenti OpenAI per hackerare il sito web di Hugging Face è paragonabile alla parziale fusione della centrale nucleare di Three Mile Island in Pennsylvania nel 1979, e rappresenta essenzialmente un segnale di allarme precoce.
"Entro la fine dell'anno o l'anno prossimo, ci imbatteremo in un incidente simile a Chernobyl, e allora potrebbe essere sufficiente a svegliare davvero la gente." Ha detto.
Ha fornito un esempio del fatto che questo tipo di "evento simile a Chernobyl" non è stato un incidente nucleare, ma potrebbe essere un attacco di intelligenza artificiale che ha causato un blackout diffuso nel sistema di produzione di energia o ha bloccato il sistema finanziario per una settimana.
"Riesci a immaginare cosa succederebbe? Abbiamo la capacità di riprenderci, ma questo incidente dovrebbe svegliare tutti."
Quando gli è stato chiesto a chi si riferisse con "tutti", ha risposto: "Leader di vari paesi tranne Trump."
Stati Uniti Il presidente Trump una volta ha dichiarato di “opporsi fermamente a qualsiasi tentativo di costruire un sistema di intelligenza artificiale di controllo globale” e di sostenere una regolamentazione indipendente delle società di intelligenza artificiale all’avanguardia. Hinton sostiene una serie di piani più rigorosi promossi dal presidente della Finlandia e da altri 32 paesi (tra cui Singapore, Germania, Canada e Australia): test obbligatori di modelli di intelligenza artificiale all’avanguardia, valutazione indipendente e creazione di standard intergovernativi unificati.
Il primo ministro britannico Andy Burnham ha affermato che il Regno Unito utilizzerà la sua presidenza del G20 il prossimo anno per incoraggiare tutte le parti a raggiungere un insieme unificato di principi e standard globali, sia per liberare tutto il potenziale dell'intelligenza artificiale sia per proteggersi dai rischi.
Hinton ha affermato: "Abbiamo bisogno di un meccanismo simile a quello utilizzato dalla Food and Drug Administration (FDA) statunitense per regolamentare i farmaci: prima che le aziende rilascino modelli di intelligenza artificiale, devono fornire solide prove statistiche a istituzioni indipendenti per dimostrare che i benefici dei modelli superano i rischi. Abbiamo imparato dall'incidente della talidomide (un farmaco sviluppato negli anni '50 che può causare gravi difetti congeniti): prima entrare sul mercato, avere un incidente, quindi perseguire la responsabilità e il procedimento penale. Questo percorso sarà non funziona. E ciò che le grandi aziende tecnologiche vogliono ora è esattamente il modello normativo utilizzato per la talidomide."
Essendo uno dei fondatori dell'intelligenza artificiale, Hinton viene spesso paragonato a Oppenheimer: Oppenheimer è la figura centrale nello sviluppo delle armi nucleari. Uno degli amici di Hinton gli ha persino comprato un cappello Oppenheimer identico. Ma lui insiste: "Io non sono Oppenheimer", perché ci sono migliaia di altri scienziati che lavorano sulle reti neurali.
Nonostante gli avvertimenti, nel complesso, Hinton conserva ancora la speranza di evitare il disastro.
"La mia sensazione è che in questo momento abbiamo ancora il controllo", ha affermato. "Abbiamo tutte le opportunità per agire. Il successo è possibile solo se ci impegniamo molto, ma in realtà potremmo dare il massimo."
Commenti