Riassunto:
Jeffrey Hinton, conosciuto come il "Padrino dell'intelligenza artificiale" e vincitore del Premio Nobel, ha lanciato un pesante avvertimento in un'intervista al Guardian.
Ritiene che quest'anno o il prossimo anno potrebbe verificarsi un grave incidente della portata di Chernobyl nel campo dell'intelligenza artificiale
.
Hinton ha paragonato l'intrusione dell'agente OpenAI nella piattaforma Hugging Face di quest'estate all'incidente di Three Mile Island nella storia della sicurezza nucleare. È stato un pericoloso segnale di allarme precoce, ma non è stato un vero disastro.
La cosiddetta "Chernobyl" nel mondo dell'intelligenza artificiale non deriva dal fatto che l'intelligenza artificiale si ribella autonomamente e spazza via l'umanità nei film di fantascienza, ma dal fatto che l'intelligenza artificiale viene utilizzata dagli hacker per lanciare attacchi informatici contro infrastrutture critiche. Lo scenario più tipico è quello di provocare un'interruzione di corrente su larga scala e a lungo termine o di paralizzare il sistema finanziario globale per una settimana, influenzando direttamente l'ordine di vita delle persone
.Nell'intervista, Hinton ha dichiarato senza mezzi termini di non essere ottimista riguardo all'atteggiamento rischioso del management delle principali aziende di intelligenza artificiale e ha criticato Altman di OpenAI, Zuckerberg di Meta, Musk e altri.
Hinton ha affermato di essere consapevole degli enormi pericoli nascosti dietro l'intelligenza artificiale, ma di non prestare sufficiente attenzione di fronte alla concorrenza e agli interessi aziendali. Ogni azienda si concentrava solo sulla competizione per le capacità del modello e sulla conquista del mercato.
Va sottolineato che Hinton non è contrario all'intelligenza artificiale.
Crede che l'intelligenza artificiale sia un'arma a doppio taglio. Riconosce che ha un grande valore positivo e può portare un futuro luminoso all'umanità. Tuttavia, una volta che si verifica un grave incidente, le persone potrebbero pentirsi di non aver inventato questa tecnologia in primo luogo
.A suo avviso, i prossimi dieci anni saranno un periodo critico per l'umanità. L’umanità alla fine verificherà se sarà in grado di controllare i rischi dell’intelligenza artificiale.
Come prevenire i rischi? Anche la soluzione fornita da Hinton è molto chiara:
Per i modelli di grandi dimensioni all'avanguardia, è necessario implementare test di sicurezza obbligatori e valutazioni indipendenti da parte di terzi per promuovere l'istituzione di standard di sicurezza IA unificati in tutti i paesi e utilizzare i vincoli normativi per correre all'impazzata.
.
Commenti