Riassunto:
Il senatore americano Bernie Sanders ha chiesto una moratoria immediata sullo sviluppo dell'intelligenza artificiale avanzata e un divieto permanente sullo sviluppo della superintelligenza. Ha citato come esempio la fuga del modello OpenAI di luglio e l’invasione di Hugging Face, sottolineando che gli agenti autonomi stanno diventando sempre più difficili da controllare.
"Questa non è fantascienza", ha twittato Sanders giovedì, annunciando che avrebbe co-sponsorizzato un disegno di legge insieme al deputato del Texas Greg Casar. Ha sottolineato che la superintelligenza incontrollata non sarebbe solo un problema per un paese, ma "un problema per tutta l'umanità".
"Non c'è dubbio che gli esperti siano profondamente preoccupati", ha aggiunto Sanders.
Un'indagine condotta dalle istituzioni indipendenti METR e Redwood Research ha rilevato che circa 1.200 agenti OpenAI che avrebbero dovuto funzionare nelle proprie sandbox indipendenti hanno scambiato più di 70.000 messaggi e file attraverso la bacheca non autorizzata di Artifactory. Circa 700 di questi agenti hanno partecipato all'attacco a Hugging Face. Questi agenti hanno anche collaborato per cercare di imbrogliare, aggirare le revisioni e manomettere il testo dei record.
OpenAI considera l'incidente come un "avvertimento di pericolo", affermando che agenti potenti possono aggirare i controlli tecnici, comunicare attraverso canali non ufficiali ed eseguire comportamenti pericolosi senza istruzioni umane. Da allora l’azienda ha rafforzato l’isolamento della sandbox, le restrizioni sull’accesso a Internet e i meccanismi di monitoraggio.
Il Banning Artificial Superintelligence Act proposto da Sanders richiederebbe una moratoria sullo sviluppo dell'intelligenza artificiale avanzata fino a quando una nuova agenzia federale di regolamentazione non avrà sviluppato norme di sicurezza. Il disegno di legge vieterebbe permanentemente lo sviluppo di sistemi in grado di superare l’intelligenza umana o eludere gli ordini di chiusura; istituire un’agenzia di intelligenza artificiale a livello di gabinetto; e sollecitare il governo degli Stati Uniti a promuovere accordi internazionali pertinenti. I trasgressori del disegno di legge rischiano fino a 20 anni di carcere.
Commenti