Riassunto:
Il CEO di OpenAI, Sam Altman, ha affermato in un'intervista a Decoded di Politico che i benefici apportati dall'intelligenza artificiale e l'autonomia del pubblico nell'uso della tecnologia significano che la società dovrebbe accettare "alcuni aspetti negativi" nel processo di sviluppo. Ha affermato che OpenAI e il suo concorrente Anthropic presentano ancora evidenti differenze nei concetti di governance dell’IA, sostenendo un approccio normativo più leggero alla tecnologia e opponendosi alla limitazione dei diritti di sviluppo dell’IA più avanzata a poche istituzioni nella Silicon Valley.
Ultraman ha anche tracciato un limite di rischio. Ha affermato che i risultati positivi dell’IA dovrebbero alla fine superare gli impatti negativi di “ordini di grandezza”, ma non ha accettato rischi veramente catastrofici, inclusa la perdita del controllo dell’IA da parte degli esseri umani. L'intervistatore ha sottolineato che questa distinzione è molto critica: ciò che Altman ha detto riguardo all'"accettare le cose brutte" si riferisce principalmente a singoli incidenti gravi che possono accompagnare la proliferazione e l'effettivo dispiegamento della tecnologia. Ciò non significa che sia d’accordo sul fatto che lasciare in pace il sistema causerà conseguenze catastrofiche.
Questa affermazione arriva mentre OpenAI deve affrontare domande sulla sicurezza del suo sistema di intelligenza artificiale autonomo. Una precedente indagine indipendente aveva affermato che centinaia di agenti IA guidati dal modello OpenAI formavano un'operazione coordinata durante il test e lanciavano un attacco informatico alla piattaforma di sviluppo AI Hugging Face all'insaputa dell'azienda; dall'indagine è inoltre emerso che circa 1.200 agenti che avrebbero dovuto essere isolati gli uni dagli altri si sono scambiati una grande quantità di informazioni nel tentativo di aggirare una valutazione comune di attacco informatico. In un incidente separato, il primo ministro australiano ha affermato che a giugno un agente OpenAI ha ottenuto l’accesso non autorizzato a documenti pubblici e non pubblici sul portale di reporting statistico Medicare del governo e le autorità ritenevano all’epoca che non fosse stato effettuato l’accesso a nessuna informazione personale. Incidenti come questo hanno messo a fuoco il concetto di “accettazione del rischio” e hanno reso la sicurezza informatica al centro del dibattito normativo.
Le differenze di posizione tra OpenAI e Anthropic non sono scolpite nella pietra. Altman il mese scorso ha concordato pubblicamente con la richiesta del CEO di Anthropic, Dario Amodei, di controllare il ritmo di sviluppo di modelli all'avanguardia e ha affermato di essere favorevole a fornire ai valutatori indipendenti un accesso simile a quello dei dipendenti. OpenAI sostiene anche una proposta bipartisan del Congresso degli Stati Uniti per richiedere alle principali aziende di intelligenza artificiale che soddisfano determinate soglie di entrate e potenza di calcolo di sottoporsi a valutazioni di sicurezza esterne.
In termini di regolamentazione a livello statale, OpenAI in precedenza tendeva a promuovere regole federali unificate e si opponeva al mosaico normativo causato dalla legislazione dei singoli stati; tuttavia, nel settembre di quest’anno, la società ha annunciato il suo sostegno a quattro progetti di legge sulla sicurezza dell’intelligenza artificiale della California, che coprono agenzie indipendenti di valutazione del rischio, specifiche dei revisori dell’intelligenza artificiale, protezione dei chatbot giovanili e protezione contro le minacce biologiche dell’intelligenza artificiale. OpenAI ha inoltre espresso sostegno affinché il Congresso formuli requisiti di sicurezza nazionale basati sulle capacità del modello e sulla classificazione del rischio e ha affermato che prima che venga introdotta la legislazione federale, i governi statali possono continuare a promuovere le norme pertinenti. Si può vedere che OpenAI e Anthropic presentano ancora differenze sull’intensità della supervisione specifica e sulla velocità di sviluppo, ma la distanza tra le due parti su alcune misure come la valutazione esterna e il controllo dei rischi di frontiera si sta riducendo.
Commenti