Riassunto:
Il dibattito sulla questione se l'intelligenza artificiale all'avanguardia debba rallentare in modo proattivo il suo sviluppo si è infiammato rapidamente negli ultimi giorni. Il CEO di Anthropic Dario Amodei ha invitato pubblicamente l’intero settore dell’intelligenza artificiale a rallentare il ritmo delle funzionalità dei modelli avanzati, e il CEO di OpenAI Sam Altman e il CEO di xAI Elon Musk hanno successivamente espresso sostegno.
Tuttavia, David Sacks, un investitore tecnologico americano e presidente del comitato consultivo per la scienza e la tecnologia del presidente, ha criticato aspramente questa iniziativa, ritenendo che se OpenAI e Anthropic credono davvero che l'attuale velocità dello sviluppo dell'intelligenza artificiale sia abbastanza pericolosa da dover applicare dei freni, allora possono rallentare la ricerca e lo sviluppo da soli e non dovrebbero imporre il coordinamento del settore, le esenzioni antitrust o i meccanismi di approvazione del governo come condizioni aggiuntive.
Amodei ha precedentemente pubblicato un articolo in cui avverte che le capacità di intelligenza artificiale all'avanguardia si stanno rapidamente avvicinando a una fase che potrebbe creare gravi rischi per la sicurezza. Secondo lui, se il modello continua a svilupparsi al ritmo attuale e il meccanismo di sicurezza non riesce a tenere il passo, nei prossimi 6-12 mesi i cluster di agenti IA potrebbero persino avere la capacità di controllare Internet su larga scala ed essere utilizzati per lanciare attacchi informatici o causare altri danni gravi.
Amodei ha proposto una serie di piani chiamati "rallentamento dell'intelligenza artificiale all'avanguardia", che include la possibilità di consentire ad agenzie di valutazione della sicurezza di terze parti indipendenti di approfondire le aziende di intelligenza artificiale per verificare continuamente la sicurezza dei modelli con autorità vicine ai dipendenti dell'azienda; lasciare che i principali laboratori di intelligenza artificiale coordinino gli standard di sicurezza per evitare che le aziende abbassino costantemente le soglie di sicurezza a causa della pressione competitiva; promuovendo al contempo una più stretta cooperazione tra gli Stati Uniti e i suoi alleati e, infine, discutendo le questioni relative alla sicurezza dell’IA con altri paesi, inclusa la Cina.
Questa iniziativa ha ottenuto rapidamente il sostegno di OpenAI. Altman ha affermato di essere d'accordo con l'opinione di Amodei secondo cui l'industria dell'intelligenza artificiale deve rallentare lo sviluppo di modelli all'avanguardia e ha affermato che questo problema è diventato un argomento importante di recente discussione all'interno di OpenAI. Anche Musk ha espresso pubblicamente la sua approvazione. In un breve periodo di tempo, molte delle più importanti aziende di intelligenza artificiale del mondo hanno raggiunto un raro consenso sulla questione del “rallentamento appropriato”.
Ma Sacks ritiene che qui ci sia un evidente problema logico.
Secondo il suo punto di vista, se Amodei e Altman credono davvero che il modello di intelligenza artificiale di prossima generazione presenti seri rischi che devono essere rallentati, allora le due società non hanno bisogno di aspettare l'approvazione del governo, né di convincere i concorrenti, né hanno bisogno di un nuovo quadro giuridico. Essendo attualmente le società di sviluppo IA più avanzate, possono ridurre direttamente la velocità di ricerca e sviluppo e di implementazione.
Sacks ha addirittura suggerito che se queste aziende credono davvero che alcuni sistemi di intelligenza artificiale siano abbastanza pericolosi da minacciare gli esseri umani, allora il "modo più semplice" è quello di non continuare a sviluppare o rilasciare questi sistemi. Ritiene che, invece di chiedere al governo di istituire un nuovo sistema normativo, sia meglio lasciare che le aziende che padroneggiano realmente capacità di ricerca e sviluppo sull’intelligenza artificiale all’avanguardia agiscano da sole.
Ciò a cui Sacks realmente si oppone è la parte del piano di Amodei che prevede il coordinamento del settore e accordi normativi. Ha avvertito che se concorrenti come OpenAI e Anthropic ottenessero esenzioni antitrust attraverso il governo e poi decidessero congiuntamente con quale velocità l’intero settore dovrebbe sviluppare l’intelligenza artificiale, l’accordo potrebbe effettivamente evolversi in un “cartello”.
Secondo Sacks, consentire a molte delle principali aziende di intelligenza artificiale di stabilire congiuntamente il ritmo di sviluppo dell'intelligenza artificiale all'avanguardia potrebbe produrre risultati completamente diversi dagli obiettivi di sicurezza. I giganti esistenti non solo possono limitare la concorrenza attraverso questo meccanismo, ma possono anche utilizzare il sistema di regolamentazione per aumentare la soglia per l’ingresso nel mercato dei ritardatari, consolidando così ulteriormente la loro posizione di leadership.
Questo è anche il nocciolo della critica di Sacks: non si oppone semplicemente al rallentamento del settore dell'intelligenza artificiale, ma ritiene che se le aziende sono davvero disposte a rallentare, dovrebbero farlo da sole invece di chiedere al governo di fornire in cambio una sorta di protezione legale.
Sacks si oppone inoltre all'istituzione di un sistema di approvazione preventiva simile alla "AI Food and Drug Administration". A suo avviso, non è necessario che le agenzie governative approvino questi prodotti uno per uno prima che i modelli avanzati di intelligenza artificiale vengano ufficialmente rilasciati. Piuttosto che istituire un nuovo meccanismo di licenza preventiva, è meglio fare affidamento sull’attuale sistema di responsabilità sui prodotti per consentire alle aziende di intelligenza artificiale di assumersi la responsabilità legale per i loro prodotti e le loro conseguenze.
Ad esempio, se un modello di intelligenza artificiale viene utilizzato per lanciare un grave attacco informatico o causa direttamente gravi danni a causa dei suoi difetti, la società di sviluppo del modello dovrebbe assumersi la corrispondente responsabilità del prodotto. Sacks ritiene che questa potenziale conseguenza legale ed economica stessa possa diventare un vincolo importante per le società di intelligenza artificiale nel controllare i rischi.
Ritiene inoltre che anche il mercato dei capitali abbia un effetto vincolante. Se i prodotti di una determinata azienda di intelligenza artificiale presentano spesso problemi di sicurezza, comportamenti imprevedibili o incidenti gravi, la reputazione aziendale, la fiducia dei clienti e la valutazione di mercato potrebbero essere direttamente influenzati. Pertanto non è necessario istituire un sistema di approvazione speciale per l’industria dell’intelligenza artificiale che sia completamente indipendente dal sistema giuridico esistente.
Allo stesso tempo, Sacks ha anche messo in dubbio l'indipendenza di alcuni meccanismi di valutazione della sicurezza dell'IA. Ha menzionato specificamente l'agenzia di valutazione della sicurezza utilizzata da Anthropic e ritiene che se esiste un rapporto di investimento, un rapporto di personale o un altro rapporto di interesse tra l'agenzia di valutazione e l'impresa da valutare, allora se questa valutazione è veramente indipendente merita un'ulteriore discussione.
Questa controversia è avvenuta in un momento molto delicato. Negli ultimi mesi, le preoccupazioni sui rischi per la sicurezza nel settore dell’intelligenza artificiale sono aumentate in modo significativo. Anthropic ha recentemente rivelato una serie di incidenti relativi all'abuso del sistema di intelligenza artificiale, alle capacità di attacco alla rete e alla protezione della sicurezza. Anche i ricercatori interni all’azienda hanno espresso pubblicamente preoccupazione per la velocità dello sviluppo dell’intelligenza artificiale.
Tra questi, un ricercatore antropico, dopo essersi dimesso di recente, ha avvertito pubblicamente che l'industria dell'intelligenza artificiale sta facendo avanzare tecnologie che potrebbero essere estremamente rischiose a un ritmo eccessivamente rapido. Anche altri ricercatori nel campo della sicurezza all’interno di Anthropic hanno espresso serie preoccupazioni riguardo al rischio che l’intelligenza artificiale vada fuori controllo in futuro.
Pertanto, l'appello pubblico di Amodei al rallentamento non è una dichiarazione politica isolata, ma il risultato di un'ulteriore escalation dell'intero dibattito sulla sicurezza dell'IA.
Tuttavia, anche se le aziende sono davvero disposte a rallentare, l'operazione effettiva è molto più complicata di quanto sembri. OpenAI, Anthropic, Google DeepMind, xAI e altre società di intelligenza artificiale sono tutte in forte concorrenza. Se un’azienda rallenta unilateralmente la ricerca e sviluppo, potrebbe temere che i suoi concorrenti colgano l’opportunità per accelerare e ottenere vantaggi in termini di capacità del modello, quota di mercato e mercati dei capitali.
Ciò costituisce in realtà un tipico "dilemma del prigioniero": se tutte le aziende di intelligenza artificiale rallentassero contemporaneamente, l'intero settore potrebbe guadagnare più tempo per migliorare le misure di sicurezza; ma se solo un’azienda rallenta mentre i concorrenti continuano ad avanzare, allora l’azienda che rallenta attivamente potrebbe subire perdite commerciali e tecniche.
Ecco perché OpenAI ha già iniziato a prestare attenzione alla possibilità che il coordinamento del settore violi le leggi antitrust statunitensi. Secondo i rapporti, OpenAI ha chiesto opinioni chiare ai legislatori statunitensi sulla legalità del coordinamento del settore per rallentare lo sviluppo dell’IA. Perché se più aziende concorrenti decidono congiuntamente di rallentare lo sviluppo di modelli all’avanguardia, questo stesso coordinamento potrebbe innescare questioni legali antitrust.
Di conseguenza, sorge una domanda molto spinosa: per migliorare la sicurezza dell'intelligenza artificiale, le aziende dovrebbero consentire il coordinamento tra concorrenti che di solito è limitato dalle leggi antitrust?
I sostenitori ritengono che se ogni azienda di intelligenza artificiale sa che rallentare da sola porterà a svantaggi competitivi, solo attraverso una sorta di coordinamento a livello di settore tutte le aziende potranno davvero frenare contemporaneamente.
Sacks ritiene che questo potrebbe essere un motivo per cui le grandi aziende di intelligenza artificiale utilizzano le questioni di sicurezza per ottenere un trattamento normativo speciale. Teme che, una volta che il governo consentirà a diverse aziende leader di coordinarsi attraverso esenzioni antitrust, questo meccanismo potrebbe eventualmente trasformarsi da "coordinamento della sicurezza" in uno strumento per limitare la concorrenza sul mercato.
Allo stesso tempo, esiste una chiara differenza tra l'atteggiamento del governo statunitense nei confronti del rallentamento dell'intelligenza artificiale e le affermazioni di queste aziende tecnologiche. Il presidente degli Stati Uniti Trump ha recentemente dichiarato pubblicamente che, pur credendo che l’intelligenza artificiale possa creare dei “guardrail”, non vuole che gli Stati Uniti ne rallentino lo sviluppo a causa di eccessive preoccupazioni sui rischi. Ha sottolineato che gli Stati Uniti sono attualmente alla guida della Cina nel campo dell’intelligenza artificiale e che “chi vincerà l’intelligenza artificiale vincerà il futuro”. Pertanto, gli Stati Uniti non potranno facilmente rinunciare alla propria leadership tecnologica.
Ciò collega direttamente anche i problemi di sicurezza dell'IA con la concorrenza tecnologica sino-americana.
Lo stesso Amodei ha anche ammesso che se gli Stati Uniti rallentassero unilateralmente e in modo significativo lo sviluppo dell'intelligenza artificiale mentre la Cina e altri paesi continuassero ad accelerare, gli Stati Uniti potrebbero perdere il proprio vantaggio tecnologico. Pertanto, ciò che propone non è chiedere alle aziende americane di interrompere la ricerca e lo sviluppo dell’IA a tempo indeterminato, ma sperare che i principali paesi e aziende possano formare una sorta di meccanismo di coordinamento per guadagnare tempo per le misure di sicurezza mantenendo vantaggi competitivi.
Il problema è che attualmente non esiste un meccanismo per garantire che tutti i paesi rallentino contemporaneamente.
Questo è diventato anche uno dei motivi più importanti per coloro che si oppongono al rallentamento su larga scala del settore. Se l’intelligenza artificiale è diventata una parte importante della competizione strategica nazionale, è difficile per entrambe le parti credere che i concorrenti si fermeranno volontariamente e aspetteranno di migliorare i propri sistemi di sicurezza.
Pertanto, il dibattito tra Sacks, OpenAI e Anthropic è in realtà andato ben oltre la semplice questione tecnica di "quanto velocemente dovrebbe svilupparsi l'intelligenza artificiale" e coinvolge una scelta di politica industriale più complessa: se le aziende debbano decidere la velocità di sviluppo dell'intelligenza artificiale all'avanguardia, o se il governo debba partecipare alla formulazione di regole unificate; se il coordinamento della sicurezza debba essere considerato una legittima cooperazione industriale o se possa trasformarsi in un cartello che limita la concorrenza; se gli incidenti dovuti all’IA debbano essere evitati mediante una regolamentazione ex ante o se le aziende debbano sostenere i costi post-evento attraverso la responsabilità del prodotto.
Al momento, sembra che Sacks non sia contrario al fatto che OpenAI e Anthropic prendano l'iniziativa di rallentare. Se le due aziende credono davvero che i rischi dell’intelligenza artificiale all’avanguardia siano abbastanza gravi da rallentare la loro ricerca e sviluppo, ha anche chiarito che può sostenerle in questo.
Ma anche le sue condizioni erano chiare: se pensi di dover rallentare, rallenta tu stesso e non scambiarlo con l'approvazione del governo, esenzioni antitrust o protezioni normative speciali.
L'esito reale di questo dibattito potrebbe dipendere in ultima analisi da ciò che OpenAI e Anthropic faranno dopo. Se davvero prendessero l’iniziativa di rallentare lo sviluppo di modelli all’avanguardia senza ricevere un trattamento giuridico speciale, allora è più probabile che “rallentare l’intelligenza artificiale” venga considerato una vera azione di sicurezza; Se alla fine si formerà un sistema normativo in cui poche aziende leader formulano congiuntamente regole limitando l’ingresso dei ritardatari, allora le preoccupazioni di Sacks circa la “cattura normativa” e i “cartelli” riceveranno maggiore attenzione.
Poiché le capacità dei modelli di intelligenza artificiale continuano a migliorare rapidamente, il dibattito su "accelerazione o decelerazione" ovviamente non finirà presto. È probabile che diventi una delle principali contraddizioni nella politica statunitense e globale sull’intelligenza artificiale nei prossimi anni.
Commenti