Riassunto:
Il presidente di Microsoft Brad Smith ha affermato che l'attuale supervisione dell'intelligenza artificiale è lungi dall'essere sufficiente, addirittura inferiore a quella dei normali prodotti di consumo come il latte e le lavatrici. Ha invitato i paesi a stabilire quanto prima norme globali sulla sicurezza dell’intelligenza artificiale, incluso l’obbligo per le aziende di avvisare le vittime quando i sistemi di intelligenza artificiale vanno fuori controllo e causano danni, presentare rapporti sugli incidenti e accettare revisioni da parte di agenzie di valutazione indipendenti prima che alcuni prodotti di intelligenza artificiale vengano ufficialmente rilasciati.
Questa posizione di Smith è in netto contrasto con le affermazioni del presidente degli Stati Uniti Donald Trump. Trump ritiene che l’industria dell’intelligenza artificiale dovrebbe fare affidamento principalmente sulla propria regolamentazione per evitare un eccessivo intervento governativo che indebolisca la capacità delle aziende americane di competere con i concorrenti cinesi. Smith ritiene che l’intelligenza artificiale abbia il duplice attributo sia di uno strumento che di un’arma e che non possa continuare a fare affidamento esclusivamente sull’autodisciplina aziendale per controllare i rischi.
"La tua lavatrice è ora soggetta a più norme di sicurezza che all'intelligenza artificiale", ha detto Smith al podcast Big Boss Interview della BBC. "Ogni cartone di latte che vedi al supermercato è soggetto a norme di sicurezza e ispezioni."
Ritiene che lo sviluppo dell'intelligenza artificiale abbia raggiunto uno stadio in cui è necessario agire. I paesi dovrebbero imparare dall’esperienza normativa di altri settori e stabilire sistemi di sicurezza adatti alla tecnologia dell’intelligenza artificiale, invece di aspettare che si verifichino incidenti gravi per discutere come rispondere.
Poiché le capacità dei modelli di intelligenza artificiale sono migliorate rapidamente negli ultimi anni, sono aumentate le richieste di una regolamentazione più rigorosa del settore. Alcuni esperti nel campo dell’intelligenza artificiale hanno addirittura avvertito che questa tecnologia potrebbe rappresentare una minaccia per la sicurezza a lungo termine della società umana. Concentrandosi sui rischi per la sicurezza informatica, sui comportamenti fuori controllo e su altri potenziali danni che l’intelligenza artificiale può portare, all’interno del settore sono iniziate anche le discussioni sull’opportunità di rallentare lo sviluppo tecnologico.
I dirigenti delle società americane di intelligenza artificiale Anthropic, OpenAI e Google DeepMind hanno tutti sostenuto un approccio più cauto allo sviluppo dell'intelligenza artificiale e alcune persone sono anche favorevoli a rallentare la ricerca e lo sviluppo tecnologico in determinate circostanze. Tuttavia, Trump si è sempre opposto a misure che potrebbero limitare lo sviluppo dell’industria statunitense dell’intelligenza artificiale e ha più volte sottolineato che gli Stati Uniti devono restare in vantaggio in questa competizione tecnologica.
Smith ritiene che l'intelligenza artificiale non debba essere considerata semplicemente come un normale prodotto software. Poiché i sistemi di agenti di intelligenza artificiale acquisiscono capacità di esecuzione autonoma più forti e i modelli avanzati hanno una crescente influenza nel campo della sicurezza informatica, i rischi correlati richiedono che governi, imprese e agenzie di valutazione indipendenti rispondano congiuntamente.
Ha invitato le aziende a istituire meccanismi di frenata di emergenza per i sistemi di intelligenza artificiale, che nel settore vengono spesso definiti "kill switch". Se un sistema di intelligenza artificiale si comporta in modo fuori controllo o inizia a eseguire operazioni che potrebbero causare gravi conseguenze, le imprese dovrebbero essere in grado di sospendere tempestivamente il funzionamento del sistema o ridurne la velocità e l’autorità operativa per prevenire un’ulteriore espansione dei rischi.
Smith sostiene inoltre un sistema obbligatorio di segnalazione degli incidenti. Se un agente di intelligenza artificiale perde il controllo e invade altri sistemi o causa danni agli utenti a causa di un comportamento anomalo, le aziende interessate dovrebbero segnalare l'incidente in conformità con la legge e informare le persone o le organizzazioni interessate.
Ritiene che queste misure dovrebbero diventare parte del sistema normativo sulla sicurezza dell'intelligenza artificiale e non possono semplicemente fare affidamento sulle aziende per intraprendere azioni volontarie.
Inoltre, Smith ha suggerito che, prima che alcuni prodotti di intelligenza artificiale ad alto rischio vengano rilasciati, dovrebbero essere esaminati da valutatori indipendenti riconosciuti dal governo per determinare se il sistema soddisfa i requisiti di sicurezza pertinenti. Ciò non significa che tutti i prodotti di intelligenza artificiale debbano essere soggetti allo stesso livello di supervisione, ma che si dovrebbe determinare se sia necessaria una valutazione indipendente prima del rilascio sulla base delle capacità del prodotto, degli scenari di utilizzo e dei rischi potenziali.
Smith ha affermato che altri settori hanno istituito meccanismi di gestione della sicurezza simili e che la supervisione dell'intelligenza artificiale può imparare da queste esperienze mature. Ritiene che la chiave sia applicare razionalmente i sistemi esistenti di valutazione del rischio, segnalazione degli incidenti e sicurezza dei prodotti al campo dell’intelligenza artificiale.
Nel promuovere le norme internazionali sull'intelligenza artificiale, Smith è particolarmente ottimista riguardo al ruolo del Regno Unito.
Ha sottolineato che il Regno Unito ha istituito un'agenzia specializzata in questioni relative alla sicurezza dell'intelligenza artificiale. L'agenzia è stata originariamente lanciata come Istituto di ricerca sulla sicurezza dell'intelligenza artificiale durante l'amministrazione dell'ex primo ministro Rishi Sunak e in seguito è stata ribattezzata Istituto di intelligenza artificiale (AI Security Institute), responsabile dello studio delle capacità e dei potenziali rischi dei sistemi avanzati di intelligenza artificiale.
Smith ritiene che il Regno Unito abbia una forte forza tecnica nella valutazione della sicurezza dell'intelligenza artificiale e abbia anche le condizioni per promuovere la cooperazione internazionale. Ha detto che se chiedi alle persone del settore tecnologico quale paese è leader nelle capacità tecnologiche di sicurezza dell’intelligenza artificiale, molte persone sceglieranno il Regno Unito senza esitazione.
Ritiene che il Regno Unito abbia l'opportunità di utilizzare le proprie capacità di ricerca e la propria influenza internazionale per promuovere i paesi a stabilire regole più unificate sulla sicurezza dell'intelligenza artificiale.
Le opinioni di Smith sono diverse dalla direzione politica dell'amministrazione Trump, che enfatizza l'accelerazione dello sviluppo dell'intelligenza artificiale. Trump ha più volte affermato che chi vincerà la competizione sull’intelligenza artificiale vincerà il futuro. Questa posizione riflette il desiderio del governo statunitense di consolidare la posizione leader degli Stati Uniti nel campo dell’intelligenza artificiale riducendo le barriere normative, incoraggiando gli investimenti delle imprese ed espandendo le applicazioni tecnologiche.
Tuttavia, Smith non crede che il governo degli Stati Uniti rifiuterà definitivamente l'iniziativa di regolamentazione dell'intelligenza artificiale guidata dal Regno Unito.
Ha sottolineato che esistono differenze nell'atteggiamento degli ambienti politici statunitensi nei confronti del Regno Unito e dell'UE. A Washington, nel Regno Unito e a Londra in genere non suscitano lo stesso livello di reazione politica che a Bruxelles e nelle istituzioni dell’UE. Smith ritiene che questa differenza nelle relazioni potrebbe rappresentare un vantaggio nella spinta del Regno Unito verso standard internazionali di sicurezza dell’IA.
Ha sottolineato che ci sono stati abbastanza segnali di rischio meritevoli di attenzione, inclusi agenti di intelligenza artificiale che potrebbero sfuggire al controllo umano e modelli sufficientemente potenti da rappresentare una minaccia per la sicurezza della rete globale.
Quando vediamo agenti di intelligenza artificiale che sfuggono al controllo umano, quando vediamo modelli abbastanza potenti da compromettere la sicurezza informatica globale, direi che i tempi sono maturi", ha affermato Smith.
Ha invitato tutte le parti ad adottare un atteggiamento calmo ma fermo, ad avviare il dialogo quanto prima possibile e a incoraggiare il governo, le imprese e gli istituti di ricerca a formulare congiuntamente le norme pertinenti. Ha anche espresso la speranza che Microsoft possa svolgere un ruolo in questo processo e che il Regno Unito possa assumere il ruolo di promozione della cooperazione internazionale.
Vale la pena notare che Smith non ha negato completamente il valore dell'autoregolamentazione del settore. Alla fine del mese scorso, Trump ha incontrato alla Casa Bianca i vertici di giganti della tecnologia come OpenAI, Anthropic, NVIDIA, SpaceX, Meta e Google. I dirigenti aziendali presenti alla riunione hanno firmato un documento etico in cui accettano di collaborare con revisori indipendenti per valutare se i sistemi di intelligenza artificiale funzionano come previsto e per garantire che i sistemi non si intromettano o accedano ai sistemi tecnici in modi non desiderati.
Questo documento mira a promuovere le società di intelligenza artificiale per rafforzare le revisioni della sicurezza e identificare potenziali problemi attraverso valutazioni indipendenti. Sebbene la sua forza vincolante sia diversa dalle leggi e dai regolamenti formali, è ancora considerata un’azione intrapresa dal settore tecnologico in termini di governance della sicurezza.
Smith ha espresso apprezzamento per la dichiarazione e ha affermato che Microsoft è disposta a firmare i documenti pertinenti. Crede che questo sia un buon inizio e un passo necessario.
Ma a suo avviso, fare affidamento esclusivamente su questo tipo di impegno volontario non è più sufficiente.
Smith ha sottolineato che qualsiasi sistema di autoregolamentazione dovrà affrontare un problema fondamentale: le aziende responsabili sono generalmente disposte a rispettare i requisiti di sicurezza, ma le vere preoccupazioni sono quelle aziende che mancano di senso di responsabilità e non sono disposte ad adottare misure di sicurezza in modo proattivo.
Lui ritiene che se l'intero settore si basa esclusivamente su impegni volontari, le aziende che rispettano le regole potrebbero sostenere costi maggiori, mentre i concorrenti che non sono disposti a investire risorse per garantire la sicurezza potrebbero continuare a espandersi rapidamente. Pertanto, stabilire standard minimi di sicurezza giuridicamente vincolanti aiuta a garantire che tutte le imprese debbano soddisfare i requisiti di base.
Questa è anche la questione centrale sottolineata da Smith: la regolamentazione dell'intelligenza artificiale non dovrebbe dipendere solo dalla volontà delle aziende di assumersi la responsabilità, ma dovrebbe stabilire un sistema chiaro per stabilire quali obblighi di sicurezza le aziende devono soddisfare e quali azioni devono essere intraprese quando si verificano gravi problemi nel sistema.
Man mano che gli agenti di intelligenza artificiale acquisiscono la capacità di eseguire attività complesse, invocare strumenti esterni e accedere a sistemi tecnici, gli approcci tradizionali alla gestione della sicurezza del software potrebbero dover adattarsi. Il futuro sistema di regolamentazione non dovrà solo prestare attenzione all’eventuale presenza di difetti nel modello stesso, ma dovrà anche considerare quali autorizzazioni l’intelligenza artificiale può ottenere durante il funzionamento reale, a quali risorse può accedere e se l’operazione può essere sospesa nel momento in cui si verifica un comportamento anomalo.
Per Microsoft la questione ha anche un significato commerciale diretto. Microsoft è sia un attore importante nell’infrastruttura di intelligenza artificiale e nelle applicazioni modello, sia un importante fornitore di servizi software e di cloud computing a livello aziendale. La sicurezza, l’affidabilità e la controllabilità dei sistemi di intelligenza artificiale influenzeranno direttamente la disponibilità dei clienti aziendali a implementare ampiamente le tecnologie correlate nei processi aziendali.
La dichiarazione di Smith dimostra che anche all'interno del settore tecnologico statunitense non esiste un consenso completo su come dovrebbe essere regolamentata l'intelligenza artificiale. Alcune aziende e politici sperano di ridurre il più possibile le restrizioni per accelerare l’innovazione e la commercializzazione; altri ritengono che, con l’aumento delle capacità tecnologiche, debbano essere istituiti contemporaneamente responsabilità più chiare in materia di sicurezza e meccanismi di controllo del rischio.
La chiave di questo dibattito non è solo se sostenere lo sviluppo dell'intelligenza artificiale, ma come incoraggiare l'innovazione garantendo al tempo stesso che le applicazioni tecnologiche non causino rischi inaccettabili per gli individui, le imprese e la società.
Dagli esempi del latte e delle lavatrici, ai meccanismi di frenata di emergenza, alle relazioni sugli incidenti e alle valutazioni indipendenti, il messaggio che Smith cerca di trasmettere è chiaro: lo sviluppo tecnologico dell'intelligenza artificiale è più veloce della velocità di adeguamento del sistema normativo esistente. Se i paesi sperano di continuare a trarre benefici economici e sociali dall’intelligenza artificiale, devono stabilire quanto prima norme di sicurezza che corrispondano alle loro capacità e ai loro rischi.
A suo avviso, fare affidamento semplicemente sull'autodisciplina aziendale non è sufficiente per risolvere questo problema. Un sistema normativo veramente efficace non deve solo incoraggiare le aziende responsabili a continuare a innovare, ma anche frenare quei partecipanti che non sono disposti a controllare proattivamente i rischi.
Commenti