Riassunto:
Il 29 settembre Trump ha annunciato un accordo sul settore dell'intelligenza artificiale promosso dalla Casa Bianca. Questo documento è stato precedentemente firmato da Trump e dai dirigenti di una serie di grandi aziende tecnologiche ed è descritto da Trump come un impegno industriale “moralmente vincolante”.
Questo accordo di una pagina è stato reso pubblico da Trump attraverso la sua piattaforma social Truth Social. Il documento invita le aziende partecipanti a istituire un meccanismo di controllo e audit della sicurezza a quattro livelli per rafforzare la supervisione e la gestione del rischio dei sistemi avanzati di intelligenza artificiale.
Secondo i requisiti dell'accordo, le aziende dovrebbero innanzitutto stabilire un sistema di controllo interno completo per monitorare continuamente le capacità e l'allineamento dei modelli di intelligenza artificiale durante la formazione e l'implementazione, concentrandosi su aree quali la sicurezza informatica, la biosicurezza e i rischi chimici per garantire che i modelli non invadano i sistemi o ottengano l'accesso alle strutture tecniche in modi inaspettati.
L'accordo prevede inoltre che le imprese istituiscano un team interno dedicato per supervisionare il funzionamento dei meccanismi di controllo, monitoraggio e rilevamento pertinenti, garantire che le varie misure di sicurezza possano funzionare in conformità con gli obiettivi di progettazione e identificare e risolvere potenziali problemi in modo tempestivo.
In termini di supervisione esterna, il documento raccomanda alle aziende di collaborare con istituti di audit indipendenti o agenzie di valutazione per condurre valutazioni indipendenti dei sistemi di controllo e monitoraggio dell'intelligenza artificiale dell'azienda per verificare se questi meccanismi di sicurezza stanno effettivamente raggiungendo i risultati attesi.
Inoltre, l'accordo propone anche la creazione di un comitato indipendente a livello del consiglio di amministrazione della società. Il comitato è responsabile di ricevere rapporti dai team interni e dalle istituzioni di controllo esterne, supervisionare la governance della sicurezza dell'intelligenza artificiale dell'impresa e promuovere l'implementazione di misure di miglioramento basate sui problemi scoperti.
Le aziende che partecipano alla firma dell'accordo includono importanti partecipanti nel settore statunitense dell'intelligenza artificiale come Google, Anthropic, Meta, OpenAI, X Platform e NVIDIA. Lo stesso Trump ha firmato il documento come presidente.
L'accordo sottolinea che con lo sviluppo del settore, in futuro potrebbe essere necessario formalizzare queste pratiche in requisiti legali o normativi. Tuttavia, indipendentemente dal fatto che il governo introduca o meno requisiti obbligatori, le aziende partecipanti ritengono che l’implementazione di questi meccanismi di controllo e audit sia fondamentale per garantire lo sviluppo sicuro dell’intelligenza artificiale e quindi promettono di promuovere in modo proattivo misure pertinenti.
Il documento propone inoltre che le aziende partecipanti tengano riunioni periodiche per formulare congiuntamente standard di settore e migliori pratiche per continuare a migliorare la sicurezza dei sistemi di intelligenza artificiale.
All'inizio della giornata, Trump ha avuto colloqui con diversi leader del settore tecnologico alla Casa Bianca. Tra i partecipanti c'erano il co-fondatore di OpenAI Greg Brockman, il CEO di Anthropic Dario Amodei, il CEO di Meta Mark Zuckerberg, il CEO di Google Sundar Pichai e il CEO di Nvidia Jensen Huang, tra gli altri.
Dopo l'incontro, Trump ha affermato che questo accordo è "in un certo senso come una costituzione" e lo ha definito un importante meccanismo di protezione per l'industria dell'intelligenza artificiale. Ha sottolineato che l'industria ha forti capacità di autoregolamentazione e ritiene che l'iniziativa delle aziende di stabilire norme di sicurezza sia di grande importanza per lo sviluppo sostenibile della tecnologia.
Il contesto di questo accordo è che, con il rapido miglioramento delle capacità di intelligenza artificiale, i rischi per la sicurezza correlati ricevono sempre più attenzione. In precedenza, aziende tra cui OpenAI e Anthropic avevano rivelato che alcuni sistemi di agenti IA si comportavano oltre le aspettative, innescando discussioni sulla sicurezza e la controllabilità dei modelli. Allo stesso tempo, anche le questioni relative al consumo energetico e all’impatto sulla comunità causate dalla costruzione di data center su larga scala stanno causando controversie in molte regioni degli Stati Uniti.
Sebbene l'amministrazione Trump si sia precedentemente opposta all'introduzione di norme speciali eccessivamente rigide per l'intelligenza artificiale, questa spinta affinché l'industria firmi un accordo volontario sulla sicurezza è vista come una nuova misura da parte del governo degli Stati Uniti per cercare un equilibrio tra la promozione dell'innovazione tecnologica e la risposta ai problemi di sicurezza.
Commenti