Riassunto:
"La vera domanda è: se pensi di dover rallentare, non correre ad alta velocità e non aspettare che forze esterne ti costringano a fermarti." Questo è ciò che il vicepresidente e presidente di Microsoft Brad Smith ha detto ad Alan Murray durante l'Assemblea generale delle Nazioni Unite. L'argomento discusso era: i grandi produttori di modelli all'avanguardia dovrebbero premere il pedale della decelerazione per garantire che la tecnologia che sviluppano non porti una catastrofe all'umanità.
Lo stesso giorno in cui ha fatto queste osservazioni, il CEO di Anthropic Dario Amodei e il CEO di OpenAI Sam Altman hanno parlato alle Nazioni Unite, invitando i paesi a istituire meccanismi di protezione della sicurezza dell'IA per prevenire lo sviluppo dell'IA oltre le capacità di controllo umano.
Smith, che vanta molti anni di esperienza nel settore, ha dichiarato: "Se tu, in qualità di amministratore delegato di un'azienda, ritieni che il tuo prodotto presenti rischi per la sicurezza, dovresti continuare a commercializzarlo? Penso che la risposta sia ovvia: no. Le aziende hanno la responsabilità della sicurezza pubblica."
Nonostante ciò, ha aggiunto: "L'introduzione di alcune misure normative alla fine sarà inevitabile." Storicamente, molti prodotti si affidavano alla regolamentazione per ottenere un’implementazione sicura. Ad esempio, in passato c'erano problemi con la contaminazione del latte, "così abbiamo creato un dipartimento di ispezione agricola e introdotto leggi pertinenti. Ora, quando vai al supermercato, tutti i tipi di latte sono sicuri e potabili".
Quando Smith ha proposto che dovrebbe esserci la possibilità di "rallentare o spegnere direttamente il sistema AI", il conduttore Allen ha confermato che si stava parlando dell'interruttore di spegnimento di emergenza dell'IA (kill switch), e poi ha chiesto: "Pensi che sia una buona idea?"
Smith ha risposto: "Certo. ... Lo sviluppatore del modello dovrebbe avere l'autorità di spegnerlo; i fornitori di infrastrutture cloud come Microsoft dovrebbero avere tale autorità; e anche l'agenzia responsabile del controllo dell'agente di intelligenza artificiale dovrebbe avere la capacità di spegnerlo. Anche se questo meccanismo fosse imposto dalla legislazione, non sarebbe una cosa negativa."
Alan gli ha chiesto in che modo i manager aziendali dovrebbero gestire i problemi di sicurezza dell'intelligenza artificiale all'interno delle loro aziende. "Il mio punto è: non smettere di usare l'intelligenza artificiale. L'intelligenza artificiale è un'innovazione fondamentale e uno strumento importante per migliorare la produttività. Ma è importante ricordare che la tecnologia richiede governance.... La governance di questa tecnologia è importante quanto la tecnologia stessa."
Ha anche ricordato: "Non mi sveglio ogni giorno con la sensazione che esista il 10% di probabilità di estinzione umana. Ma preferirei preoccuparci troppo piuttosto che fare troppo poco. Dopotutto, ciò di cui stiamo discutendo riguarda la sopravvivenza umana. Per l'amor di Dio, questa questione è più importante delle ultime tecnologie e dobbiamo prenderla sul serio."
Commenti