Riassunto:
Il CEO di OpenAI, Sam Altman, ha affermato che esistono ancora differenze fondamentali tra le visioni del mondo alla base di OpenAI e quella del rivale Anthropic sulla questione della regolamentazione dell'intelligenza artificiale. In un'intervista, ha affermato che l'enorme valore apportato da questa tecnologia è degno della parte di rischio della società; La tecnologia dell’intelligenza artificiale dovrebbe continuare ad essere ampiamente aperta al pubblico.
Il CEO di OpenAI Sam Altman ha dichiarato in un'intervista che l'AI I benefici apportati sono sufficienti affinché la società accetti alcuni rischi
"C'è un enorme divario nella filosofia", ha detto Altman. Alla domanda sulle sue principali differenze con Anthropic e con il suo CEO Dario Amodai, Altman ha dichiarato: "Crediamo che per sfruttare i vantaggi di questa tecnologia e garantire che le persone abbiano il diritto di usarla in modo autonomo, il mondo dovrebbe accettare che accadano alcune cose brutte".
Anthropic è da tempo il più forte sostenitore del settore della regolamentazione dell'IA. Non molto tempo fa, questa posizione sarebbe stata in contrasto con la spinta di OpenAI verso una regolamentazione leggera. Tuttavia, negli ultimi mesi, le differenze politiche tra le due principali società di intelligenza artificiale si sono ridotte. Dopo una serie di hack di alto profilo e comportamenti irregolari del modello, OpenAI si è orientata per supportare norme normative più severe.
Ultraman concordava con la tesi di Amodai del mese scorso di rallentare il ritmo di sviluppo di modelli di grandi dimensioni all'avanguardia. Anche OpenAI ha seguito l'esempio di Anthropic e ha supportato l'introduzione di nuove leggi in alcuni stati degli Stati Uniti per stabilire requisiti di sicurezza più rigorosi rispetto agli standard precedentemente supportati dagli sviluppatori di ChatGPT. Ciò rappresenta un sottile cambiamento nella sua strategia normativa a livello statale. I lobbisti politici di OpenAI hanno recentemente sostenuto anche un disegno di legge bipartisan della Camera che impone alle principali aziende di intelligenza artificiale di coinvolgere valutatori esterni della sicurezza.
Sebbene le posizioni di entrambe le parti tendano ad essere vicine, Altman ha comunque cercato di tracciare una linea chiara tra il pensiero normativo delle due società. Ha osservato che i consulenti tecnologici vicini al presidente Trump avevano criticato Anthropic per la cattura normativa.
"Non sono d'accordo con questo punto di vista, ma capisco il punto di vista di alcune persone: questa tecnologia diventerà estremamente potente e rischiosa, quindi dovrebbe essere controllata da un laboratorio a San Francisco per garantire che non accada nulla di male, e poi il laboratorio deciderà come distribuire i dividendi tecnologici." Altman ha affermato che questo compromesso è del tutto inaccettabile e va contro l’approccio normativo leggero supportato da OpenAI.
"Non accetterò un accordo in cui garantiamo che non si verificheranno attacchi di hacker di rilievo, abusi della tecnologia, frodi e tutti i tipi di cose brutte che potrebbero accadere", ha affermato Altman, "perché credo che le buone azioni che gli esseri umani possono creare utilizzando l'intelligenza artificiale supereranno di gran lunga i danni che arreca, in ordine di grandezza."
Il CEO di OpenAI ha successivamente aggiunto di non accettare rischi veramente catastrofici, inclusa la possibilità che l'intelligenza artificiale causi gravi situazioni fuori controllo.
Quando è stato chiesto un commento, un portavoce di Anthropic ha affermato che le proposte normative dell'azienda si applicheranno solo ai modelli all'avanguardia. La società ha anche citato una conversazione che Amodai ha avuto con un gestore degli investimenti sui social media in agosto in risposta alle critiche sull’acquisizione normativa e sull’impatto delle politiche di regolamentazione sulle piccole imprese.
Amodai disse all'epoca: "Anthropic è sempre stata molto cauta nel formulare proposte politiche. Abbiamo fatto tutto il possibile per progettare soluzioni che creassero condizioni favorevoli per i concorrenti più piccoli, frenando al tempo stesso i giganti dell'intelligenza artificiale all'avanguardia."
L'intervista di Altman ha toccato anche una serie di argomenti: il nuovo accordo di Trump sull'intelligenza artificiale con le principali aziende tecnologiche, il suo piano di rebranding per creare una "super intelligenza"; molteplici incidenti di hacking autonomi causati dai modelli OpenAI e se la società debba assumersi la responsabilità legale; l’impatto dell’enorme afflusso di fondi nel settore dell’intelligenza artificiale sulla politica statunitense; l'influenza dei cosiddetti altruisti efficaci all'interno di OpenAI; e le sue opinioni su figure politiche chiave come il presidente francese Emmanuel Macron e il governatore della California Gavin Newsom.
Commenti