Riassunto:
Un dipendente di OpenAI concentrato sulla sicurezza dell'intelligenza artificiale ha lasciato l'azienda, avvertendo che le principali aziende di intelligenza artificiale non stanno facendo abbastanza per ridurre i rischi. David Robinson, precedentemente responsabile della trasparenza del team di sicurezza di OpenAI, ha affermato in un articolo per The Atlantic che lo sviluppatore ChatGPT "è sempre cresciuto attraverso tentativi ed errori". Tuttavia, questo approccio fallirà inevitabilmente. Poiché le capacità della tecnologia IA continuano a migliorare, aumentano anche i rischi causati da questi fallimenti. Ha anche citato come esempio l'incapacità di OpenAI di impedire che la sua intelligenza artificiale sfuggisse al controllo durante il processo di test.
Robinson ha scritto nell'articolo: "I miei ex colleghi erano intelligenti, lavoravano duro e cercavano di fare le scelte giuste. Ma mentre l'azienda passava da un prodotto all'altro, non ha usato il livello di cautela che pensavo fosse necessario." Ciò che era veramente necessario, ha aggiunto, era "avvicinarsi alla perfezione la prima volta".
OpenAI Sam Altman
Nelle ultime settimane, i dipendenti di diverse importanti aziende di intelligenza artificiale hanno messo in guardia dai rischi catastrofici che la tecnologia potrebbe comportare. Alcuni sostengono addirittura che un giorno l’intelligenza artificiale potrebbe spazzare via l’umanità.
In questo contesto, Dario Amodei, CEO di Anthropic PBC, ha chiesto di rallentare lo sviluppo di modelli all'avanguardia e ha affermato che la sua azienda si avvalerà di valutatori di terze parti per assistere nelle revisioni per garantire la sicurezza. Anche altri operatori del settore, tra cui Sam Altman di OpenAI, hanno sostenuto pubblicamente i piani di Amodei.
Robinson ha affermato nell'articolo che le società di intelligenza artificiale dovrebbero operare più come centrali nucleari, "creando più livelli di meccanismi di ridondanza e conducendo una pianificazione attenta e dispendiosa in termini di tempo per evitare che errori umani occasionali e inevitabili aprano la porta al disastro."
Attualmente, ha affermato, "le aziende di intelligenza artificiale non sanno cosa fare, ma altre sì".
Un portavoce di OpenAI ha affermato che l'azienda sta apportando modifiche per rafforzare la sicurezza dei suoi ambienti di ricerca e test, addestrare i modelli di intelligenza artificiale a completare le attività in modo responsabile, espandere la cooperazione con valutatori di terze parti e migliorare il monitoraggio in tempo reale per rilevare comportamenti preoccupanti nei modelli.
L'azienda si sta assicurando che le capacità dei suoi modelli non vengano aumentate oltre ciò che OpenAI può gestire in sicurezza, ha affermato il portavoce via e-mail sabato.
Commenti