Direttore di OpenAI: è ragionevolmente probabile che il disastro dell'IA si verifichi entro un anno

📅 2026-11-18

Riassunto:

Paul Cristiano, noto ricercatore nel campo della sicurezza dell'intelligenza artificiale e membro del consiglio di amministrazione di OpenAI Holdings, ha lanciato un avvertimento sulle prospettive di sviluppo dell'intelligenza artificiale in un'intervista a un popolare podcast tecnologico. Ha detto che la possibilità che gli esseri umani perdano completamente il controllo dell’intelligenza artificiale in futuro sta aumentando rapidamente.


Questo podcast va in onda il lunedì ed è ospitato da Devaksh Patel. "C'è una ragionevole possibilità che nei prossimi sei mesi possa verificarsi un disastro che ucciderebbe un gran numero di persone o rovescerebbe il governo", ha detto Cristiano durante lo show. Il podcast ha solitamente milioni di ascoltatori, comprese molte persone nel settore tecnologico.

Cristiano ha affermato che il verificarsi degli eventi di cui sopra dipende dalla velocità di iterazione della tecnologia AI. Ha anche proposto che, guidati dalla tecnologia ricorsiva di auto-miglioramento, i modelli di intelligenza artificiale possano ottenere aggiornamenti di auto-iterazione e che la probabilità di svilupparsi fino a un punto critico pericoloso entro il prossimo anno sia "piuttosto alta".

Rispetto alle passate dichiarazioni pubbliche di Cristiano, questa affermazione rappresenta un'ulteriore escalation di avvertimento. Dirige anche il Center for Alignment Research, un'organizzazione senza scopo di lucro con sede a Berkeley che si concentra sulla ricerca sull'allineamento dell'intelligenza artificiale. In qualità di ricercatore senior che da tempo mette in guardia sui rischi per la sicurezza dell’IA, a settembre è entrato a far parte del consiglio di amministrazione della OpenAI Foundation, che controlla l’azienda. Cristiano ha sottolineato nell'intervista che il suo discorso rappresenta solo la sua posizione personale e non rappresenta il punto di vista del consiglio di amministrazione di OpenAI.

Quando è entrato per la prima volta nel consiglio di amministrazione, Cristiano ha pubblicato un articolo pubblico in cui stimava che il rischio di eventi catastrofici causati dalla perdita del controllo dell'intelligenza artificiale da parte degli esseri umani nel prossimo anno fosse di circa il 4%.

In un'intervista di lunedì, ha affermato che le capacità del modello hanno fatto rapidi progressi negli ultimi mesi e ora valuta che il rischio che l'intelligenza artificiale prenda il sopravvento sugli esseri umani nel prossimo anno è "più vicino al 10%, non all'1%". Ha affermato che se le grandi aziende non adottano misure più protettive per mitigare i rischi causati dallo sviluppo dell’intelligenza artificiale, la stima del rischio sarà “significativamente più elevata”.

Tag correlati

Articoli correlati

Commenti

0/500
Captcha (click to refresh)
Nessun commento