Riassunto:
Il capo scienziato di OpenAI Jakub Pachocki propone che le società di intelligenza artificiale accettino di fissare limiti allo sviluppo di modelli sempre più potenti finché i ricercatori non avranno modi migliori per comprendere e monitorare il comportamento di questi modelli. Pachocki ha chiesto standard a livello di settore che stabiliscano i limiti per lo sviluppo dell’intelligenza artificiale e le aziende dovrebbero accettare di non oltrepassare tali limiti finché non saranno soddisfatti specifici requisiti di sicurezza.

"Propongo inoltre che i limiti comuni siano fissati sulla base di perplessità e altre misure, con gli sviluppatori che si impegnano a non violare questi limiti finché la nostra capacità di comprendere e monitorare il comportamento dell'intelligenza artificiale non raggiunge un traguardo specifico", ha scritto Pachocki. I limiti proposti da Pachocki potrebbero basarsi in parte su una metrica tecnica chiamata perplessità, che misura la capacità di un modello di intelligenza artificiale di prevedere la parte di testo successiva. Pachocki non ha detto a quale livello dovrebbero essere fissati i limiti iniziali, né quando saranno implementati.
Pachocki ha avvertito che già nel 2027 l'intelligenza artificiale potrebbe accelerare la propria evoluzione più velocemente di quanto i ricercatori riescano a migliorare la loro capacità di monitorare e comprendere la tecnologia.
Il CEO di OpenAI Altman ha espresso sostegno alla proposta, definendo l'articolo di Pachocki "il contenuto più importante che OpenAI abbia rilasciato da qualche tempo". In un post su X, ha affermato che concordare limiti condivisi aiuterebbe a garantire “sicurezza e controllo”.
Commenti