Riassunto:
Il 20 novembre, secondo il media statunitense "The San Francisco Standard" (The San Francisco Standard), l'ex ricercatore antropico Jacob Coxon è apparso davanti alla sede di San Francisco il giorno dell'IPO della società e ha pubblicamente lanciato un appello ai manifestanti presenti sul posto affinché proibissero l'auto-miglioramento ricorsivo (RSI) nei sistemi di intelligenza artificiale.

Coxson ha detto sul posto: "Dovrebbero vietare la RSI e spegnerla."
Ha anche detto ai manifestanti: "Per ogni persona che viene qui, ci sono centinaia di migliaia di persone che verranno qui se sapranno cosa sta succedendo. E ci sono milioni di persone del genere."
RSI sta per auto-miglioramento ricorsivo, il che significa che il sistema di intelligenza artificiale migliora ulteriormente le proprie capacità migliorando i propri algoritmi, modelli o processi di ricerca e sviluppo e utilizza le capacità migliorate per continuare il prossimo ciclo di ottimizzazione. Si ritiene che questo meccanismo possa accelerare lo sviluppo delle capacità di intelligenza artificiale e solleva anche preoccupazioni sul rischio di sistemi di intelligenza artificiale fuori controllo.
Coxon si era precedentemente dimesso da Anthropic. Questa volta ha chiesto pubblicamente il divieto della RSI, riflettendo la controversia che circonda le capacità di miglioramento indipendente e i limiti di sicurezza dei sistemi avanzati di intelligenza artificiale.
Commenti