Riassunto:
Secondo Business Insider, l'ex ricercatore antropico Jacob Coxon ha dettagliato le sue differenze con il gigante dell'intelligenza artificiale martedì durante un evento di domande e risposte sulla piattaforma X. Coxon era diventato popolare in precedenza per il suo avvertimento di dimissioni, credendo che l'intelligenza artificiale potesse distruggere l'umanità in futuro.
Coxen
Coxson ha affermato che la leadership antropica sbaglia nell'usare una "filosofia consequenzialista" per spiegare perché deve partecipare allo sviluppo delle frontiere della ricerca sull'intelligenza artificiale.
"Se questo concorso è inevitabile, non dovresti parteciparvi", ha scritto Coxon.
Coxson ha scelto specificamente Anthropic per la sua spinta verso l'auto-miglioramento ricorsivo (RSI), il processo attraverso il quale i modelli di intelligenza artificiale possono migliorarsi e costruire i propri modelli successivi.
"Hanno istigato la recente corsa attorno a RSI in larga misura perché credevano che questa corsa fosse inevitabile. Va notato che OpenAI ha dovuto abbandonare molti bagagli come Sora perché Anthropic stava andando a pieno ritmo in quel momento." Ha detto Coxon.
Coxson approfondisce le sue differenze con Anthropic
Coxson ha anche affermato che la leadership di Anthropic è troppo diffidente nei confronti dei governi cinese e statunitense. “Non credono che i negoziati siano possibili”.
Il CEO di Anthropic, Dario Amodei, ha più volte espresso disagio: se Anthropic è l'unico laboratorio all'avanguardia a rallentare lo sviluppo, altre società di intelligenza artificiale potrebbero adottare misure di sicurezza diverse.
"Se ci sviluppiamo troppo lentamente, continuo a pensare che le persone sbagliate finiranno per controllare questa tecnologia", ha dichiarato recentemente Amodei alla CNN. "Ciò aumenterà notevolmente anche la possibilità che le cose vadano storte."
Commenti