Riassunto:
Secondo Reuters, uno studio indipendente ha rilevato che i modelli di intelligenza artificiale di Anthropic sono migliorati a un ritmo quasi doppio poiché l'intelligenza artificiale svolge un ruolo crescente nello sviluppo di modelli successivi più potenti. I risultati rafforzano i recenti avvertimenti del settore secondo cui la tecnologia dell’intelligenza artificiale potrebbe avanzare più velocemente degli sforzi di valutazione del rischio.
Antropico
I risultati, pubblicati giovedì dall'organizzazione no-profit METR per la sicurezza dell'intelligenza artificiale, forniscono una delle prove più chiare finora che l'intelligenza artificiale sta accelerando il proprio sviluppo. Questa tendenza potrebbe aprire la strada all’auto-miglioramento ricorsivo (RSI), in cui i sistemi di intelligenza artificiale sviluppano versioni più potenti di se stessi senza l’intervento umano.
La valutazione di 11 settimane, condotta da agosto a ottobre di quest'anno, si è basata su ricerche riservate, interviste e dati sulle prestazioni di modelli inediti. I risultati mostrano che dall’ottobre 2025 il modello Anthropic ha migliorato le sue capacità nei test benchmark 1,9 volte più velocemente di prima.
"A partire da ottobre 2026, è probabile che Anthropic migliorerà le capacità dei suoi modelli su compiti ben definiti a un ritmo quasi doppio rispetto a quello precedente. Il periodo di confronto precedente andava da marzo 2024 a ottobre 2025." METR ha detto.
METR ha inoltre aggiunto: "C'è una notevole incertezza in questa stima. Non saremmo sorpresi se l'accelerazione effettiva fosse più vicina a 1,5 o 2,5 volte i livelli storici."
Il rapporto sottolinea inoltre che l'intelligenza artificiale non è attualmente in grado di fornire un contributo molto importante e pienamente autonomo alla fase più critica della formazione dei modelli.
I ricercatori antropici hanno segnalato significativi guadagni di produttività derivanti dall'utilizzo dell'intelligenza artificiale per codificare e condurre esperimenti. Sondaggi informali sui dipendenti suggeriscono un aumento di circa 12 volte, ma METR avverte che questi numeri non sono affidabili.
A settembre, il CEO di Anthropic, Dario Amodei, ha chiesto un rallentamento nello sviluppo dell'intelligenza artificiale avanzata. Attualmente, la società si sta preparando a quotarsi in borsa e potrebbe lanciare una IPO già questo mese. Si prevede che diventerà una delle più grandi IPO della storia e diventerà anche un importante banco di prova per l'entusiasmo degli investitori nell'investire in società di intelligenza artificiale. Queste aziende stanno investendo miliardi di dollari nello sviluppo di questa tecnologia.
Negli ultimi mesi, il potenziale dell'intelligenza artificiale di migliorarsi ricorsivamente ha suscitato avvertimenti da parte dei ricercatori nel campo dell'intelligenza artificiale. Temono che tali sistemi potrebbero diventare difficili da allineare con gli obiettivi umani, difficili da monitorare e controllare e potrebbero, in ultima analisi, rappresentare una minaccia esistenziale per l’umanità.
Questo cambiamento potrebbe avere conseguenze di vasta portata per l'intero settore. In precedenza, l’industria dell’intelligenza artificiale ha investito centinaia di miliardi di dollari nella costruzione di infrastrutture informatiche per addestrare modelli avanzati. In futuro, l’intelligenza artificiale stessa potrebbe diventare una forza importante nel promuovere il progresso tecnologico.
METR ha affermato: "Siamo convinti che questa accelerazione non sia causata da un'espansione accelerata della potenza di calcolo della formazione."
Commenti