Riassunto:
Mentre le società statunitensi di intelligenza artificiale come OpenAI e Anthropic continuano ad accusare le aziende cinesi di copiare tecnologie avanzate attraverso la "distillazione di modelli", Garry Tan, CEO di Y Combinator, noto acceleratore di startup statunitense, ha espresso pubblicamente un punto di vista completamente diverso. Secondo lui, se dipendesse da lui, "non si farebbe nulla" sulla questione della distillazione e ritiene che l'attuale regolamentazione non dovrebbe concentrarsi sulla lotta alla distillazione.
Garry Tan ha rilasciato la dichiarazione di cui sopra durante un'intervista durante l'evento annuale Demo Day di Y Combinator. Negli ultimi mesi, la distillazione modello è diventata uno degli argomenti più controversi nel settore globale dell’intelligenza artificiale. La distillazione si riferisce all'utilizzo dell'output generato da un modello di intelligenza artificiale più potente per addestrare un modello più piccolo o meno capace. In alcuni casi, questo processo potrebbe non essere autorizzato dallo sviluppatore del modello originale, quindi è considerato da alcune importanti aziende di intelligenza artificiale come una minaccia ai diritti di proprietà intellettuale e agli interessi commerciali.
Al momento, Anthropic ha accusato pubblicamente aziende cinesi come Dark Side of the Moon, DeepSeek e MiniMax di utilizzare presumibilmente i suoi modelli per la formazione sulla distillazione. OpenAI ritiene che parte dell'architettura del modello di DeepSeek possa prendere in prestito o avere origine dai risultati di output dei suoi modelli delle serie GPT-4 e GPT-4o. Allo stesso tempo, la National Security Agency degli Stati Uniti, la Cybersecurity and Infrastructure Security Agency e l’FBI hanno recentemente emesso congiuntamente un avviso sulla sicurezza informatica, elencando i comportamenti rilevanti come rischi per la sicurezza che richiedono attenzione.
Tuttavia, Garry Tan non è favorevole a restrizioni più severe sulla distillazione. Crede che ciò su cui i regolatori dovrebbero realmente concentrarsi è come stabilire un sano equilibrio tra modelli a peso aperto e modelli all’avanguardia a fonte chiusa, piuttosto che semplicemente vietare o reprimere le pratiche di distillazione. A suo avviso, finché il modello leader può ancora mantenere sufficienti vantaggi in termini di prestazioni e premi di prezzo per consentire al suo modello di business di continuare a funzionare, l’esistenza di un modello aperto favorirà la divulgazione della tecnologia e la diffusione dell’innovazione.
Ha affermato che lo stato ideale dovrebbe essere che il modello a peso aperto offra libertà e opportunità di utilizzo a più sviluppatori e imprese, mentre il modello all'avanguardia mantenga il valore commerciale in virtù della sua leadership tecnologica. Sebbene questo equilibrio sia molto fragile e difficile come “camminare su una corda”, rimane comunque il percorso di sviluppo più degno da perseguire per l’industria.
Un altro sfondo della controversia sulla distillazione deriva dalle annose questioni relative al diritto d'autore nel settore dell'intelligenza artificiale. Molti critici sottolineano che anche aziende come OpenAI e Anthropic hanno dovuto affrontare domande sull’uso non autorizzato di notizie, libri e altri contenuti protetti da copyright durante l’addestramento dei propri modelli. Il New York Times aveva già citato in giudizio OpenAI e Microsoft, accusandoli di utilizzare contenuti di notizie per addestrare modelli senza autorizzazione; molti scrittori hanno anche intentato causa contro Anthropic per questioni simili. Garry Tan ritiene che ciò complichi la posizione etica del settore nei confronti della distillazione.
Oltre alla questione della concorrenza dei modelli, Garry Tan rimane cauto anche riguardo all'attuale crescente "teoria del giorno del giudizio dell'IA". Recentemente, poiché alcuni ricercatori sull’intelligenza artificiale hanno espresso pubblicamente preoccupazione riguardo al rischio che l’intelligenza artificiale avanzata vada fuori controllo, la discussione nella società sui rischi esistenziali dell’intelligenza artificiale è aumentata in modo significativo. Ma Tan ritiene che l’industria dovrebbe prestare maggiore attenzione ai problemi che si sono già verificati o stanno per verificarsi nella realtà, piuttosto che indulgere in scenari catastrofici da fantascienza.
A suo avviso, i rischi nel campo della sicurezza della rete rappresentano attualmente la sfida più urgente. Ad esempio, se i sistemi di intelligenza artificiale vengono utilizzati per attacchi informatici, penetrazione delle infrastrutture o crimini automatizzati, sono molto più meritevoli di dare priorità alle risorse da affrontare rispetto al lontano scenario di sterminio dell’umanità da parte dell’intelligenza artificiale. Per quanto riguarda questioni quali gli impatti sull’occupazione e i cambiamenti nella struttura economica, ritiene che, sebbene questi impatti siano reali, è più probabile che si manifestino gradualmente nei prossimi decenni piuttosto che esplodere in un breve periodo di tempo.
Vale la pena notare che, nonostante l'escalation del dibattito sulla sicurezza dell'intelligenza artificiale e sulla concorrenza dei modelli, Y Combinator continua a scommettere molto sul settore dell'intelligenza artificiale. Tra le 196 startup esposte in questo Demo Day, 149 riguardavano l'apprendimento automatico e l'intelligenza artificiale, rappresentando più di tre quarti di tutti i progetti, riflettendo il grande ottimismo dell'agenzia per il futuro sviluppo dell'intelligenza artificiale.
Gli analisti ritengono che la dichiarazione di Garry Tan rappresenti un'altra voce all'interno della Silicon Valley. A differenza degli sviluppatori di modelli all’avanguardia che sostengono il rafforzamento della protezione e la limitazione della proliferazione tecnologica, questa fazione enfatizza l’ecologia aperta, la piena concorrenza e la democratizzazione della tecnologia. Poiché l’industria dell’intelligenza artificiale continua a svilupparsi a un ritmo rapido, si prevede che nei prossimi anni i dibattiti sulla “distillazione”, sui modelli open source, sulla sicurezza nazionale e sulla proprietà intellettuale continueranno a diventare questioni importanti nel campo dell’intelligenza artificiale globale.
Commenti