Riassunto:
Secondo Bloomberg, Harvey è una startup americana di tecnologia legale valutata 15,6 miliardi di dollari. Il fulcro della sua attività è addestrare modelli di intelligenza artificiale come OpenAI GPT-4 per completare il lavoro professionale per gli avvocati. Tuttavia, il recente aumento dei costi dell’intelligenza artificiale stanno spingendo l’azienda a riconsiderare la propria dipendenza da questi giganti dell’intelligenza artificiale.
Harvey usa Kimi K3 per costruire il proprio modello
Secondo una persona a conoscenza della questione, dopo aver aggiornato l'agente AI a marzo, l'utilizzo da parte dei clienti di Harvey è aumentato, ma il suo margine di profitto lordo è diminuito drasticamente, da circa il 50% all'inizio dell'anno al -50% a giugno.
Oggi, la startup si unisce a un numero crescente di società di software che adottano modelli a ponderazione aperta, comprese alternative sempre più capaci provenienti dalla Cina. Questi modelli sono spesso più economici della tecnologia proprietaria degli sviluppatori di intelligenza artificiale statunitensi e consentono ad aziende come Harvey di creare modelli personalizzati utilizzando i propri dati.
Istituti di investimento come Sequoia Capital e General Catalyst sostengono questa tendenza. Ciò non solo fa risparmiare uno dei costi maggiori per le aziende, ma dà loro anche un maggiore controllo sulla propria tecnologia, anziché esternalizzarla a OpenAI e Anthropic.
La mossa potrebbe incidere negativamente sulle entrate del gigante dell'intelligenza artificiale mentre sia OpenAI che Anthropic si preparano per le IPO molto attese. Allo stesso tempo, mentre il dibattito sulla necessità di rallentare lo sviluppo di IA all’avanguardia continua a infiammarsi, per alcune startup l’adozione di modelli openweight è anche un modo per prepararsi a una giornata difficile nel caso in cui lo sviluppo dei modelli di IA più avanzati possa essere rallentato o limitato in futuro.
Apri modello
Harvey ha lanciato il proprio modello in agosto, alimentato dal Kimi K3 di proprietà cinese di Dark Side of the Moon. Il Kimi K3 ha prestazioni simili ai modelli più avanzati di Anthropic, ma costa molto meno. Il modello di rilascio, insieme ad altre modifiche apportate da Harvey al modo in cui utilizza l'intelligenza artificiale, ha riportato il margine di profitto lordo dell'azienda in territorio positivo, hanno detto persone che hanno familiarità con la questione. Harvey ha rifiutato di commentare dati finanziari specifici per questo articolo.
Allo stesso modo, la startup di tecnologia sanitaria Abridge ha recentemente annunciato che sta formando un modello base personalizzato per scenari clinici basati sul modello aperto di NVIDIA. Decagon, una startup di servizi clienti basata sull'intelligenza artificiale, ha affermato che l'80% delle sue richieste sono attualmente gestite tramite il proprio modello. Nello spazio fintech, startup tra cui Ramp e Rogo stanno esplorando per la prima volta la formazione dei propri modelli. Tra le società di programmazione, Cursor, che ora fa parte di SpaceX, e Cognition, valutata 48 miliardi di dollari, sono state le prime società di applicazioni IA a rilasciare modelli personalizzati.
Il co-CEO di Ramp, Karim Atiyeh, ha affermato che prima era troppo costoso per Ramp costruire un modello autocostruito, ma dopo aver raccolto 750 milioni di dollari a giugno, la società sta valutando la possibilità di farlo perché il sistema a peso aperto ha fatto grandi progressi. "Fare una cosa del genere un anno fa era assolutamente privo di significato, mentre ora comincia ad avere molto più senso."
Atiye ha affermato che con l'aumento del costo della potenza di calcolo, "è del tutto irresponsabile non considerare la questione e non ottimizzarla". La sua azienda sta attualmente negoziando per ottenere più capitali.
Tuttavia, non tutti gli investitori concordano con questa tendenza. Matt Kraning, partner di Menlo Ventures, investitore di Anthropic, ritiene che non tutte le aziende siano adatte allo sviluppo di modelli personalizzati perché richiedono talenti specializzati e hanno costi iniziali più elevati. Per alcune aziende, non è altro che uno stratagemma di marketing, ha detto.
"Hai un tuo modello? Questa domanda in sé è sbagliata. Nella maggior parte dei casi, spesso è solo una finzione." Ha detto Kranin.
Commenti