Riepilogo:
Anthropic ha dichiarato lunedì che le nuove misure volte a impedire ai concorrenti di copiare le capacità del suo modello di intelligenza artificiale Claude hanno ridotto la quantità di dati rubati dai cosiddetti "attacchi di distillazione" di circa il 90% -99%.
La distillazione dei modelli è diventata il focus delle principali aziende di intelligenza artificiale; aziende come Anthropic, OpenAI e Google ritengono che questa pratica consenta ai concorrenti di copiare le loro capacità avanzate a un costo inferiore e più velocemente.
Anthropic ha affermato che le misure di salvaguardia volte a limitare l'accesso alle capacità di inferenza di Claude hanno ridotto significativamente i tentativi di estrazione contro il modello e che il "numero di token di inferenza estratti tramite distillazione" è ora sceso a "da 1/100 a 1/10 del livello precedente".
La società con sede in California ha affermato di aver reso più difficile sfruttare una rete di agenti per sondare ripetutamente il processo di inferenza protetto di Claude, bloccando i tentativi di estrazione dei dati e ostacolando le campagne di distillazione di modelli su larga scala.
Anthropic afferma che il suo sistema di sicurezza è "più o meno equivalente a un sistema che avrebbe impedito a Claude di contribuire alla creazione di un'arma biologica" e ha un "tasso di falsi positivi inferiore allo 0,1%".
Commenti