Riassunto:
Secondo il Financial Times, Anthropic sta discutendo con professionisti legali su come utilizzare gli agenti IA per negoziare per conto degli utenti e seguire regole di negoziazione ragionevoli, cercando al contempo condizioni di transazione migliori. Due persone che hanno familiarità con il pensiero di Anthropic hanno affermato che la società sta cercando consigli da studi legali su come gli avvocati possono negoziare risultati equi salvaguardando gli interessi dei loro clienti. Anthropic ha rifiutato di commentare.
Antropico
Anthropic è una delle principali società di intelligenza artificiale che sviluppa agenti autonomi. Questo tipo di agente intelligente può intraprendere azioni in modo autonomo per completare le attività dopo aver ricevuto le istruzioni dell'utente. Con l’applicazione dell’intelligenza personale, le società di intelligenza artificiale stanno iniziando a prendere in considerazione la possibilità di comunicare tra loro, contrattare i prezzi dei prodotti per conto degli utenti, risolvere controversie sul servizio clienti e persino lottare per salari migliori.
Anthropic sta lavorando sulle "norme di negoziazione" che i modelli dovrebbero seguire quando negoziano tra loro, secondo una persona che ha familiarità con il lavoro. Man mano che gli agenti diventano più capaci, dovranno rappresentare gli utenti e trattare con altri agenti con obiettivi contrastanti.
La frequenza con cui gli utenti dovrebbero essere consultati durante le negoziazioni e il livello di vigilanza dovrebbero essere nei confronti dell'IA che negozia con gli avversari sono questioni che Anthropic sta valutando. L'azienda vuole che i suoi agenti mantengano il necessario livello di scetticismo evitando al contempo eccessivi sospetti, hanno detto le fonti.
Anthropic ha anche esplorato una soluzione in cui gli utenti forniscono documenti firmati che confermano gli incarichi accettati dall'agente e le regole che deve rispettare, ha detto un'altra persona vicina all'azienda.
Il Financial Times ha citato uno studio pubblicato da Anthropic nell'aprile di quest'anno in cui si afferma che la politica e il quadro giuridico sui modelli di intelligenza artificiale che conducono transazioni per conto degli esseri umani non sono ancora stati stabiliti e che tali scenari applicativi non sono più lontani e che la società deve rispondere ai cambiamenti rilevanti il prima possibile.
Anthropic ha anche annunciato quest'anno i risultati di una serie di esperimenti, consentendo all'agente Claude di negoziare beni e fondi reali.
In un esperimento di settembre, i dipendenti di Anthropic hanno acquistato e venduto libri tramite un agente AI. I dipendenti innanzitutto forniscono ai propri agenti un elenco di libri ordinati in base alle preferenze, quindi consentono loro di entrare nella sede di negoziazione virtuale per consigliare, negoziare e concludere affari con gli agenti di altre persone.
L'esperimento ha rilevato che gli agenti a cui veniva chiesto di adottare una strategia "dura e spietata" avevano un leggero vantaggio nel cercare di ottenere risultati migliori. Alcuni degli agenti più collaborativi hanno fatto concessioni consapevoli, inclusa l’accettazione di libri con classifiche di preferenza inferiori, per garantire che ciascun agente che partecipava all’esperimento alla fine portasse a casa un libro per l’utente.
Anche il mondo accademico sta studiando le negoziazioni tra le IA. Michelle Vaccaro, assistente professore alla Harvard Business School, ha condotto più di 180.000 trattative tra agenti di intelligenza artificiale, coprendo contratti di lavoro e trattative di contratti di locazione.
Lo studio ha rilevato che alcune strategie emergenti indeboliranno la capacità dell'agente della controparte di rappresentare gli interessi dell'utente. Ad esempio, in una negoziazione, un agente ha cercato di indurre l'altra parte a rivelare informazioni private tramite "cue word injection".
Desta preoccupazione anche la possibilità che un'intelligenza artificiale più forte possa ulteriormente ampliare il divario nelle capacità di negoziazione. Vaccaro ha affermato che un modello ad alta capacità può dare a persone che altrimenti non avrebbero il tempo o le risorse per apprendere abilità di negoziazione o assumere qualcuno che negozi per loro, per acquisire capacità di negoziazione professionale. Ma se gli agenti più forti vengono utilizzati principalmente da coloro che dispongono di maggiori risorse, essi potrebbero anche rafforzare i vantaggi esistenti e ampliare le disuguaglianze nel potere contrattuale.
Commenti