Meta è esposta a test interni del nuovo meccanismo di Muse: il personale in outsourcing sostituisce manualmente le chiamate AI

Riassunto:

Secondo post interni di Meta, l'azienda sta testando un meccanismo di "governante umano" per il suo nuovo assistente personale basato sull'intelligenza artificiale Muse: Muse può esternalizzare le telefonate agli esseri umani all'insaputa dell'utente e il personale del call center completerà la chiamata al posto dell'intelligenza artificiale.

Muse sta testando la funzione "governante manuale"

Nelle due settimane successive al suo lancio, Muse è saldamente in cima alla lista dei download di applicazioni negli Stati Uniti, diventando subito popolare nel mercato statunitense. Questo assistente AI può eseguire autonomamente attività come l'invio di e-mail, lo shopping e la prenotazione di viaggi per conto degli utenti.

Non molto tempo fa, Meta ha appena lanciato la funzione di chiamata di Muse. Con l'aiuto della funzione di chiamata, gli utenti di Muse possono istruire l'IA a chiamare un commerciante statunitense e l'IA comunicherà con l'altra parte per completare commissioni come fissare un appuntamento per un taglio di capelli, controllare l'inventario del negozio e ottenere preventivi da più fornitori di servizi.

Ma la settimana scorsa Meta ha informato i dipendenti di un test interno di una "governante umana":

Quando la funzione di chiamata di Muse incontra scenari complessi, la chiamata può essere trasferita a un appaltatore dell'azienda all'insaputa dell'utente e il personale del call center completerà la chiamata.

Un vicepresidente del Meta Super Intelligence Laboratory ha affermato che alcuni test hanno dimostrato che il tasso di successo delle chiamate umane può essere aumentato fino al 95%-98%, ovvero superiore al tasso di successo delle chiamate IA pure.

Tuttavia, i post interni all'azienda mostrano anche che alcuni dipendenti hanno sollevato

preoccupazioni sulla privacy

Un dipendente ha scritto in un post interno: "È difficile per me capire perché riteniamo che questa funzionalità valga il rischio. Basta un bug per causare la fuga di informazioni non necessarie agli operatori umani."

Anche un altro dipendente ha menzionato specificamente un episodio di discriminazione razziale: una volta ha chiesto a Muse di chiamare l'operatore della rete TV via cavo per negoziare il conto, e i registri delle chiamate hanno mostrato che il personale in outsourcing ha fatto commenti di natura razziale durante la chiamata.

A questo proposito, il vicepresidente del Meta Super Intelligence Laboratory ha ammesso che consentire al personale in outsourcing di effettuare telefonate senza sufficiente preavviso è stato un "errore" e ha affermato che la società ha temporaneamente ripristinato la funzione.

Si è inoltre scusata con il dipendente che ha segnalato commenti razzisti durante la chiamata e ha promesso che il personale in outsourcing coinvolto non parteciperà ad alcun progetto Meta in futuro.

Usare l'"intelligenza artificiale" per fingere di essere "intelligenza artificiale"?

Questo test condotto da Muse offre al mondo esterno uno sguardo su un'operazione non insolita nel settore tecnologico: le aziende tecnologiche possono fare affidamento sul potere umano dietro le quinte per mantenere le loro promesse promozionali della cosiddetta "IA autonoma".

Ciò ricorda un esperimento condotto da Meta dieci anni fa. Meta, che all'epoca si chiamava ancora "Facebook", stava testando un assistente digitale chiamato M in Messenger. I successivi resoconti dei media hanno stimato che circa il 70% dei compiti dell'assistente venivano effettivamente completati manualmente.

Interrogato sulla soluzione "maggiordomo artificiale" di Muse, un portavoce di Meta ha affermato che il feedback dei dipendenti è stato "generalmente molto positivo" e che lo scopo di questo test era "raccogliere feedback per implementare meccanismi di sicurezza e protezione della privacy e ottimizzare le funzioni prima del rilascio ufficiale".

Il portavoce di Meta Daniel Roberts ha dichiarato: "Stiamo lavorando con i commercianti per continuare a ottimizzare questa potenziale funzionalità di chiamata. Non sarà lanciata ufficialmente finché non sarà pronta e i termini non saranno completamente comunicati."

I dati dell'agenzia di market intelligence Sensor Tower mostrano che Meta's Muse è stato scaricato più di 2,5 milioni di volte dal suo lancio.

Dal lancio del prodotto, il prezzo delle azioni di Meta è aumentato di oltre il 20% e il suo valore di mercato è aumentato di oltre 200 miliardi di dollari USA. Alla chiusura delle contrattazioni di lunedì, ha raggiunto un nuovo massimo in più di sette mesi. Tuttavia, martedì il titolo è sceso dello 0,6%.