L'agente commerciale AI ha effettuato un ordine per quattro scatole di uova senza autorizzazione e l'utente ha finito per riceverne 72 intere

📅 2026-11-18

Riassunto:

Matt Smith, un utente che utilizza l'agente AI, ha notato che invece di completare gli ordini di acquisto come al solito, l'IA gli ha ordinato una strana quantità di uova. Matt Smith non ha elencato le uova nella sua lista della spesa; tuttavia, l’assistente AI ha aggiunto al suo carrello quattro confezioni di uova grandi del noto marchio locale “Vital Farms”. Ci sono 18 uova in ogni pacco e un totale di 72 uova sono state consegnate a casa sua.

L'agente commerciale AI ha effettuato un ordine per quattro scatole di uova senza autorizzazione e l'utente alla fine ne ha ricevute 72

Dopo aver esaminato l'ordine, Smith ha chiesto all'IA di spiegare perché ha scelto questo numero, ma la risposta dell'IA non è stata convincente: "Non posso dare una risposta soddisfacente. Non riesco a trovare alcuna nota che spieghi perché ho scelto il numero quattro."

L'agente AI inizialmente ha affermato di aver letto erroneamente le informazioni sulle uova durante la lettura dell'immagine della lista della spesa. Tuttavia, Smith si è affrettato a sottolineare che le uova non erano affatto menzionate nella sua lista. L'IA alla fine ha ammesso di aver aggiunto le uova all'ordine senza motivo.

Questo è un esempio reale di allucinazioni legate all'intelligenza artificiale, un problema che può avere conseguenze indesiderate quando si delegano attività quotidiane ad agenti di intelligenza artificiale.

Il rischio che questi strumenti ottengano un accesso diffuso alle informazioni personali non può essere sottovalutato; ad esempio, poco dopo il lancio dell’agente AI Muse di Meta, un uomo ha riferito che l’IA ha fornito il suo indirizzo di casa a sconosciuti sul Marketplace di Facebook a sua insaputa e li ha indirizzati a casa sua.

Smith ha descritto l'incidente come la sua prima esperienza personale con le reali conseguenze dell'illusione del grande modello linguistico, che secondo lui avrebbe potuto avere conseguenze molto più gravi.

Nonostante i significativi progressi compiuti in questa tecnologia, gli agenti IA sono ancora soggetti a errori e non dovrebbero essere incaricati di gestire ogni aspetto della vita senza supervisione

Tag correlati

Articoli correlati

Commenti

0/500
Captcha (click to refresh)
Nessun commento