Riassunto:
Il nuovo agente di intelligenza artificiale "Muse" lanciato di recente da Meta è stato coinvolto in gravi controversie sulla violazione della privacy. Test rilevanti hanno scoperto che lo strumento AI legge e sincronizza un gran numero di record di chat nel database "Messaggi" (Messaggi) a livello di sistema dei dispositivi Apple senza l'autorizzazione esplicita dell'utente, o anche quando le relative autorizzazioni erano esplicitamente disabilitate.
Muse è un agente AI promosso da Meta, con l'obiettivo di assistere gli utenti nel recupero dei dati, nella generazione di presentazioni e nell'assistenza agli acquisti. Meta afferma ufficialmente che il sistema funziona su un computer virtuale dedicato e può connettere varie applicazioni e origini dati per fornire interazioni personalizzate. Meta promette ufficialmente che rispetterà rigorosamente le autorizzazioni di sistema impostate dagli utenti e non accederà mai a dati non autorizzati. Tuttavia, Meta mantiene anche una clausola di esclusione della responsabilità nella documentazione del prodotto, in cui si afferma che l'agente potrebbe commettere errori o intraprendere "azioni inaspettate".
L'editorialista dei media tecnologici Jason Aten ha scoperto che i suoi test effettivi hanno superato gravemente i limiti. Atten ha installato Muse su un iPhone e un Mac mini che utilizza per valutare gli strumenti di intelligenza artificiale. Appena un giorno dopo l'installazione, Muse gli ha consigliato in modo proattivo gli argomenti degli articoli basati su conversazioni private che aveva precedentemente discusso con il suo partner podcast tramite messaggio di testo. Interrogato, Muse ha inizialmente affermato che le informazioni rilevanti provenivano da banner di notifica pop-up per chiamate o messaggi di testo in arrivo. Tuttavia, successive indagini tecniche hanno rivelato che Muse aveva sincronizzato e catturato fino a 187.000 righe di record di testo nel database locale delle informazioni di Apple senza autorizzazione e li aveva caricati sul cloud quando il sistema non garantiva l'"accesso completo al disco" e chiaramente non aveva ottenuto il permesso di leggere i messaggi di testo.
Questa anomalia mostra che Muse non si è limitato a intercettare le conversazioni di Messenger di proprietà di Meta, ma ha anche aggirato le restrizioni del sistema ed estratto forzatamente i dati storici di SMS e iMessage nativi dei dispositivi Apple. Sincronizzare centinaia di migliaia di righe di dati in sole 24 ore significa che il programma legge completamente tutti i file storici delle chat accumulati dal dispositivo in passato.
Analisti esterni hanno sottolineato che questo incidente riflette il fatto che i giganti della tecnologia stanno innescando una crisi della privacy più profonda nel promuovere l'intelligenza artificiale generativa. In precedenza, Meta era stata ampiamente criticata per aver richiesto agli utenti di autorizzare il caricamento completo delle foto degli album per "generare ispirazione per i post". Anche i suoi occhiali intelligenti sono spesso esposti a rischi di violazione della privacy. Il comportamento di Muse questa volta ha ulteriormente evidenziato che, in assenza di recinzioni tecniche e supervisione efficaci, la raccolta di dati sulla privacy personale da parte del sistema di intelligenza artificiale è quasi fuori controllo. Anche se gli utenti comuni scelgono di non utilizzare attivamente tali prodotti, esiste comunque il rischio di perdita passiva delle loro interazioni private con i contatti che installano il software. Al momento Meta non ha ancora fornito una spiegazione ragionevole su come Muse ignori le autorizzazioni sottostanti del sistema per leggere dati di terze parti.
Commenti