Riassunto:
Secondo un rapporto di analisi inversa pubblicato dal ricercatore di sicurezza Xusheng Li, Microsoft aggiungerà filigrane cieche invisibili alle immagini generate dall'intelligenza artificiale nelle applicazioni Paint e Photo/Album. L'identificatore utilizzato dalla filigrana cieca proviene dai server Microsoft e questo meccanismo è completamente indipendente dalla filigrana Microsoft Copilot che gli utenti possono attivare/disattivare da soli, quindi gli utenti non possono disattivare completamente la filigrana cieca.
La generazione locale di immagini su PC AI richiede ancora una connessione ai server Microsoft:
La ricerca ha rilevato che, sebbene la funzione di creazione di Paint l'applicazione può utilizzare AI PC. Un modello di diffusione stabile locale genera immagini, ma l'intero processo non è completamente offline. Prima di iniziare la generazione, l'applicazione Paint invierà le parole del prompt e lo stile selezionato compilati dall'utente al server Microsoft per la revisione. Il server restituirà quindi le parole del prompt modificate, l'ID di generazione della parola del prompt e l'ID della filigrana, quindi l'immagine verrà generata localmente sul computer tramite l'unità NPU.
Dopo che l'immagine è stata generata, l'applicazione Paint chiamerà il controllo della filigrana cieca per scrivere i parametri relativi alla filigrana cieca da 16 byte restituiti dal server nei pixel dell'immagine. La stessa filigrana cieca è invisibile a occhio nudo, ma Microsoft può identificare se l'immagine è stata generata dall'applicazione Paint attraverso determinati meccanismi di rilevamento.
Gli identificatori GUID vengono scritti direttamente sui pixel dell'immagine:
L'analisi inversa mostra che il meccanismo della filigrana cieca 16 Il GUID byte è stato espanso a dati a 144 bit e quindi incorporato apportando lievi modifiche a più blocchi dell'immagine. I ricercatori hanno utilizzato un'immagine da 512x512 pixel per i test. Dopo che Microsoft ha aggiunto una filigrana cieca, più di 190.000 pixel sono leggermente cambiati.
Ciò che è più degno di nota è che nell'applicazione di disegno, se il meccanismo della filigrana cieca non viene scritto, l'attività di generazione dell'immagine dell'intelligenza artificiale verrà considerata direttamente come un fallimento, invece di restituire un'immagine senza filigrana. Si può vedere che Microsoft considera questo processo come un collegamento necessario nella generazione dell'intelligenza artificiale e nessuna immagine verrà generata a meno che il segno della filigrana cieca non venga completato.
Screenshot/ritagli, ecc. non influiscono sul riconoscimento di Microsoft:
Oltre a modificare i pixel, l'applicazione Paint aggiungerà all'immagine anche il certificato di contenuto C2PA a livello di settore. Dopo aver controllato il file PNG effettivamente generato, i ricercatori hanno scoperto che l'elenco C2PA non solo contrassegnava chiaramente l'immagine come generata dall'intelligenza artificiale, ma registrava anche le informazioni sulla filigrana cieca di Microsoft InvisMark.
Il valore della filigrana salvato è esattamente lo stesso dell'ID della filigrana cieca precedentemente restituito dal server e effettivamente scritto sui pixel dell'immagine, il che significa che Microsoft sta effettivamente utilizzando due livelli di prova dell'origine: metadati C2PA + filigrana invisibile nascosta nei pixel dell'immagine. Pertanto, anche se gli utenti eliminano i metadati C2PA tramite determinati strumenti, Microsoft può comunque identificare la filigrana tramite i pixel. Ad esempio, semplici screenshot, ritagli, ecc. non possono distruggere completamente la filigrana nascosta.
Inoltre, le funzioni di generazione di immagini AI e di conversione dello stile nell'applicazione Foto/Album di Microsoft utilizzano anche il meccanismo della filigrana cieca. Alcune differenze sono: se l'applicazione Paint non riesce a scrivere la filigrana, interromperà direttamente la generazione dell'immagine, mentre l'applicazione Album registrerà l'errore e continuerà a restituire i risultati generati.
Commenti