Riassunto:
Con la rapida proliferazione di contenuti generativi di intelligenza artificiale su Internet, sta diventando sempre più importante identificare l'autenticità dei contenuti digitali. Google ha lanciato ufficialmente un sito Web di rilevamento SynthID aperto al pubblico il 7 ottobre, consentendo a qualsiasi utente di caricare immagini, video o file audio per verificare se sono stati generati o modificati dall'intelligenza artificiale.
In effetti, questo strumento non è al debutto. Google ha aperto la versione di prova ad alcuni giornalisti, organizzazioni dei media e ricercatori già alla I/O Developer Conference dello scorso anno, e ora è ufficialmente aperta agli utenti di tutto il mondo, nella speranza di migliorare la capacità del pubblico di identificare i contenuti AI.
SynthID, lanciato inizialmente nel 2023, è un insieme di tecnologie di filigrana digitale sviluppate da Google. A differenza delle tradizionali filigrane visibili, SynthID incorpora segni nascosti impercettibili a occhio nudo e orecchio durante la generazione di contenuti, in modo che il contenuto non venga influenzato durante il normale utilizzo e possa essere identificato nei rilevamenti successivi.
Al momento, molti modelli e servizi di intelligenza artificiale di Google hanno adottato questa tecnologia, tra cui il modello di immagine Nano Banana, il modello video Veo, il modello audio Lyria e piattaforme con funzioni di generazione di contenuti come Gemini, Flow, ProducerAI e Vids. Tutti i contenuti multimediali generati tramite questi strumenti incorporeranno automaticamente filigrane digitali SynthID.
La piattaforma di rilevamento lanciata questa volta supporta un'ampia gamma di formati di file. Per le immagini, supporta JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF e GIF; per i video supporta MP4, MOV e WEBM; per l'audio, supporta i formati tradizionali come WAV, MP3, OGG, FLAC, AAC e M4A.
Oltre all'ecosistema di Google, SynthID si sta gradualmente trasformando in uno standard intersettoriale. OpenAI, Nvidia e la società Internet coreana Kakao supportano già questa tecnologia e si dice che Apple si unirà al campo di supporto in futuro. Ciò significa che in futuro gli utenti non solo saranno in grado di identificare i contenuti generati dall'intelligenza artificiale di Google, ma anche di rilevare file multimediali di altri sistemi partner.
Google ha dichiarato che il servizio di rilevamento aggiornato è già in grado di identificare le filigrane digitali dei partner e non è più limitato ai contenuti generati dal modello di Google. Allo stesso tempo, OpenAI mantiene anche la propria piattaforma di rilevamento dei contenuti per fornire agli utenti canali di verifica indipendenti.
Oltre ai siti web autonomi, Google ha integrato funzionalità di rilevamento SynthID nell'app Gemini e nel browser Chrome. Secondo i dati divulgati ufficialmente, il numero di richieste di verifica dei contenuti avviate ogni giorno dagli utenti attraverso questi canali ha raggiunto circa 1 milione, dimostrando che la richiesta del pubblico di identificare l'autenticità dei contenuti AI è in rapida crescita.
Tuttavia, Google ammette anche che l'attuale tecnologia di rilevamento dei contenuti basata sull'intelligenza artificiale non è infallibile. Le soluzioni di filigrana digitale possono identificare solo i contenuti generati utilizzando standard pertinenti e potrebbero non essere in grado di rilevare opere di intelligenza artificiale che non utilizzano SynthID o altri standard compatibili. Inoltre, diverse aziende utilizzano ancora sistemi di marcatura e verifica diversi e il settore non ha ancora formato uno standard unificato.
Allo stesso tempo, anche aziende tecnologiche come Microsoft e Meta stanno sviluppando le proprie soluzioni di filigrana digitale e verifica dei contenuti. Tuttavia, nel settore si ritiene generalmente che gli strumenti di rilevamento, siano essi lanciati da Google o da altri produttori, presentino ancora alcune limitazioni. In alcuni casi, non riescono nemmeno a identificare con precisione i contenuti generati dai propri modelli.
Tuttavia, poiché la quantità di contenuti generati dall'intelligenza artificiale continua ad aumentare, inclusi video deepfake, immagini AI e contenuti di sintesi vocale che diventano sempre più comuni, l'apertura al pubblico della piattaforma SynthID da parte di Google è vista come un passo importante per l'industria tecnologica per migliorare la trasparenza dei contenuti e combattere le false informazioni. In futuro, man mano che sempre più aziende aderiranno all’ecosistema unificato della filigrana digitale, gli utenti di Internet potrebbero disporre di strumenti più affidabili per determinare la vera fonte dei contenuti online.
Commenti