Google ha aperto a chiunque, in tutto il mondo, l’accesso a SynthID Detector, il sistema che permette di controllare se un’immagine, un video o un file audio è stata creata con un’AI e se presenta la filigrana SynthID.
Il portale non si limita ai contenuti con i modelli di Google: riconosce anche quelli prodotti con le tecnologie dei partner che hanno adottato lo standard, in particolare OpenAI, NVIDIA e Kakao (l’equivalente di WhatsApp della Corea del Sud), mentre Apple dovrebbe unirsi a breve.
Come funziona SynthID Detector e come usarlo
SynthID è una tecnologia sviluppata da Google DeepMind. Introdotta tre anni fa, applica automaticamente una sorta di filigrana, impercettibile all’occhio e all’orecchio umano, nel momento in cui un contenuto viene generato con un’AI. Nelle immagini e nei video questo watermark è distribuito nei pixel, mentre negli audio è incorporato nell’onda sonora, e permane anche quando il contenuto viene sottoposto ad operazioni comuni come la compressione, il ritaglio o l’applicazione di filtri.
Per usare il portale basta andare su synthid.com, accedere con un account Google, Apple oppure OpenAI e caricare il file da controllare. Il sistema analizza il contenuto e verifica se è presente il watermark e, quando il materiale è stato modificato anche solo in parte, indica quali porzioni mancano.
Quanto è efficace davvero SynthID?
Benché sia uno strumento utilissimo, SynthID ha dei limiti. Innanzitutto, la piattaforma riconosce solo i watermark delle AI che hanno adottato questo standard, quindi se un contenuto è stato creato con una Intelligenza Artificiale diversa non verrà segnalato, anche se completamente sintetico. Per questo se un risultato è negativo non significa necessariamente che sia stato creato da un essere umano, significa solo che la filigrana SynthID non è stata rilevata.
Un altro limite del sistema è che nessuna filigrana è infallibile: può essere aggirata o indebolita, in particolar modo quando si tratta di testi dove la quantità di informazione disponibile per nascondere il segnale è molto inferiore rispetto ai contenuti audio o video. Il valore di SynthID risiede quindi soprattutto nella diffusione: più sviluppatori adottano lo stesso standard, più alta è la quota di contenuti sintetici rintracciabili.
Come spiegato nelle FAQ del portale, “La definizione di standard a livello di settore richiede tempo e i diversi tipi di contenuti (immagini, audio, video) presentano requisiti tecnici diversi. L’obiettivo è un ecosistema articolato in più livelli in cui la filigranatura, gli standard relativi ai metadati e gli strumenti di verifica operino in sinergia in tutto il settore.”
