Cos’è SynthID di Google per le immagini AI

Finalmente è pronto per essere testato il tool di Google che riconosce le immagini generate dall’AI e lo fa grazie ad una filigrana impercettibile all’occhio umano. Stiamo parlando di SynthID, vediamo nel dettaglio cos’è e come funziona lo strumento di Google per le immagini AI.

Cos’è SynthID

Per affrontare al meglio le sfide che ogni giorno vengono poste dai contenuti generati dall’AI, in collaborazione con Google Cloud, la divisione di ricerca sull’intelligenza artificiale, Google ha sviluppato SynthID.

Si tratta di uno strumento che è stato progettato per identificare le immagini generate dall’intelligenza artificiale. Attualmente è disponibile in versione beta per alcuni utenti di Vertex AI, la piattaforma targata Google con la quale è possibile creare app e modelli di AI.

SynthID, però, supporta esclusivamente Imagen, ovvero il modello text-to-image di Google. Questo strumento è stato lanciato anche per contrastare la disinformazione ed i deep fake perché fornisce un metodo per distinguere i contenuti che vengono generati dall’AI dalle immagini autentiche.

Come funziona SynthID di Google per le immagini AI

SynthID funziona attraverso l’incorporamento di una filigrana impercettibile all’occhio umano anche se è facilmente identificabile da un algoritmo. Parliamo di una specifica tecnica di watermarking che va oltre l’idea iniziale di utilizzare metadati per riuscire a segnalare i media visivi creati dall’intelligenza artificiale.

SynthID è stato prima sviluppato e poi perfezionato in collaborazione con Google Research e combina due modelli di AI: uno per l’identificazione ed uno per la filigrana. Entrambi, invece, sono stati programmati su un diverso set di immagini.

Per quanto riguarda l’efficacia di questo strumento, non è in alcun modo intaccata da filtri, compressioni o cambi di colore ma comunica direttamente all’utente la probabilità che l’immagine selezionata sia stata generata dall’intelligenza artificiale e restituisce uno di questi tre risultati: Digital watermark detected, Digital watermark NOT detected o Digital watermark POSSIBLY detected.

Quali sono gli obiettivi di SynthID

Nonostante non sia ancora del tutto perfetto, questi strumenti si pone l’obiettivo di consentire ad organizzazioni e persone di lavorare responsabilmente con l’intelligenza artificiale. Inoltre, in futuro potrebbe anche decidere di evolversi, adattandosi anche a file audio, video e testo.

Come abbiamo detto, attualmente è in grado di lavorare soltanto con Imagen di Google, ma gli sviluppatori di SynthID hanno già dichiarato di voler estendere anche a terze parti la sua disponibilità.

Si tratterebbe comunque di un passaggio che comporterebbe delle implicazioni significative per i generatori di immagini AI open source, ma che fornirà uno standard del tutto nuovo per il rilevamento dei contenuti generati dall’IA.