OpenAI introduce filigrane per le immagini DALL-E 3: ecco cosa cambia

OpenAI ha annunciato che il generatore di immagini DALL-E 3 aggiungerà delle filigrane ai metadati delle immagini. Questa nuova funzionalità è stata introdotta in conformità agli standard stabiliti dalla Coalition for Content Provenance and Authenticity (C2PA). Le filigrane generate da C2PA appariranno nelle immagini generate sul sito web ChatGPT e tramite l’API per il modello DALL-E 3. Gli utenti mobile potranno visualizzare le filigrane a partire dal 12 febbraio. Le filigrane saranno composte da un componente invisibile nei metadati e da un simbolo CR visibile nell’angolo in alto a sinistra di ogni immagine.

OpenAI ha sottolineato che le filigrane nei metadati delle immagini avranno un “effetto trascurabile sulla latenza e non influenzeranno la qualità della generazione delle immagini”. Tuttavia, potrebbero aumentare leggermente le dimensioni delle immagini per alcune operazioni.

Cos’è la C2PA

La C2PA è un consorzio composto da aziende come Adobe e Microsoft, che promuove l’uso della filigrana Content Credentials per identificare la provenienza dei contenuti e mostrare se sono stati creati da esseri umani o con l’ausilio dell’intelligenza artificiale. Adobe ha creato un simbolo Content Credentials, che OpenAI sta aggiungendo alle creazioni di DALL-E 3. Recentemente, Meta ha annunciato che aggiungerà etichette ai contenuti generati dall’intelligenza artificiale sulle sue piattaforme di social media.

L’identificazione dei contenuti generati dall’intelligenza artificiale è una delle direttive principali dell’ordine esecutivo sull’intelligenza artificiale dell’amministrazione Biden. Tuttavia, l’apposizione di filigrane non rappresenta un metodo infallibile per contrastare la diffusione di informazioni errate. OpenAI sottolinea che i metadati della C2PA possono essere “facilmente rimossi inavvertitamente o intenzionalmente”, soprattutto perché la maggior parte delle piattaforme di social media tende a rimuovere i metadati dai contenuti caricati. Inoltre, la creazione di uno screenshot esclude i metadati.

OpenAI afferma sul proprio sito web che “ritiene che l’adozione di questi metodi per stabilire la provenienza e incoraggiare gli utenti a riconoscere questi segnali sia fondamentale per aumentare l’affidabilità delle informazioni digitali”.

Come funzionano le nuove filigrane di DALL-E 3

Le nuove filigrane introdotte da OpenAI per DALL-E 3 saranno visibili sia nei metadati invisibili delle immagini che come simbolo CR nell’angolo in alto a sinistra di ogni immagine. Questo simbolo rappresenterà la filigrana Content Credentials sviluppata da Adobe.

Le filigrane saranno visibili sul sito web ChatGPT e tramite l’API per il modello DALL-E 3. Gli utenti mobile potranno visualizzare le filigrane a partire dal 12 febbraio.

Vantaggi e limitazioni delle filigrane di C2PA

L’aggiunta delle filigrane ai metadati delle immagini generate da DALL-E 3 offre diversi vantaggi. Innanzitutto, le filigrane consentono di verificare la provenienza delle immagini e di identificare il tool di intelligenza artificiale utilizzato per crearle. Ciò contribuisce a promuovere la trasparenza e la fiducia nell’informazione digitale.

Tuttavia, è importante sottolineare che le filigrane non sono un mezzo infallibile per contrastare la diffusione di informazioni errate. I metadati della C2PA possono essere rimossi facilmente, sia accidentalmente che intenzionalmente. Inoltre, molte piattaforme di social media tendono a rimuovere i metadati dai contenuti caricati. Pertanto, le filigrane potrebbero non essere presenti su tutte le immagini che vengono condivise online.

L’importanza dell’identificazione dei contenuti generati dall’intelligenza artificiale

L’identificazione dei contenuti generati dall’intelligenza artificiale è un tema di grande importanza, soprattutto considerando la diffusione sempre maggiore di informazioni false o fuorvianti. L’ordine esecutivo sull’intelligenza artificiale dell’amministrazione Biden pone particolare enfasi sull’importanza di identificare e distinguere i contenuti generati dall’uomo da quelli generati dall’intelligenza artificiale.

Le filigrane C2PA sono uno dei metodi proposti per affrontare questa sfida. Consentono agli utenti di verificare la provenienza dei contenuti e di riconoscere se sono stati generati da un algoritmo di intelligenza artificiale. Tuttavia, è fondamentale sviluppare ulteriori strumenti e metodi per garantire una corretta identificazione dei contenuti generati dall’intelligenza artificiale.