Imagine with Meta: il nuovo generatore di immagini basato sull’IA

Meta ha recentemente lanciato un nuovo strumento chiamato “Imagine with Meta“, un generatore di immagini basato sull’intelligenza artificiale (IA) che consente agli utenti di creare immagini descrivendole in linguaggio naturale. Questo strumento, simile a DALL-E di OpenAI, Midjourney e Stable Diffusion, sfrutta il modello di generazione di immagini Emu di Meta per creare immagini ad alta risoluzione da prompt testuali. Attualmente, l’utilizzo di Imagine with Meta è gratuito per gli utenti negli Stati Uniti e permette di generare quattro immagini per ogni prompt.

L’espansione di Imagine with Meta

Meta ha reso disponibile Imagine with Meta anche al di fuori delle chat, consentendo agli utenti di creare immagini gratuitamente direttamente dal web. In un post sul blog, Meta ha dichiarato:

“Abbiamo apprezzato molto sentire le persone raccontare come utilizzano Imagine, la funzione di generazione di immagini da testo di Meta AI, per creare contenuti divertenti e creativi nelle chat. Oggi, stiamo ampliando l’accesso a Imagine al di fuori delle chat. Mentre la nostra esperienza di messaggistica è progettata per interazioni più giocose e interattive, ora è possibile creare gratuitamente immagini anche sul web.”

Preoccupazioni sulla sicurezza e le salvaguardie di Imagine with Meta

Considerando i problemi che Meta ha avuto in passato con strumenti di generazione di immagini (come il generatore di adesivi AI con pregiudizi razziali), è legittimo chiedersi se ci siano provvedimenti per prevenire che si verifichino situazioni analoghe con Imagine with Meta. Non abbiamo avuto la possibilità di testare lo strumento prima del suo lancio, ma continueremo a seguirne attentamente l’evoluzione man mano che verrà utilizzato da un numero maggiore di utenti.

Meta ha annunciato che nelle prossime settimane inizierà ad aggiungere watermark ai contenuti generati da Imagine with Meta per aumentare la trasparenza e la tracciabilità. Attualmente, è già presente un watermark visibile sulle immagini generate. I watermark invisibili saranno generati con un modello di intelligenza artificiale e saranno rilevabili da un modello corrispondente, secondo quanto affermato da Meta. Non è ancora chiaro se il modello di rilevamento sarà reso pubblico in futuro.

Secondo Meta, i watermark saranno “resistenti a comuni manipolazioni delle immagini come ritaglio, ridimensionamento, cambio di colore (luminosità, contrasto, ecc.), screenshot, compressione delle immagini, rumore, sovrapposizioni di adesivi e altro ancora.” L’obiettivo di Meta è quello di introdurre il watermark invisibile in molti dei loro prodotti che utilizzano immagini generate dall’IA in futuro.

L’utilizzo dei watermark per le opere d’arte generative

L’utilizzo dei watermark per le opere d’arte generative non è una novità. La startup francese Imatag offre uno strumento di watermarking che sostiene di non essere influenzato da ridimensionamenti, ritagli, modifiche o compressione delle immagini. Un’altra azienda, Steg.AI, utilizza un modello di intelligenza artificiale per applicare watermark che sopravvivono a ridimensionamenti e altre modifiche. Anche Microsoft e Google hanno adottato standard e tecnologie di watermarking basati sull’IA. Inoltre, Shutterstock e Midjourney hanno concordato delle linee guida per incorporare marcatori che indicano che il contenuto è stato creato con uno strumento di IA generativo.

La pressione sui colossi tecnologici per rendere più chiara l’origine delle opere generate dall’IA sta aumentando, soprattutto alla luce della diffusione di Deepfake durante la guerra di Gaza e delle immagini di abusi sessuali su minori generate dall’IA che eludono i filtri.

Regolamentazioni sulla trasparenza dell’IA generativa

Di recente, l’Amministrazione Cinese per la Cybersicurezza ha emesso regolamentazioni che richiedono ai fornitori di IA generativa di contrassegnare i contenuti generati, inclusi testi e immagini, senza influire sull’utilizzo da parte degli utenti. Durante recenti audizioni presso il comitato del Senato degli Stati Uniti, il senatore Kyrsten Sinema (I-AZ) ha sottolineato la necessità di trasparenza nell’IA generativa, incluso l’utilizzo di watermark.