YouTube in dubbio: le foto dei Pixel 8 con AI vanno etichettate come sintetiche?

Google sta facendo passi da gigante verso il futuro dell’intelligenza artificiale. Questo significa che diverse parti dell’azienda sono destinate a scontrarsi tra loro. Ad esempio, l’utilizzo di AI per generare riassunti dei risultati di ricerca renderà la ricerca ancora più difficile. In generale, le divisioni di Google che si occupano della moderazione delle piattaforme (come YouTube e Search) si scontreranno con quelle che aiutano le persone a creare contenuti (come Gmail e Bard). Questo scontro porterà sicuramente a una serie di problemi interessanti.

Il caso di collisione tra Pixel 8 e YouTube

Questa settimana, la collisione tra Google AI e YouTube riguarda il Pixel 8, il cui miglioramento delle foto utilizza l’IA per permettere di scambiare espressioni facciali nelle foto di gruppo per ottenere scatti “perfetti”. Allo stesso tempo, YouTube ha appena introdotto la prima versione di una politica per il contenuto generato da AI, che richiede ai creatori di indicare quando hanno creato contenuti alterati o sintetici che appaiono realistici.

Nel post del blog, viene citato specificamente il contenuto che “rappresenta realisticamente un evento che non è mai accaduto” come necessitante di una etichetta, e vengono indicate le penalità per la mancata etichettatura coerente del contenuto sintetico realistico, che possono includere la rimozione del contenuto e la demonetizzazione.

Pixel 8 e le foto realistiche di eventi mai accaduti

Il Pixel 8 con la funzione Best Take e l’editor di immagini Magic in Google Photos può chiaramente generare foto realistiche di eventi che non sono mai accaduti. In particolare, Best Take consente di creare momenti tra le persone che non sono mai avvenuti, selezionando diverse espressioni facciali per loro, mentre Magic Editor può semplicemente rimuovere elementi dallo sfondo.

È facile far sembrare che le persone stiano guardando la stessa cosa, o cose diverse, o che reagiscano l’una all’altra in modi che non sono mai accaduti: una foto scattata con un Pixel 8 di Taylor Swift e Travis Kelce potrebbe raccontare una storia molto diversa dalla realtà. Lo stesso vale per una foto Best Take di Donald Trump durante le prossime elezioni. Gli annunci pubblicitari del Pixel 8 di Google sono un ottimo esempio di quanto sia facile, infatti.

Etichettatura delle foto Pixel 8 su YouTube

Quindi, le foto del Pixel 8 modificate con Best Take o le foto modificate con Magic Editor in Google Photos devono essere etichettate su YouTube? Abbiamo chiesto a Jack Malon, portavoce di YouTube, e ha detto che il contesto sarà importante e ha fornito alcune prime indicazioni.

“L’obiettivo di questo aggiornamento è aiutare lo spettatore a essere meglio informato sul contenuto che è realistico ma alterato, non punire i creatori che utilizzano l’IA“, ha detto. “Se stai usando Best Take per selezionare un’immagine in cui gli occhi di tutti sono aperti, è qualcosa che probabilmente avresti potuto fare da solo scattando più foto (e probabilmente non è qualcosa che devi dichiarare). Ma se stai usando la tecnologia per far sembrare di essere in un luogo in cui in realtà non eri, o stai alterando una foto di un evento storico, probabilmente dovrai dichiarare ai tuoi spettatori che hai utilizzato la tecnologia per modificare l’ambientazione”.

Questa sembra una risposta ragionevole, anche se “potrebbe essere successo se avessi semplicemente scattato più foto” è uno standard molto vago da cercare di far rispettare. Inoltre, questo standard è in netto contrasto con la decisione di YouTube di far etichettare sempre come contenuto sintetico il contenuto generato dai suoi strumenti AI generativi: le foto modificate con Magic Editor mostrano metadati che indicano che sono state modificate con l’IA, mentre le foto Best Take non lo fanno.