Come l’Oversight Board di Meta affronta le immagini sessuali dell’IA

L’Oversight Board di Meta si trova nuovamente ad affrontare le regole del social network riguardo al contenuto generato dall’intelligenza artificiale. Il consiglio ha accettato due casi che riguardano immagini esplicite di personaggi pubblici generati dall’IA.

I casi riguardano immagini esplicite di due personaggi pubblici

Meta ha regole che vietano la nudità su Facebook e Instagram. Tuttavia, l’Oversight Board ha dichiarato in una nota che si vuole verificare se “le politiche di Meta e le sue pratiche di applicazione siano efficaci nel contrastare le immagini esplicite generate dall’IA“. Le immagini generate dall’IA di celebrità femminili, politici e altri personaggi pubblici sono diventate una forma sempre più prominente di molestia online e hanno suscitato una serie di proposte di regolamentazione. Con questi due casi, l’Oversight Board potrebbe spingere Meta a adottare nuove regole per affrontare tali molestie sulla sua piattaforma.

L’Oversight Board ha dichiarato che non rivelerà i nomi dei due personaggi pubblici coinvolti nei casi, al fine di evitare ulteriori molestie, sebbene abbia descritto le circostanze attorno a ciascun post.

Il primo caso riguarda un post su Instagram

Il primo caso riguarda un post su Instagram che mostrava un‘immagine generata dall’IA di una donna indiana nuda. Il post era stato pubblicato da un account che “condivide solo immagini generate dall’IA di donne indiane”. Il post era stato segnalato a Meta, ma la segnalazione era stata chiusa dopo 48 ore senza essere esaminata. Lo stesso utente aveva presentato ricorso contro questa decisione, ma anche il ricorso era stato chiuso senza essere esaminato. Meta ha infine rimosso il post dopo che l’utente ha presentato ricorso all’Oversight Board e il consiglio ha accettato di prendere in considerazione il caso.

Il secondo caso riguarda un post su Facebook

Il secondo caso riguarda un post su Facebook in un gruppo dedicato all’arte generata dall’IA. Il post in questione mostrava “un’immagine generata dall’IA di una donna nuda con un uomo che le palpeggia il seno”. La donna doveva assomigliare a “una figura pubblica americana” il cui nome era anche presente nella didascalia del post. Il post è stato rimosso automaticamente perché era stato segnalato in precedenza e i sistemi interni di Meta sono stati in grado di associarlo al post precedente. L’utente ha presentato ricorso contro la decisione di rimuoverlo, ma il ricorso è stato “chiuso automaticamente”. L’utente ha quindi presentato ricorso all’Oversight Board, che ha accettato di considerare il caso.

L’obiettivo dell’Oversight Board e il coinvolgimento di Meta

In una dichiarazione, la co-presidente dell’Oversight Board, Helle Thorning-Schmidt, ha affermato che il consiglio ha affrontato i due casi provenienti da paesi diversi al fine di valutare le eventuali disparità nell’applicazione delle politiche di Meta. “Sappiamo che Meta è più rapida ed efficace nel moderare i contenuti in alcuni mercati e lingue rispetto ad altri“, ha detto Thorning-Schmidt. “Prendendo un caso dagli Stati Uniti e uno dall’India, vogliamo verificare se Meta sta proteggendo tutte le donne nel mondo in modo equo“.

L’Oversight Board sta ora chiedendo commenti pubblici per le prossime due settimane e pubblicherà la sua decisione a breve, insieme a raccomandazioni di politica per Meta. Un processo simile che coinvolge un video fuorviante di Joe Biden ha recentemente portato a Meta a impegnarsi a etichettare più contenuti generati dall’IA sulla sua piattaforma.