Deepfake politici: il boom digitale che minaccia le elezioni 2024

Lo studio del Center for Countering Digital Hate (CCDH) rivela un aumento del 130% al mese nella diffusione di disinformazione generata dall’intelligenza artificiale, in particolare deepfake relativi alle elezioni, su piattaforme come X (ex Twitter). Questo rappresenta una minaccia concreta per le elezioni presidenziali negli Stati Uniti e altri importanti eventi democratici del 2024, in un anno in cui miliardi di persone si recheranno alle urne in oltre 50 paesi. La disponibilità di strumenti di intelligenza artificiale gratuiti e facilmente accessibili, insieme a una moderazione inadeguata dei social media, sta contribuendo a una crescente crisi dei deepfake, mettendo alla prova anche le democrazie più solide.

Deepfakes abbondanti

Molto prima dello studio del CCDH, era ben noto che i deepfake generati dall’intelligenza artificiale stavano iniziando a raggiungere ogni angolo del web. Una ricerca citata dal World Economic Forum ha scoperto che i deepfake sono aumentati del 900% tra il 2019 e il 2020. Sumsub, una piattaforma di verifica dell’identità, ha osservato un aumento del 10 volte nel numero di deepfake dal 2022 al 2023.

Tuttavia, solo nell’ultimo anno circa i deepfake legati alle elezioni sono entrati nella coscienza comune, guidati dalla diffusa disponibilità di strumenti generativi di immagini e dai progressi tecnologici di questi strumenti che hanno reso la disinformazione sintetica sulle elezioni più convincente. In uno studio dell’Università di Waterloo del 2023 sulla percezione dei deepfake, solo il 61% delle persone è stato in grado di distinguere tra persone generate dall’intelligenza artificiale e persone reali.

Preoccupazione per la diffusione dei deepfake

Recenti sondaggi hanno rivelato che la maggioranza degli americani è preoccupata per la diffusione di deepfake video e audio fuorvianti, e che quasi il 60% degli adulti ritiene che gli strumenti di intelligenza artificiale contribuiranno ad aumentare la diffusione di informazioni false durante le elezioni presidenziali del 2024. Per quantificare l’aumento dei deepfake legati alle elezioni su X (ex Twitter), gli autori dello studio CCDH hanno analizzato le note della comunità e i fact-checks degli utenti, cercando parole chiave come “immagine”, “foto”, “AI” e “deepfake” in un database di note pubblicate tra febbraio 2023 e febbraio 2024.

Secondo lo studio, la maggior parte dei deepfake su X è stata creata utilizzando uno dei quattro generatori di immagini dell’intelligenza artificiale: Midjourney, DALL-E 3 di OpenAI, DreamStudio di Stability AI o Image Creator di Microsoft. Gli autori hanno condotto 160 test utilizzando prompt di testo a tema elettorale, scoprendo che i generatori hanno prodotto deepfake in quasi la metà dei casi (41%), nonostante le politiche specifiche contro la disinformazione elettorale.

Midjourney si è dimostrato il generatore più propenso a creare deepfake legati alle elezioni (65%), seguito da Image Creator (38%), DreamStudio (35%) e ChatGPT (28%), tutti in grado di generare immagini raffiguranti frodi e intimidazioni elettorali.