Negli ultimi anni, l’uso dell’intelligenza artificiale ha suscitato preoccupazione per il suo potenziale manipolativo e manipolatore. In particolare, si è temuto che l’IA possa essere utilizzata per ingannare gli elettori in occasione delle elezioni. In risposta a questa preoccupazione, Meta, l’azienda proprietaria di Instagram e Facebook, ha annunciato la formazione di un team dedicato a contrastare i contenuti fraudolenti generati dall’IA nelle prossime elezioni europee.
L’uso dell’IA per ingannare gli elettori
L’IA generativa è una tecnologia che consente di creare contenuti come video, immagini e audio falsi, molto difficili da distinguere da quelli reali. Questo ha sollevato preoccupazioni sul fatto che l’IA possa essere utilizzata per diffondere informazioni false e manipolare l’opinione pubblica durante le campagne elettorali.
James Cleverly, il Segretario di Stato per gli Affari Interni del Regno Unito, ha recentemente dichiarato che alcune persone potrebbero utilizzare video falsi generati dall’IA per influenzare le elezioni generali. Questa dichiarazione ha sollevato ulteriori preoccupazioni sulla sicurezza delle elezioni e sulla necessità di prendere misure preventive per contrastare l’uso fraudolento dell’IA.
Meta forma un team per affrontare la minaccia
In risposta a queste preoccupazioni, Meta ha annunciato la formazione di un team dedicato a contrastare i contenuti generati dall’IA nelle elezioni europee che si terranno a giugno. L’azienda è preoccupata per il potenziale utilizzo dell’IA generativa per ingannare gli elettori e minare l’integrità del processo elettorale.
Secondo Marco Pancini, responsabile degli affari europei di Meta, l’azienda lancerà un “Centro Operazioni Elettorali specifico per l’UE” che si occuperà di identificare le potenziali minacce e di mettere in atto specifiche misure di mitigazione in tempo reale attraverso le sue app e tecnologie. Meta intende utilizzare le competenze di esperti provenienti da diverse aree aziendali, tra cui ingegneria, scienze dei dati e legge, per affrontare questa sfida.
Le limitazioni dell’approccio di Meta
Nonostante l’impegno di Meta nel contrastare i contenuti generati dall’IA nelle elezioni, alcuni esperti ritengono che le misure annunciate dall’azienda possano essere insufficienti. Deepak Padmanabhan, dell’Università di Belfast, ha dichiarato che la strategia di Meta potrebbe essere considerata “carente di efficacia“.
Uno dei problemi sollevati riguarda il modo in cui l’azienda intende affrontare le immagini generate dall’IA, che potrebbero essere molto realistiche e difficili da distinguere da quelle reali. Padmanabhan ha sottolineato che può essere estremamente complesso determinare se un’immagine generata dall’IA è falsa o reale, soprattutto se mostra eventi come scontri tra manifestanti e polizia.
La collaborazione tra Meta e altre organizzazioni
Meta ha sottolineato l’importanza della collaborazione con altre aziende del settore per contrastare l’uso fraudolento dell’IA nelle elezioni. L’azienda ha sottolineato che il problema dell’IA generata è più ampio di una singola azienda e richiede un impegno congiunto di industria, governo e società civile. Meta ha anche firmato un accordo con altre importanti aziende tecnologiche per combattere i contenuti generati dall’IA. Questo impegno congiunto riflette la consapevolezza degli attori del settore riguardo alla gravità della minaccia rappresentata dall’uso fraudolento dell’IA nelle elezioni.
Il ruolo delle organizzazioni di fact-checking
Meta ha anche sottolineato l’importanza delle organizzazioni di fact-checking nel contrastare la diffusione di contenuti falsi generati dall’IA. Attualmente, Meta collabora con 26 organizzazioni di fact-checking in tutta l’Unione Europea e prevede di coinvolgere ulteriori tre partner per affrontare la minaccia. Queste organizzazioni non si occupano di contenuti volti a sopprimere il voto, che sono vietati, ma si concentrano piuttosto nel smentire contenuti che diffondono informazioni errate, anche se includono elementi generati dall’IA. Meta ha dichiarato che questi contenuti saranno contrassegnati come potenzialmente falsi e riceveranno una minore visibilità, oltre a essere vietati negli annunci pubblicitari.