L’intelligenza artificiale di Facebook ha difficoltà linguistiche a cancellare i post degli utenti

L’intelligenza artificiale di Facebook ha difficoltà linguistiche a cancellare i post degli utenti

Molti aspetti dei social sono controllati da algoritmi e da sistemi basati sull’intelligenza artificiale, il che è un bene fin quando riescono ad ottimizzare determinati processi ed a velocizzare il controllo dei contenuti pubblicati in piattaforma. Il problema, però, è che essendo delle macchine automatizzate molto spesso non riescono a distinguere efficacemente un post con contenuti ed intenzioni malevole da uno che semplicemente utilizza un termine sbagliato. Nello specifico, Facebook ha dimostrato non poche difficoltà nella moderazione di contenuti che provengono da determinati paesi, proprio perché i sistemi basati sull’intelligenza artificiale che se ne occupano non sono abbastanza evoluti da riconoscere e decifrare determinate lingue e la società non sembra sopperire a questo bug ingaggiando dei moderatori umani con le competenze mancanti. 

Il problema è che da un lato Facebook sta espandendo sempre più il proprio business in questi mercati mentre, dall’altro, non è in grado di analizzare correttamente i contenuti e, come conseguenza, si stanno creando sempre più punti ciechi all’interno dei quali gli utenti utilizzano la piattaforma in maniera scorretta. Si incrementano quei post che hanno l’obiettivo di incitare all’odio ed alla violenza ma, cosa più grave, si sviluppano commerci illegali. Secondo il Wall Street Journal, alcuni dipendenti di Facebook sarebbero a conoscenza del fatto che diversi utenti utilizzano la piattaforma per vendere droga online e stanno cercando delle soluzioni ma, al momento, Facebook si è occupato di rimuovere i post incriminati solo dopo che questi avessero attirato l’attenzione di un vasto pubblico, senza correggere i sistemi automatizzati che hanno consentito la pubblicazione di quel tipo di contenuti.

Comunque, l’organizzazione americana Alliance to Counter Crime Online (ACCO) è già da tempo che si è accorta di questo problema di Facebook con le lingue e si è occupata di segnalarlo con appositi report; a tal proposito, l’organizzazione ha dichiarato: “I nostri ricercatori hanno trovato post in lingua araba che vendono antichità saccheggiate e post in lingua vietnamita che propongono animali selvatici” e ancora “Fino a quando Facebook non investirà nell’assunzione di moderatori di contenuti che parlino lingue diverse dall’inglese, continueremo a vedere un gran numero di crimini”.

Facebook è molto chiaro nello spiegare ai propri utenti come funziona il proprio algoritmo, come raccoglie i loro dati e come li utilizza, ma dovrebbe investire di più in moderatori locali che siano in grado di decifrare i diversi linguaggi per garantire un maggiore controllo di ciò che succede sulla piattaforma.