Twitter ha annunciato venerdì che concederà premi agli utenti e ai ricercatori che scoprono possibili pregiudizi, sessisti o razzisti ad esempio, negli algoritmi in esecuzione sulla sua piattaforma. Si tratta, secondo l’azienda, del primo concorso sul tema, con bonus che arrivano fino a 3.500 dollari.
L’idea è modellata sui concorsi offerti da alcuni siti Web per rilevare le falle di sicurezza. “È difficile scovare pregiudizi nei modelli di apprendimento automatico e talvolta le aziende scoprono di aver involontariamente violato l’etica quando è oramai troppo tardi – spiegano Rumman Chowdhury e Jutta Williams, due dirigenti dell’azienda. – vogliamo che le cose cambino“.
Nel modello sviluppato per rilevare le vulnerabilità della sicurezza, ricercatori e hacker hanno aiutato i responsabili della sicurezza IT a stabilire le migliori pratiche per identificare e gestire le vulnerabilità al fine di proteggere il pubblico. Twitter vuole sviluppare una comunità simile per rilevare i pregiudizi degli algoritmi.
Twitter ha presentato ad aprile i suoi lavori in corso per rendere più etici gli algoritmi che lavorano dietro le quinte della piattaforma, un modo per rispondere alle critiche sui pericoli associati a queste tecnologie. Il social network, poche settimane dopo, ha anche rinunciato a un algoritmo che ritaglia le foto, dopo aver scoperto che era notevolmente sbilanciato a favore dei bianchi.