Come assicurare comportamenti etici nelle chat dei videogames: il caso ToxMod

Come assicurare comportamenti etici nelle chat dei videogames: il caso ToxMod

31/10/2022 0 By Redazione

I videogame non sono certo un fenomeno passeggero ma un settore sempre più amato e soprattutto in continua evoluzione, proprio come il mondo a cui appartiene, quello tecnologico. Questo particolare prodotto, infatti, si è sviluppato allo stesso passo di internet e continua a farlo anche adesso, con l’avvento della realtà virtuale e delle intelligenze artificiali. 

In un contesto in così rapido cambiamento, la sicurezza dei giocatori diventa un argomento di estrema importanza e non solo a livello di cybersecurity, la quale, volendo, è perfino apprendibile attraverso il videogioco Nabbovaldo, ma anche a livello di esperienza di gioco, ad esempio attraverso la chat, dove i classici sistemi di moderazione spesso non riescono a contenere litigi insulti e altre cose poco gradite. 

 A fronte di un tale scenario, nel tempo si sono venute a creare soluzioni atte a rendere la chat dei videogiochi (anche di quelli in VR) un luogo sicuro per tutti. Uno su tutti? Il servizio ToxMod. 

Videogame e sicurezza: il caso ToxMod 

La sicurezza nei videogiochi passa anche per la chat, questo lo sappiamo ormai tutti molto bene. Quando si gioca, infatti, ci si può far prendere dalla foga del momento e sfogare sulla chat, appunto, pensieri e parole che non diremmo altrimenti e, soprattutto, che possono ferire le persone all’altro capo del computer. Per questo, nel tempo, si sono sviluppati tutta una serie di sistemi di moderazione, di modo da individuare chi viola le norme di comportamento ed evitare che, di ciò, ne risentano gli altri giocatori. 

Chiaramente anche i sistemi di moderazione hanno subito sviluppi e miglioramenti, integrando le più innovative tecnologie di modo da migliorare le proprie prestazioni. È il caso di ToxMod, un nuovo servizio adottato dalle principali piattaforme di giochi online, come PokerStars, che nella sua versione VR lo utilizza per offrire ai propri giocatori un’esperienza completamente immersiva e sicura sotto tutti i punti di vista.

La principale particolarità di ToxMod è che per analizzare la chat vocale nei videogiochi e monitorarne così il comportamento sfrutta l’intelligenza artificiale, ma questa non è la sola qualità che il servizio possiede. Vediamo quindi come funziona ToxMod e quali sono le sue principali caratteristiche. 

Le principali caratteristiche di ToxMod

Per riuscire a svolgere una tale mole di lavoro (come quella del controllo delle chat) in tempo reale, il software ToxMod è stato progettato e realizzato tenendo conto di 6 caratteristiche fondamentali. Tali caratteristiche sono:

  • Voice-native
  • Intelligente
  • Sicuro
  • Plug&Play
  • Flessibile
  • Dettagliato

ToxMod è voice-native, ovvero progettato per comprendere tutte le sfumature della voce. Questo significa che il software è in grado di andare oltre la mera trascrizione considerando anche le emozioni, gli atti vocali, le risposte degli ascoltatori e molto altro ancora.

Inoltre, ToxMod è intelligente, perché è in grado di trasmettere al team le questioni più importanti con priorità elevata. E fa tutto questo mantenendo intatta la privacy dei giocatori, visto che tutti i dati degli utenti sono anonimizzati e protetti secondo gli standard ISO 27001. 

Altra caratteristica di ToxMod è la sua facilità di installazione (plug&play). Il software, infatti, viene fornito con una serie di plugin per diverse combinazioni di motore di gioco e infrastruttura vocale e l’integrazione, se svolta correttamente, può avvenire in meno di un giorno.

Questo software è poi anche flessibile, ovvero si limita a  fornire i rapporti, mentre è il team Trust & Safety a decidere, di fatto, quali azioni intraprendere per ogni danno rilevato. Infine, ToxMod è anche dettagliato, perché effettua anche un ulteriore resoconto minuzioso di tutti i partecipanti, così da capire cosa ha attirato la sua attenzione e chi, di preciso, ha dato l’impulso.

Come funziona ToxMod

Come anticipato, ToxMod è un software che permette una moderazione vocale del gioco di tipo proattivo. Si basa sul machine learning, ovvero la tecnologia di apprendimento automatico e gestisce le chat vocali per segnalare i comportamenti scorretti analizzando le sfumature di ogni conversazione per determinare la tossicità e, ovviamente, anche mantenendo alta la sicurezza e la privacy dei giocatori. Tale tecnologia permette ai moderatori di individuare e rispondere rapidamente a ogni possibile incidente.

Le principali attività di ToxMod sono 3:

  • Triage
  • Analisi
  • Valutazione

Nel Triage il software individua il grado di priorità dei dati delle chat vocali per determinare quali conversazioni meritano un’indagine e un’analisi: nell’analisi studia il tono, il contesto e l’intenzione percepita delle conversazioni filtrate utilizzando i suoi processi avanzati di apprendimento automatico e nella fase di valutazione, infine, evidenzia le chat vocali ritenute più tossiche e consente ai moderatori di intraprendere azioni efficienti per mitigare i comportamenti scorretti e costruire comunità più sane.