Bumble lancia Deception Detector per fermare truffe e fake

Bumble, la popolare app di incontri, ha annunciato oggi il lancio di una nuova funzionalità basata sull’intelligenza artificiale che mira a identificare spam, truffe e profili falsi. Questo nuovo strumento, chiamato Deception Detector, ha l’obiettivo di agire sul contenuto dannoso prima ancora che gli utenti di Bumble lo incontrino.

Riduzione del numero di account scam e profili falsi

Durante i test, Bumble ha scoperto che Deception Detector è stato in grado di bloccare automaticamente il 95% degli account identificati come spam o truffe. Nei primi due mesi di test, Bumble ha registrato una riduzione del 45% delle segnalazioni di spam, truffe e account falsi da parte degli utenti. Questo strumento opera in collaborazione con il team di moderazione umana di Bumble.

Secondo una ricerca interna condotta da Bumble, i profili falsi e il rischio di truffe sono le principali preoccupazioni degli utenti quando si tratta di app di incontri online. La ricerca ha inoltre evidenziato che il 46% delle donne ha manifestato ansia riguardo all’autenticità dei loro match online su queste app.

Un’impegno per la sicurezza degli utenti

Lidiane Jones, CEO di Bumble, ha affermato: “Bumble Inc. è stata fondata con l’obiettivo di costruire relazioni eque e di dare potere alle donne per fare il primo passo, e Deception Detector è la nostra ultima innovazione nell’ambito del nostro impegno per la comunità, al fine di garantire che i collegamenti effettuati sulle nostre app siano autentici. Con un focus dedicato all’esperienza delle donne online, riconosciamo che nell’era dell’AI, la fiducia è più importante che mai.”

Secondo il Federal Trade Commission (FTC), le truffe romantiche hanno causato perdite per un totale di 1,3 miliardi di dollari nel 2022, con una perdita media di 4.400 dollari per persona. Il rapporto afferma che, sebbene gli scammers romantici utilizzino spesso app di incontri per individuare le loro vittime, è più comune che le persone vengano contattate tramite messaggi diretti su piattaforme di social media. Ad esempio, il 40% delle persone che hanno perso denaro a causa di una truffa romantica ha dichiarato che il contatto è iniziato sui social media, mentre il 19% ha affermato che è iniziato su un sito web o un’app.

Ulteriori misure per rendere l’app più sicura

Deception Detector è solo l’ultima funzionalità basata sull’AI introdotta da Bumble per rendere l’app più sicura. Nel 2019, Bumble ha introdotto una funzionalità chiamata “Private Detector” che automaticamente sfoca le immagini di nudo e le contrassegna come tali nelle chat, permettendo agli utenti di visualizzare l’immagine o segnalare l’utente.

Bumble sta inoltre utilizzando l’AI anche nell’app Bumble For Friends, dedicata alla ricerca di amici. Recentemente, l’app ha lanciato suggerimenti per rompighiaccio basati sull’AI, che aiutano gli utenti a scrivere e inviare un primo messaggio basato sul profilo dell’altra persona. È possibile modificare la domanda o chiedere un altro suggerimento, ma viene consentito di utilizzare solo un rompighiaccio generato dall’AI per chat.

Entrambi gli strumenti, Private Detector e Deception Detector, sono disponibili sia su Bumble che su Bumble For Friends.