Che cos’è FraudGPT? Come proteggersi da questo pericoloso chatbot

L’ascesa dell’intelligenza artificiale (AI) è un’arma a doppio taglio. Come ogni tecnologia trasformativa, l’IA offre un immenso potenziale ma anche enormi rischi. Nonostante l’enfatica spinta a regolamentare l’IA, i cybercriminali sembrano aver preso il sopravvento.

Un nuovo strumento in stile ChatGPT, FraudGPT, sta guadagnando terreno tra i criminali informatici, consentendo loro di automatizzare ed eseguire meglio gran parte delle operazioni di frode. Chiunque può diventare una vittima, quindi è importante rimanere informati. Ecco tutto quello che sappiamo su FraudGPT.

Che cos’è il FraudGPT?

FraudGPT è un’intelligenza artificiale che usa un potente modello linguistico di grandi dimensioni per facilitare i cyber criminali nelle loro operazioni illecite. Con un abbonamento a questo strumento, i criminali possono creare e gestire campagne di frode online, come il furto di carte di credito, l’invio di email di phishing e la produzione di software dannosi.

Lo strumento è stato scoperto da Netenrich, una società specializzata in sicurezza informatica, che ha trovato vari annunci sul dark web che lo offrivano. Secondo il loro rapporto di ricerca, lo strumento ha un costo che va da 200 dollari al mese a 1.700 dollari all’anno.

Per inquadrare meglio lo strumento, si può pensare a FraudGPT come a ChatGPT ma per le frodi.

Come funziona FraudGPT?

Nella sua essenza, FraudGPT è un’intelligenza artificiale che sfrutta un modello linguistico avanzato per aiutare i cyber criminali a perpetrare reati informatici. Lo strumento è una piattaforma interattiva che permette ai criminali di accedere a un modello linguistico speciale, adattato per creare e gestire campagne di frode online.

Non hai ancora capito? Ecco un’idea approssimativa di ciò di cui stiamo parlando. Nei primi giorni del lancio di ChatGPT, il chatbot AI poteva essere utilizzato per fare praticamente qualsiasi cosa, compreso aiutare i criminali informatici a creare malware. Ciò è stato possibile perché il modello linguistico sottostante a ChatGPT è stato addestrato su un set di dati che probabilmente conteneva campioni di un’ampia gamma di dati, compresi quelli che potevano aiutare un’impresa criminale.

I modelli linguistici di grandi dimensioni vengono in genere alimentati con tutto ciò che è buono, come le teorie scientifiche, le informazioni sulla salute e la politica, e con ciò che non è buono, come i campioni di codice malware, i messaggi delle campagne di carding e phishing e altro materiale criminale. Quando si ha a che fare con il tipo di insiemi di dati necessari per addestrare modelli linguistici come quello che alimenta ChatGPT, è quasi inevitabile che il modello contenga campioni di materiale indesiderato.

Perché ChatGPT contiene materiale indesiderato tra i suoi dati di addestramento?

Nonostante gli sforzi meticolosi per eliminare i materiali indesiderati dal set di dati, alcuni sfuggono, e di solito sono ancora sufficienti per dare al modello la capacità di generare materiali per facilitare la criminalità informatica. Per questo motivo, con la giusta ingegnerizzazione, è possibile ottenere strumenti come ChatGPT, Google Bard e Bing Chat per aiutarti a scrivere email di truffa o malware per computer.

Se strumenti come ChatGPT possono aiutare i criminali informatici a commettere crimini nonostante tutti gli sforzi per rendere questi chatbot AI sicuri, ora pensate alla potenza che potrebbe portare uno strumento come FraudGPT, considerando che è stato specificamente messo a punto su materiali dannosi per renderlo adatto alla criminalità informatica. È come il gemello malvagio di ChatGPT con gli steroidi.

Quindi, per utilizzare lo strumento, i criminali potrebbero semplicemente rivolgersi al chatbot come farebbero con ChatGPT. Potrebbero chiedergli, ad esempio, di scrivere un’email di phishing per la sconosciuta, che lavora presso l’azienda A, o magari di scrivere un malware in C++ per rubare tutti i file PDF da un computer Windows 10. I criminali, in pratica, non fanno altro che proporre una meccanizzazione malvagia e lasciare che il chatbot faccia il lavoro sporco.

Come proteggersi da FraudGPT?

Nonostante si tratti di un nuovo tipo di strumento, la minaccia rappresentata da FraudGPT non è fondamentalmente diversa. Si potrebbe dire che introduce maggiore automazione ed efficienza a metodi già consolidati di esecuzione del crimine informatico.

I criminali che utilizzano lo strumento sarebbero in grado, almeno teoricamente, di scrivere email di phishing più convincenti, di pianificare meglio le truffe e di creare malware più efficaci, ma per lo più continuerebbero a fare affidamento sui metodi consolidati di esecuzione dei loro piani nefasti. Di conseguenza, i metodi consolidati per proteggersi sono ancora validi:

• Diffida dei messaggi non richiesti che ti chiedono informazioni o ti invitano a cliccare su link. Non fornire informazioni o cliccare su link in questi messaggi se non verifichi la fonte.
• Contatta direttamente le aziende utilizzando un numero indipendente e verificato per verificarne la legittimità. Non utilizzate le informazioni di contatto fornite nei messaggi sospetti.
• Utilizza password forti e uniche, difficili da decifrare, e adotta l’autenticazione a due fattori, se disponibile, per tutti gli account. Non condividere mai le password o i codici che ti vengono inviati.
• Controlla regolarmente gli estratti conto per individuare eventuali attività sospette.
• Tieni aggiornato il software e utilizza strumenti antivirus o anti-malware.
• Elimina i documenti contenenti informazioni finanziarie o di identificazione personale quando non sono più necessari.

Rimanere informati per proteggersi

L’emergere di strumenti come FraudGPT ci ricorda che, nonostante tutto ciò che di buono l’IA può fare per noi, essa rappresenta ancora uno strumento molto potente nelle mani di malintenzionati.

Mentre i governi e le grandi aziende che si occupano di IA si lanciano in una frenetica corsa all’adozione di metodi migliori per regolamentare l’IA, è importante essere consapevoli della minaccia che l’IA rappresenta attualmente e prendere le precauzioni necessarie per proteggersi.