Con l’aumento della frequenza e della complessità degli n nel 2023, è emerso un ambiente favorevole alla proliferazione delle minacce informatiche. Grazie ai progressi dell’intelligenza artificiale generativa, gli strumenti e le tecnologie di hacking di ultima generazione sono ora più accessibili che mai, rendendo necessario adottare misure preventive per proteggere gli asset digitali delle organizzazioni.
5 trend di Cybersecurity 2024
Mentre ci avviciniamo al 2024, la superficie di attacco si espanderà ulteriormente e le minacce diventeranno sempre più sfuggenti. Considerando la crescente potenza e accessibilità degli strumenti basati sull’intelligenza artificiale e sui modelli di linguaggio di grandi dimensioni (LLM), sarà fondamentale essere sempre un passo avanti agli hacker e conoscere le tattiche da aspettarsi nell’anno a venire.
1. Cybersecurity 2024: chatbot personalizzati simili a ChatGPT: creare attacchi di ingegneria sociale convincenti
I ChatGPT personalizzati di OpenAI sono esempi perfetti di nuovi strumenti potenti che gli hacker sfrutteranno nel 2024. Grazie alla loro facilità d’uso, possono essere utilizzati da persone con competenze tecniche molto più limitate per progettare e lanciare attacchi di manipolazione sociale estremamente convincenti.
Immagina uno scenario in cui un hacker utilizza del testo generato da ChatGPT per mascherarsi da dirigente o capo di un dipartimento. Inviano dipendenti ignari a un’app simile a WhatsApp, in cui avranno una conversazione con il loro “manager” GPT, convincendoli a trasferire fondi o condividere dati sensibili.
In modo simile, i servizi di intelligenza artificiale generativa possono essere utilizzati per indirizzare le vittime in conversazioni con un “servizio di assistenza” o un “rappresentante IT” alimentato da GPT. Questi attacchi ingannevoli sono diventati sempre più comuni nelle aziende e aumenteranno con l’avvento di nuovi strumenti e funzionalità di intelligenza artificiale generativa. Fidarsi esclusivamente della consapevolezza dei dipendenti non è sufficiente per identificare tali minacce e prevenirle. Pertanto, è fondamentale dare priorità a protocolli di sicurezza robusti.
2. Cybersecurity 2024: app SaaS come vettori di attacco
Nel 2024, i criminali informatici continueranno a sfruttare le moderne app SaaS, incorporando payload dannosi nel cloud e approfittando delle falle di sicurezza meno evidenti. Alla luce della pandemia e della diffusione dei modelli di lavoro da remoto, queste tattiche oscure continuano a sfuggire all’attenzione e a mettere in crisi le difese delle organizzazioni.
Proprio quest’estate, gli hacker hanno utilizzato un programma open-source dannoso noto come TeamsPhisher per inviare esche di phishing a utenti ignari tramite Microsoft Teams, per perpetrare successivi attacchi informatici, tra cui attacchi ransomware. Ciò sottolinea l’importanza delle applicazioni SaaS come complici inconsapevoli degli attori delle minacce. Le organizzazioni dovrebbero aspettarsi la continuazione di questa modalità di attacco come un formidabile fronte di cyber-attacco e rafforzare di conseguenza le loro strutture di sicurezza.
3. Automazione basata sull’IA nelle campagne di cyber-attacco: uno sguardo al futuro
Nelle mani degli sviluppatori e dei team di sicurezza, l’IA favorisce la produttività, semplificando numerose operazioni aziendali. Ma nelle mani degli attori delle minacce, può essere utilizzata per sabotare le difese aziendali ed estrarre dati sensibili. Gli attaccanti sono pronti a sfruttare la crescente potenza dell’IA nell’automazione per individuare vulnerabilità nell’infrastruttura cloud e condurre campagne di email dannose con efficienza e precisione sbalorditive. Mentre l’automazione basata sull’IA può alleggerire un notevole carico di lavoro per i dipendenti di ogni settore industriale, offre agli attori delle minacce lo stesso vantaggio.
4. Cybersecurity 2024: deepfake e modelli di apprendimento automatico multimodali: l’evoluzione dell’inganno
Rimanendo nell’ambito dell’IA, i modelli di apprendimento automatico multimodali hanno fornito agli attaccanti la capacità di generare audio, immagini e video convincenti per ingannare dipendenti ignari. Con le campagne di deepfake in aumento del 3000% nel 2023, questa sofisticata tecnologia viene utilizzata per creare corrispondenze virtualmente indistinguibili da quelle legittime, con il vantaggio di essere più economiche e più semplici da utilizzare. Tali pratiche di inganno continueranno a rappresentare gravi minacce per numerose organizzazioni. Man mano che questi modelli maturano in termini di sofisticazione e capacità di falsificazione, diventa fondamentale educare il personale per riconoscere e segnalare tentativi di violazione e campagne di disinformazione.
5.
Cybersecurity 2024: proteggersi dai prompt dannosi nei servizi basati su LLM: una nuova frontiera per le startup
Poiché i servizi basati su LLM continuano a proliferare nei flussi di lavoro aziendali, i leader aziendali dovranno garantire una solida protezione contro gli inserimenti di prompt dannosi, ovvero gli input a un LLM progettati per manipolare le uscite o alterare le procedure di elaborazione standard. Purtroppo, i dati interni che le aziende scelgono di alimentare nei LLM per scopi di formazione specifici per settori o operazioni possono essere facilmente esposti. Digitando prompt attentamente progettati, gli hacker possono manipolare i LLM per rivelare dati sensibili, mettendo a rischio la conformità normativa e le sanzioni. Tali vulnerabilità nella sicurezza dei dati richiedono soluzioni proattive.
La capacità di prevedere queste sfide sarà quindi cruciale per le organizzazioni che si affidano ai servizi basati su LLM, aprendo la strada a un nuovo insieme di soluzioni volte a prevenire l’iniezione di prompt avversari compromettendo la sicurezza dei dati.
Man mano che l’IA continua a evolversi, così fa il panorama delle minacce. Affrontare gli attacchi informatici abilitati dai sistemi di intelligenza artificiale sarà un obiettivo aziendale fondamentale nel 2024.