Cybersecurity e IA: sfide e soluzioni nel 2023

Con il rapido avanzamento tecnologico e i cambiamenti nella società, il termine “n” si è posizionato saldamente al centro delle conversazioni globali. L’integrazione sempre più diffusa dei grandi modelli di linguaggio (LLM) ha portato a un aumento delle preoccupazioni sulla sicurezza e sulla privacy, collegando direttamente l’IA al mondo della cybersecurity.

In questo articolo, esploreremo le implicazioni dell’IA nel campo della sicurezza informatica, concentrandoci sull’utilizzo da parte dei difensori e dei regolatori, e valutando separatamente il potenziale sfruttamento da parte dei criminali informatici.

Implicazioni dell’IA per i difensori e i regolatori

Gli esperti di Kaspersky, in un recente rapporto, hanno evidenziato l’influenza profonda dell’IA sul panorama della cybersecurity nel 2023. Secondo gli analisti, l’utilizzo di strumenti di intelligenza artificiale ha aiutato i cybercriminali nelle loro attività malevole, ma allo stesso tempo offre anche applicazioni difensive innovative per contrastare le minacce.

Nuove vulnerabilità complesse

Con l’integrazione di LLM sempre più presenti nei prodotti destinati ai consumatori, emergeranno nuove vulnerabilità complesse all’intersezione tra l’IA generativa probabilistica e le tecnologie deterministiche tradizionali, ampliando la superficie di attacco che i professionisti della sicurezza informatica dovranno proteggere. Ciò richiederà agli sviluppatori di studiare nuove misure di sicurezza, come l’approvazione dell’utente per le azioni avviate dagli agenti di LLM.

Un assistente AI completo per gli specialisti della sicurezza informatica

I red teamer e i ricercatori si avvalgono dell’IA generativa per creare strumenti innovativi di sicurezza informatica, che potrebbero portare alla creazione di un assistente basato su LLM o machine learning (ML). Questo strumento potrebbe automatizzare le attività di red teaming, offrendo indicazioni basate sui comandi eseguiti in un ambiente di pentesting.

Utilizzo crescente delle reti neurali per generare contenuti per truffe

Nell’anno a venire, gli scammer potrebbero amplificare le loro tattiche utilizzando reti neurali e strumenti di intelligenza artificiale per creare contenuti fraudolenti più convincenti. Con la capacità di generare immagini e video convincenti senza sforzo, gli attori malintenzionati rappresentano un rischio maggiore per le minacce informatiche legate a frodi e truffe.

Evoluzione del panorama delle minacce legate all’IA

Nonostante le tendenze sopra descritte, gli esperti di Kaspersky si mostrano scettici riguardo all’IA che cambierà significativamente il panorama delle minacce nel prossimo futuro. Sebbene i criminali informatici adottino l’IA generativa, lo stesso vale per i difensori informatici che utilizzeranno strumenti simili o addirittura più avanzati per testare e migliorare la sicurezza del software e delle reti, rendendo improbabile un cambiamento drastico del panorama degli attacchi.

Iniziative regolatorie legate all’IA

Con lo sviluppo in rapida crescita di questa tecnologia, la regolamentazione sta diventando una questione di politica e normativa. Il numero di iniziative regolatorie legate all’IA è destinato ad aumentare. Attori non statali, come le aziende tecnologiche, grazie alla loro esperienza nello sviluppo e nell’utilizzo dell’intelligenza artificiale, possono fornire preziose intuizioni per le discussioni sulla regolamentazione dell’IA su piattaforme globali e nazionali.

Identificazione del contenuto generato dall’IA

Per identificare il contenuto sintetico, saranno necessarie ulteriori regolamentazioni e politiche da parte dei fornitori di servizi, che continueranno a investire in tecnologie di rilevamento. Gli sviluppatori e i ricercatori contribuiranno allo sviluppo di metodi per contrassegnare i contenuti sintetici al fine di facilitarne l’identificazione e la provenienza.