Microsoft e OpenAI hanno rivelato che i cybercriminali stanno impiegando modelli di linguaggio avanzati, come ChatGPT, per affinare e migliorare i loro attacchi informatici. La ricerca congiunta ha identificato tentativi da parte di gruppi sostenuti da Russia, Corea del Nord, Iran e Cina di utilizzare strumenti simili a ChatGPT per ricerche mirate, perfezionare script e sviluppare tecniche di social engineering.
Impiego di AI nella Cybercriminalità
Gruppi come Strontium, legato all’intelligence militare russa, sono stati scoperti nell’uso di Large Language Models (LLM) per comprendere protocolli di comunicazione satellitare, tecnologie di imaging radar e specifiche tecniche. Questi modelli sono stati utilizzati anche per automatizzare o ottimizzare operazioni tecniche, come la manipolazione di file e l’elaborazione di dati.
Un gruppo di hacker nordcoreano, noto come Thallium, ha impiegato LLM per ricercare vulnerabilità note e per l’elaborazione di contenuti per campagne di phishing. Anche i gruppi iraniani e cinesi affiliati allo stato hanno utilizzato LLM per la ricerca, la scrittura di script e la traduzione, oltre che per rifinire gli strumenti esistenti.
Rischi e prevenzioni
Sebbene non siano stati ancora rilevati “attacchi significativi” impiegando LLM, Microsoft e OpenAI hanno preso provvedimenti per chiudere tutti gli account e le risorse associate a questi gruppi di hacker. Tuttavia, l’uso di AI in attacchi informatici, sebbene limitato al momento, solleva preoccupazioni per potenziali utilizzi futuri, come l’impersonificazione vocale.
Microsoft suggerisce l’uso di AI per rispondere agli attacchi basati su AI, con la creazione di Security Copilot, un nuovo assistente AI progettato per i professionisti della sicurezza informatica. Questa soluzione mira a identificare le violazioni e a comprendere l’enorme quantità di segnali e dati generati dagli strumenti di sicurezza informatica.
Nuovo campo di battaglia nella Sicurezza Informatica
L’uso di modelli di linguaggio avanzati da parte dei cybercriminali segna un nuovo capitolo nella sicurezza informatica, richiedendo una continua evoluzione delle strategie di difesa e la collaborazione tra giganti tecnologici come Microsoft e OpenAI è fondamentale per anticipare e contrastare le minacce emergenti, proteggendo gli utenti e le infrastrutture critiche da attacchi sempre più sofisticati.