Sommario
I cybercriminali stanno sfruttando la tecnologia generativa AI per facilitare le loro attività e lanciare attacchi di compromissione della posta elettronica aziendale (BEC), incluso l’uso di uno strumento noto come WormGPT. Secondo un rapporto di SlashNext, WormGPT è stato addestrato su varie fonti di dati, con un focus sui dati relativi al malware, generando testi simili a quelli umani in base all’input ricevuto e in grado di creare email false altamente convincenti.
WormGPT e gli attacchi BEC
Il team di ricerca ha condotto una valutazione dei potenziali rischi associati a WormGPT, con un focus specifico sugli attacchi BEC, istruendo lo strumento a generare un’email volta a mettere sotto pressione un ignaro responsabile dell’account per effettuare il pagamento di una fattura fraudolenta. I risultati hanno rivelato che WormGPT non solo può eseguire un tono persuasivo, ma è anche “strategicamente astuto”, un indicatore delle sue capacità per montare attacchi di phishing e BEC sofisticati.
La minaccia delle tecnologie AI generative
Il rapporto ha rivelato che i cybercriminali stanno progettando “jailbreaks”, prompt specializzati progettati per manipolare le interfacce AI generative per creare output che potrebbero coinvolgere la divulgazione di informazioni sensibili, la produzione di contenuti inappropriati o addirittura l’esecuzione di codice dannoso. Alcuni cybercriminali ambiziosi stanno addirittura andando oltre, creando moduli personalizzati simili a quelli utilizzati da ChatGPT ma progettati per aiutarli a portare avanti gli attacchi.
Combattere il fuoco con il fuoco
L’ascesa degli strumenti AI generativi sta introducendo ulteriori complessità e sfide negli sforzi di cybersecurity, aumentando la sofisticazione degli attacchi e sottolineando la necessità di meccanismi di difesa più robusti contro le minacce in evoluzione. Patrick Harr, CEO di SlashNext, sostiene che la minaccia degli attacchi BEC, malware e phishing aiutati dall’IA può essere combattuta al meglio con le capacità di difesa aiutate dall’IA.
L’importanza dell’IA nella difesa
Dalla prospettiva di Harr, le organizzazioni diventeranno infine dipendenti dall’IA per scoprire, rilevare e in definitiva rimediare a queste minacce, perché semplicemente non c’è modo umanamente possibile di anticipare la curva senza farlo. Ad esempio, un ricercatore di Forcepoint ha convinto lo strumento AI a creare malware per trovare ed esfiltrare documenti specifici, nonostante la sua direttiva di rifiutare le richieste malevole.
