L’intelligenza artificiale è stata descritta come una “tecnologia di uso generale“. Ciò significa che, come l’elettricità, i computer e Internet prima di essa, l’intelligenza artificiale è destinata ad avere applicazioni in ogni angolo della società. Sfortunatamente, per le organizzazioni che cercano di mantenere la sicurezza informatica, questo include la criminalità informatica.

Nel 2020, uno studio condotto dall’agenzia di polizia europea Europol e dal fornitore di sicurezza Trend Micro ha individuato come i criminali informatici stiano già utilizzando l’IA per rendere più efficaci i loro attacchi e i molti modi in cui l’IA alimenterà la criminalità informatica in futuro.

“I criminali informatici sono sempre stati i primi ad adottare le tecnologie più recenti e l’IA non è da meno“, ha dichiarato Martin Roesler, responsabile della ricerca sulle minacce prospettiche di Trend Micro, in occasione della pubblicazione del rapporto. “È già stata utilizzata per indovinare le password, violare i CAPTCHA e clonare la voce, e ci sono molte altre innovazioni dannose in cantiere“.

Così come i leader tecnologici devono capire come l’IA può aiutare le loro organizzazioni a raggiungere i propri obiettivi, è fondamentale capire come l’IA rafforzerà la sofisticazione e la portata dei cyberattacchi criminali, in modo da poter iniziare a prepararsi contro di essi.

L’intelligenza artificiale offre ai criminali informatici una serie di modi per rendere più efficaci i loro attacchi di social engineering.

Come l’IA viene utilizzata oggi per la criminalità informatica

L’IA viene già utilizzata dai criminali informatici per migliorare l’efficacia degli attacchi informatici tradizionali. Molte applicazioni si concentrano sull’aggiramento delle difese automatiche che proteggono i sistemi informatici.

Un esempio, identificato nel rapporto di Europol, è l’uso dell’IA per creare e-mail dannose in grado di aggirare i filtri antispam. Nel 2015, i ricercatori hanno scoperto un sistema che utilizzava la “grammatica generativa” per creare un ampio set di testi di e-mail. “Questi testi vengono poi utilizzati per fare il “fuzz” del sistema antispam e adattarsi ai diversi filtri per identificare i contenuti che non verrebbero più rilevati dai filtri antispam“, avverte il rapporto.

I ricercatori hanno anche dimostrato un malware che utilizza un approccio simile al software antivirus, impiegando un agente AI per trovare punti deboli nell’algoritmo di rilevamento del malware del software.

L’intelligenza artificiale può essere utilizzata per supportare altre tecniche di hacking, come l’indovinare le password. Alcuni strumenti utilizzano l’intelligenza artificiale per analizzare un ampio set di password recuperate da fughe di notizie e hackeraggi pubblici su siti web e servizi importanti. Questo rivela come le persone modificano le loro password nel corso del tempo, ad esempio aggiungendo numeri alla fine o sostituendo “a” con “@”.

È in corso anche un lavoro per utilizzare l’apprendimento automatico per rompere i CAPTCHA presenti sulla maggior parte dei siti web per garantire che l’utente sia umano, e l’Europol ha scoperto prove di uno sviluppo attivo su forum criminali nel 2020. Non è chiaro a che punto sia questo sviluppo ma, con una potenza di calcolo sufficiente, l’intelligenza artificiale sarà in grado di rompere i CAPTCHA, secondo le previsioni dell’Europol.

IA e ingegneria sociale

Altri utilizzi dell’IA per la criminalità informatica si concentrano sull’ingegneria sociale, ingannando gli utenti umani per indurli a cliccare su link dannosi o a condividere informazioni sensibili.

In primo luogo, i criminali informatici utilizzano l’IA per raccogliere informazioni sui loro obiettivi. Ciò include l’identificazione di tutti i profili dei social media di una determinata persona, anche attraverso la corrispondenza delle foto degli utenti sulle varie piattaforme.

Una volta identificato l’obiettivo, i criminali informatici utilizzano l’intelligenza artificiale per ingannarlo in modo più efficace. Ciò include la creazione di immagini, audio e persino video falsi per far credere ai loro bersagli che stanno interagendo con qualcuno di cui si fidano.

Uno strumento, identificato da Europol, esegue la clonazione della voce in tempo reale. Con una registrazione vocale di cinque secondi, gli hacker possono clonare la voce di chiunque e utilizzarla per accedere a servizi o ingannare altre persone. Nel 2019, l’amministratore delegato di un’azienda energetica del Regno Unito è stato indotto a pagare 200.000 sterline da truffatori che hanno utilizzato un deep fake audio.

In modo ancora più sfacciato, i criminali informatici stanno utilizzando video deep fake – che fanno apparire il volto di un’altra persona sopra il proprio – nei colloqui di lavoro IT a distanza per ottenere l’accesso a sistemi IT sensibili, ha avvertito l’FBI il mese scorso.

Oltre a questi metodi individuali, i criminali informatici stanno utilizzando l’intelligenza artificiale per automatizzare e ottimizzare le loro operazioni, afferma Bill Conner, CEO del fornitore di sicurezza informatica SonicWall. Le moderne campagne dei criminali informatici prevedono un cocktail di malware, ransomware-as-a-service fornito dal cloud e attacchi mirati basati sull’intelligenza artificiale.

Questi attacchi complessi richiedono l’IA per i test, l’automazione e il controllo qualità, spiega Conner. “Senza l’IA non sarebbe possibile su quella scala“.

Il futuro della criminalità informatica basata sull’IA

Si prevede che l’uso dell’IA da parte dei criminali informatici aumenterà con la diffusione della tecnologia. Gli esperti prevedono che ciò consentirà loro di lanciare attacchi informatici su scala molto più ampia di quanto sia possibile attualmente. Ad esempio, secondo le previsioni di Europol, i criminali potranno utilizzare l’IA per analizzare un maggior numero di informazioni per identificare obiettivi e vulnerabilità e attaccare più vittime contemporaneamente.

Saranno anche in grado di generare più contenuti con cui ingannare le persone. I modelli linguistici di grandi dimensioni, come il GPT-3 di OpenAI, che possono essere utilizzati per generare testi realistici e altri output, possono avere una serie di applicazioni per i criminali informatici. Queste potrebbero includere l’imitazione dello stile di scrittura di un individuo o la creazione di chatbot che le vittime confondono per persone reali.

Anche lo sviluppo di software basati sull’IA, che le aziende stanno iniziando a utilizzare, potrebbe essere impiegato dagli hacker. L’Europol avverte che gli strumenti “no code” basati sull’intelligenza artificiale, che convertono il linguaggio naturale in codice, potrebbero portare a una nuova generazione di “script kiddies” con scarse conoscenze tecniche ma con le idee e la motivazione per la criminalità informatica.

Il malware stesso diventerà sempre più intelligente, poiché l’intelligenza artificiale è incorporata al suo interno, avverte l’Europol. Il malware del futuro potrebbe cercare documenti su una macchina e cercare informazioni specifiche, come i dati dei dipendenti o la proprietà intellettuale protetta.

Si prevede che anche gli attacchi ransomware saranno potenziati dall’intelligenza artificiale. L’intelligenza artificiale non solo aiuterà i gruppi di ransomware a trovare nuove vulnerabilità e vittime, ma li aiuterà anche a evitare il rilevamento più a lungo, “ascoltando” le misure che le aziende utilizzano per rilevare le intrusioni nei loro sistemi informatici.

Con l’evoluzione della capacità dell’IA di imitare il comportamento umano, si svilupperà anche la sua capacità di violare alcuni sistemi di sicurezza biometrici, come quelli che identificano un utente in base al modo in cui digita. Potrebbe anche simulare un comportamento realistico dell’utente, come l’essere attivo in determinati orari, in modo che gli account rubati non vengano segnalati dai sistemi di sicurezza comportamentale.

Infine, l’intelligenza artificiale consentirà ai criminali informatici di utilizzare meglio i dispositivi IoT compromessi, prevede Todd Wade, CISO ad interim e autore del libro della BCS sulla criminalità informatica. Già impiegati per alimentare le botnet, questi dispositivi saranno ancora più pericolosi se coordinati dall’IA.

Come prepararsi alla criminalità informatica basata sull’intelligenza artificiale

La protezione contro la criminalità informatica alimentata dall’IA richiederà risposte a livello individuale, organizzativo e sociale.

Secondo Wade, i dipendenti dovranno essere formati per identificare le nuove minacce, come i deep fake. “Le persone sono abituate ad attacchi che arrivano in un certo modo“, afferma, “non sono abituate a quelli una tantum, che magari appaiono casualmente in una chiamata Zoom o in un messaggio WhatsApp, e quindi non sono preparate quando accadono“.

Oltre alle consuete best practice di cybersecurity, le organizzazioni dovranno impiegare strumenti di IA per far fronte alle dimensioni e alla sofisticazione delle minacce future. “Avrete bisogno di strumenti di IA solo per stare al passo con gli attacchi e se non utilizzate questi strumenti per combatterli non riuscirete a stare al passo“, afferma Wade.

Ma anche il modo in cui l’IA viene sviluppata e commercializzata dovrà essere gestito per garantire che non possa essere dirottata dai criminali informatici. Nel suo rapporto, l’Europol ha invitato i governi a garantire che i sistemi di IA aderiscano ai principi di “security-by-design” e a sviluppare quadri di protezione dei dati specifici per l’IA.

Oggi, molte delle capacità dell’IA discusse in precedenza sono troppo costose o tecnicamente complesse per il criminale informatico tipico. Ma la situazione è destinata a cambiare con lo sviluppo della tecnologia.

È giunto il momento di prepararsi a un’ampia diffusione della criminalità informatica basata sull’IA.