La crescente popolarità degli strumenti di IA generativa, come ChatGPT di OpenAI, ha portato a un’ondata di innovazioni nel campo dell’intelligenza artificiale. Tuttavia, mentre molti vedono queste tecnologie come un’opportunità, altri le vedono come un mezzo per scopi malintenzionati.
WormGPT: un nuovo strumento per i cybercriminali
Dal Dark Web sono emerse voci riguardo a chatbot LLM ottimizzati per cyberattacchi. Questi strumenti, offerti spesso su base di abbonamento, sono simili ai popolari LLM ma senza le protezioni integrate. WormGPT, basato sul modello di linguaggio GPTJ, è diventato uno strumento di spicco tra questi. Gli utenti possono semplicemente digitare istruzioni per la creazione di email fraudolente e lo strumento produce email convincenti e grammaticalmente perfette. Daniel Kelley, ricercatore indipendente in cybersecurity, ha scoperto che WormGPT può produrre email di truffa estremamente persuasive.
Un nuovo panorama di strumenti di IA per i criminali
Dopo WormGPT, sono emersi altri strumenti simili, come FraudGPT, utilizzato per email di phishing, creazione di strumenti di cracking e frodi con carte di credito. Altri strumenti emergenti includono DarkBERT, DarkBART e ChaosGPT. Questi strumenti sono utilizzati per migliorare vari aspetti dei cyberattacchi, come la creazione di email di phishing, la raccolta di informazioni sulle vittime e la creazione di malware.
La corsa agli armamenti nell’IA
Sebbene esistano strumenti LLM malintenzionati, la minaccia che rappresentano è ancora limitata. Sono spesso costosi e richiedono molte prove ed errori. Tuttavia, abbassano la barriera all’ingresso per un gran numero di aggressori non qualificati. La crescita di questi strumenti rappresenta una nuova corsa agli armamenti tra IA offensiva e IA difensiva. Per difendersi dalle minacce crescenti alimentate da LLM, è essenziale utilizzare soluzioni di sicurezza basate sull’IA, implementare l’autenticazione multi-fattore e rimanere aggiornati sulle ultime minacce.
Viviamo in un mondo in cui gli strumenti di IA generativa basati su LLM sono ampiamente disponibili. Mentre offrono enormi opportunità, presentano anche nuove sfide in termini di sicurezza e protezione.