Secondo ActiveFence, gli attori delle minacce stanno abusando dell’intelligenza artificiale generativa per effettuare abusi sessuali su minori (CSAM), disinformazione, frodi ed estremismo.
Amplificazione delle minacce Online
Noam Schwartz, CEO e fondatore di ActiveFence, ha sottolineato le implicazioni di vasta portata dell’esplosione dell’intelligenza artificiale generativa. In particolare, gli attori delle minacce ora riescono a accelerare e amplificare le loro operazioni, portando a una produzione di massa senza precedenti di contenuti malevoli.
Abuso di Intelligenza Artificiale in diversi modi
Gli abusi dell’intelligenza artificiale generativa spaziano dalla creazione di materiale di abuso sessuale su minori, alla generazione di immagini fraudolente create da IA, fino alla produzione di file audio deepfake che incitano all’estremismo.
Abuso Sessuale su Minori e IA
Gli studiosi hanno registrato un aumento del 172% del volume di CSAM prodotto da IA generativa nel primo trimestre di quest’anno. Inoltre, una ricerca ha rivelato che il 78% dei partecipanti a un sondaggio su un forum di predatori di minori ha utilizzato o prevede di utilizzare l’IA generativa per il CSAM.
Disinformazione e Contenuti Fraudolenti
L’IA generativa ha permesso agli attori delle minacce di creare immagini fraudolente più velocemente, con maggiore precisione e con una portata più ampia. Un’immagine generata da IA, ad esempio, mostrava falsamente il presidente russo Vladimir Putin in ginocchio davanti al presidente cinese Xi Jinping.
Estremismo Violento
Gli studiosi hanno rilevato numerosi casi in cui gli attori delle minacce hanno sfruttato l’IA generativa per creare contenuti iper-realistici ma dannosi che incitano alla violenza e promuovono propaganda estremista.