ChatGPT e GPT-4 hanno stupito gli utenti con le loro abilità linguistiche, ma come vengono utilizzati questi modelli linguistici di grandi dimensioni nelle zone più oscure di internet? Sembra che gli attori malevoli stiano sfruttando l’intelligenza artificiale generativa in modo creativo.
Attori malevoli e intelligenza artificiale generativa
Gli attori malevoli del dark web stanno utilizzando modelli linguistici come ChatGPT per fini illeciti, come la produzione di droghe sintetiche o la creazione di schemi fraudolenti che promettono guadagni passivi. Alcuni di questi utilizzi sono piuttosto comici, mentre altri sono molto più seri e preoccupanti.
Truffe e marketing ingannevole nel dark web
Le truffe che promettono guadagni passivi infestano i social media e il dark web non ne è immune. Anche nelle parti più segrete di internet, non si può sfuggire al richiamo di una proposta di vendita convincente.
Attori malevoli e spoofing vocale basato su IA
Gli attori malevoli stanno ideando strategie per sfruttare l’IA nei cosiddetti “voice spoofing scams”, in cui vengono utilizzate voci umane artificiali per estrarre informazioni sensibili dalle vittime ignare. Con l’aumento dell’accessibilità e della diffusione degli algoritmi di IA, possiamo aspettarci che questa tendenza continui a crescere.
Bypassare i filtri e utilizzare ChatGPT per fini malevoli
Gli attori malevoli sembrano condividere e vendere nuovi metodi per bypassare i filtri di ChatGPT, permettendo ad altri di utilizzarlo per scrivere malware e compiere altre attività dannose.
Cosa significa la presenza di crimini informatici e IA generativa?
Nonostante alcuni tentativi comici, l’abuso di modelli linguistici come ChatGPT e GPT-4 per il crimine informatico è un problema serio. È fondamentale che le organizzazioni e gli individui riconoscano i potenziali pericoli che questi strumenti possono rappresentare. I professionisti della sicurezza informatica devono rimanere vigili e adattare costantemente le loro strategie per contrastare e tenere il passo con l’evolversi del panorama delle minacce.
