A quasi un anno dal lancio di ChatGPT, gli analisti di sicurezza continuano a esplorare come l’intelligenza artificiale generativa possa essere utilizzata per affrontare le sfide della sicurezza informatica anche nel campo dell’ingegneria sociale. Questa tecnologia, in particolare i modelli di linguaggio di grandi dimensioni (LLM), potrebbe rappresentare il fattore di parità tanto cercato dai team di sicurezza. Tuttavia, l’uso di questi strumenti apre anche la porta a nuove vulnerabilità, come la possibilità per gli attori minacciosi di sfruttare ChatGPT per condurre attacchi di social engineering più convincenti e mirati.
Vulnerabilità e attacchi: il lato oscuro degli LLM
Gli LLM ampliano il panorama degli attacchi possibili, con la loro capacità di generare risposte accurate basate sui dati forniti dagli utenti. Questo può portare a perdite accidentali di dati quando gli strumenti di AI vengono utilizzati senza le dovute precauzioni. Nonostante siano presenti meccanismi di sicurezza per prevenire l’uso improprio, questi non sono infallibili, come dimostrato da ricerche che hanno evidenziato la possibilità di “ipnotizzare” gli LLM per ottenere risposte errate o rivelare informazioni riservate.
Ingegneria dei prompt: una nuova frontiera per la sicurezza
Le iniezioni di prompt sono una forma di vulnerabilità che permette di manipolare il comportamento di ChatGPT, disattivando le misure di sicurezza e permettendo azioni dannose. Questa tecnica combina l’ingegneria dei prompt con le tattiche di ingegneria sociale, creando potenziali breccie nella protezione dei dati dell’intelligenza artificiale.
Proteggi i tuoi dati: consigli per la sicurezza
Per difendere i dati sensibili nell’era degli LLM, è essenziale non condividere informazioni riservate e verificare sempre la legittimità delle fonti prima di fidarsi. In caso di dubbi, è importante rivolgersi ai team di sicurezza IT.