Trend Micro ha pubblicato un’analisi approfondita su come i modelli linguistici di grandi dimensioni (LLM) possano subire compromissioni, evidenziando rischi come l’incorporazione di istruzioni malevole nei file dei modelli e l’avvelenamento dei dati durante le fasi di retraining. Lo studio mette in luce come gli LLM integrati in applicazioni moderne amplifichino la superficie di attacco, esponendo a scenari di esecuzione di codice non autorizzato, esfiltrazione di dati sensibili e manipolazione tramite prompt injection. Secondo Trend Micro, l’adozione rapida dell’AI nelle aziende accelera i processi ma allo stesso tempo favorisce il cybercrime, con casi documentati di malware che integrano LLM come componenti attivi, in grado di generare ransomware e reverse shell. L’azienda raccomanda strategie multilivello per la difesa, basate su guardrail per i prompt, analisi avanzate e soluzioni come Trend Vision One, sviluppate per contrastare le top 10 vulnerabilità OWASP per i modelli linguistici.
Cosa leggere
Minacce principali agli LLM
Le minacce individuate da Trend Micro comprendono diversi vettori critici. L’embedding di comandi eseguibili all’interno dei file modello compromette l’integrità dell’LLM, mentre il data poisoning altera il comportamento del modello rendendo meno affidabili le risposte nelle iterazioni successive. Tecniche di prompt injection, come i casi DAN o ignore instructions, evolvono in attacchi più sofisticati capaci di eludere i controlli di sicurezza. Fenomeni come il Prompt Leakage (PLeak) consentono il leak di dati sensibili, spesso tramite caratteri nascosti o input oscurati. Gli LLM-embedded malware, come l’esempio di MalTerminal basato su GPT-4, mostrano come i modelli possano generare ransomware o aprire reverse shell da prompt manipolati. Anche il phishing sfrutta ecosistemi AI-native, con pagine captcha false ospitate su piattaforme legittime per bypassare i sistemi di detection. Ancora più insidiosi risultano gli attacchi zero-click come EchoLeak, in grado di manipolare assistenti AI per leakare dati senza interazione diretta dell’utente.
Strategie di mitigazione per LLM
Per affrontare queste minacce, Trend Micro propone una serie di contromisure multilivello. Tra queste spiccano i guardrail per prompt injection, l’uso di runtime firewall per limitare l’elaborazione di contenuti non sicuri e la riduzione dei privilegi operativi assegnati agli LLM. La piattaforma Trend Vision One viene presentata come soluzione in grado di mitigare la maggior parte delle vulnerabilità OWASP per i modelli linguistici, incluso il data poisoning, grazie a capacità di rilevamento avanzate. La società consiglia inoltre analisi delle redirect chain per contrastare il phishing e l’uso di sistemi endpoint detection per bloccare comportamenti anomali. L’approccio proposto integra anche la separazione tra produttività e sicurezza tramite AppSec AI parallela, capace di monitorare i processi di sviluppo, verificare le dipendenze open source e ridurre i rischi di escalation. Infine, Trend Micro sottolinea l’importanza di policy rigorose sull’uso dell’AI, audit periodici, sanitizzazione del codice generato e l’applicazione di principi di zero-trust per ridurre la probabilità di compromissioni.
Raccomandazioni Trend Micro per sicurezza AI
Nel documento, Trend Micro evidenzia che la sicurezza degli LLM non può essere affrontata con un singolo strumento, ma richiede un insieme coordinato di pratiche e soluzioni. Le raccomandazioni includono: implementazione di AI Guard per bloccare contenuti malevoli, disabilitazione di feature rischiose come il contesto email esterno nei copiloti, crittografia e rotazione periodica delle credenziali, oltre al monitoraggio continuo con sistemi SIEM per individuare anomalie nei workflow. La collaborazione con OWASP mira a stabilire standard condivisi per la sicurezza dei modelli linguistici. L’azienda avverte inoltre che la rapida diffusione degli LLM nel mercato, se non accompagnata da adeguati sistemi di protezione, rischia di amplificare vulnerabilità storiche e di favorire nuove forme di supply chain attack. In questa prospettiva, Trend Micro indica la necessità di un approccio ibrido che combini capacità di analisi automatica dei modelli con la supervisione umana, garantendo così che l’AI rimanga uno strumento utile senza diventare un punto debole della sicurezza informatica.
