I grandi modelli di linguaggio (LLM) sono programmi di intelligenza artificiale progettati per comprendere e generare il linguaggio umano. Addestrati su enormi quantità di dati di testo provenienti da Internet, apprendono grammatica, fatti e capacità di ragionamento. Con queste conoscenze, un LLM può rispondere a domande, generare testo e persino sostenere una conversazione con gli utenti. Esempi di LLM includono ChatGPT di OpenAI, Bard di Google e il nuovo motore di ricerca Bing di Microsoft. Con l’aumento del cloud computing, è diventato più importante che mai garantire una robusta sicurezza per i servizi e i dati residenti nel cloud. Lo sviluppo dei grandi modelli di linguaggio (LLM) ha mostrato grande promessa nel migliorare la sicurezza del cloud.
Rischi dei LLM
Nonostante la tecnologia LLM possa essere rivoluzionaria, è ancora in fase embrionale e ci sono problemi e limitazioni noti che i ricercatori di AI devono ancora superare. Questi problemi possono essere ostacoli insormontabili per alcune applicazioni. E, come qualsiasi strumento accessibile al pubblico, gli LLM possono essere utilizzati per scopi benigni e maligni. Mentre l’IA generativa può produrre contenuti utili e accurati per la società, può anche creare disinformazione che inganna i consumatori di contenuti.
Caratteristiche rischiose
Gli LLM possono generare output che non possono essere basati sul contesto di input o sulla conoscenza del modello, un fenomeno noto come “allucinazione”. Ciò significa che il modello di linguaggio genera testo che non è logicamente coerente con l’input, o è semanticamente scorretto ma suona plausibile per un lettore umano. Inoltre, la maggior parte delle applicazioni LLM si basa su modelli preaddestrati perché creare un modello da zero è troppo costoso per la maggior parte delle organizzazioni. Tuttavia, non esistono dati di addestramento perfettamente bilanciati, e quindi ogni modello sarà sempre polarizzato in certi aspetti. Quando gli umani si affidano alle raccomandazioni di questi modelli, i loro pregiudizi possono portare a decisioni ingiuste o discriminatorie.
Utilizzo malizioso
Con le loro avanzate capacità di generazione del linguaggio, gli LLM possono creare contenuti convincenti ma falsi, contribuendo alla diffusione di fake news, teorie del complotto o narrazioni maliziose. Gli attori malintenzionati possono armare gli LLM per creare sofisticati attacchi di ingegneria sociale, come email di spear phishing e contenuti deep fake. Gli LLM possono essere utilizzati per generare contenuti che assomigliano da vicino a materiale protetto da copyright o proprietario, mettendo a rischio le organizzazioni che si affidano alla proprietà intellettuale per mantenere un vantaggio competitivo.
LLM e la sicurezza nel cloud
Tuttavia, se utilizzati correttamente, gli LLM possono anche essere sfruttati per migliorare la sicurezza nel cloud. Possono automatizzare il rilevamento delle minacce e i processi di risposta, migliorare la conformità alla sicurezza, prevenire attacchi di ingegneria sociale e migliorare la comunicazione di risposta agli incidenti. LLM, AI e ML non sono estranei a Prisma Cloud, che attualmente sfrutta queste tecnologie per migliorare la sicurezza del cloud dei suoi clienti in diversi modi.
LLM, sicurezza nel cloud, rischi, opportunità, Prisma Cloud
