NVIDIA crea Open Secure AI Alliance per proteggere gli agenti AI

🤖 Cosa cambia

• NVIDIA riunisce oltre 35 aziende tecnologiche per costruire strumenti aperti destinati alla sicurezza dei modelli e degli agenti AI.
• L’alleanza svilupperà identità crittografiche, isolamento, formati sicuri, scanner multimodello e sistemi verificabili per il coding agentico.
• NVIDIA contribuisce con modelli, pesi, dati e NOOA, framework che rende il comportamento degli agenti più tracciabile e controllabile.

NVIDIA annuncia la Open Secure AI Alliance, coalizione che riunisce aziende cloud, laboratori di intelligenza artificiale, produttori hardware e organizzazioni open source per costruire una piattaforma condivisa di difesa degli agenti AI. L’iniziativa nasce dall’esperienza della Linux Foundation, del progetto Akrites e della comunità OpenSSF, ma amplia il lavoro dalla sicurezza del software tradizionale all’intera architettura agentica. Tra i partecipanti figurano Microsoft, IBM, Red Hat, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palantir, Salesforce, SAP, HPE e Palo Alto Networks. L’obiettivo è sviluppare strumenti che imprese e governi possano controllare, verificare ed eseguire nelle proprie infrastrutture senza dipendere esclusivamente da piattaforme proprietarie.

NVIDIA riunisce cloud, cybersecurity e software enterprise

La Open Secure AI Alliance parte con una platea di oltre 35 membri inaugurali provenienti da comparti differenti. Accanto a NVIDIA partecipano Adobe, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, Elastic, HPE, Hugging Face, IBM, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake e Synopsys. Sono presenti anche organizzazioni specializzate nello sviluppo di agenti e modelli come LangChain, Nous Research, Reflection AI, Thinking Machines Lab e SpaceXAI. La composizione mostra che la sicurezza agentica non viene considerata un problema limitato ai laboratori che addestrano i modelli. Un agente aziendale dipende infatti da identità, autorizzazioni, API, database, ambienti cloud, strumenti di sviluppo e registri operativi. Una vulnerabilità può emergere in ciascuno di questi livelli, anche quando il modello linguistico utilizzato non presenta un difetto diretto. L’alleanza vuole quindi costruire una base comune analoga a quella sviluppata dall’open source per sistemi operativi, cloud e infrastrutture Internet. La strategia completa il percorso avviato da NVIDIA con Vera Rubin e i modelli Nemotron aperti destinati all’AI aziendale, aggiungendo alla disponibilità dei modelli una struttura condivisa per valutarli e proteggerli.

La sicurezza riguarda tutto lo stack degli agenti AI

NVIDIA sottolinea che un agente non coincide con il solo LLM. Il sistema completo comprende il modello, l’harness che orchestra le attività, gli strumenti esterni, le credenziali, le policy, la memoria, i guardrail e i registri delle operazioni. Un modello può risultare sicuro in una valutazione isolata e diventare pericoloso quando viene collegato a un terminale, a un repository o a un’infrastruttura cloud con autorizzazioni eccessive. Gli attacchi possono sfruttare prompt injection, documenti malevoli, dipendenze compromesse, plugin vulnerabili o informazioni persistenti inserite nella memoria dell’agente. L’alleanza vuole sviluppare tecnologie che rendano ogni operazione osservabile, limitata e attribuibile. Questo approccio risponde a problemi già emersi nelle piattaforme reali, come le vulnerabilità corrette da AWS negli strumenti jsii, AgentCore e Strands Agents. Proteggere soltanto il modello non basta quando l’agente può eseguire comandi, modificare codice o utilizzare credenziali presenti nell’ambiente di lavoro.

NOOA rende gli agenti più facili da verificare e governare

Il principale contributo iniziale di NVIDIA è NOOA, acronimo di NVIDIA Labs Object-Oriented Agent. Il framework open source è progettato per migliorare l’integrazione tra modelli e harness, rendendo il comportamento degli agenti più semplice da testare, tracciare, sottoporre ad audit e governare. Un harness tradizionale riceve l’output del modello e decide quali strumenti eseguire, ma può risultare difficile ricostruire perché una determinata azione sia stata scelta e quali dati abbiano influenzato la decisione. NOOA introduce una rappresentazione più strutturata delle operazioni e delle relazioni tra gli oggetti utilizzati dall’agente. L’obiettivo è consentire a sviluppatori e responsabili della sicurezza di osservare il piano, applicare controlli prima dell’esecuzione e identificare comportamenti anomali. NVIDIA contribuirà inoltre con modelli aperti, pesi, dataset e nuove ricerche sugli agent harness. La disponibilità del codice permette alle organizzazioni di adattare gli strumenti ai propri ambienti e verificare direttamente le protezioni, evitando che sicurezza e governance dipendano da meccanismi completamente opachi.

Identità crittografiche e isolamento limitano i privilegi

L’alleanza sta costruendo uno stack nel quale ogni agente e servizio possa possedere un’identità verificabile. HPE contribuisce allo sviluppo di SPIFFE e SPIRE, standard zero trust che assegnano identità crittografiche ai workload e permettono di stabilire quali servizi possano comunicare tra loro. Applicato agli agenti AI, questo modello può impedire che un processo non autorizzato acceda a database, API o credenziali aziendali. Un agente destinato alla revisione del codice, per esempio, potrebbe leggere un repository ma non distribuire autonomamente una nuova versione in produzione. L’identità deve essere accompagnata dall’isolamento: attività ad alto rischio possono essere eseguite in sandbox separate, con accesso limitato a rete, file e strumenti. La combinazione tra privilegi minimi, verifica crittografica e registri immutabili riduce le conseguenze di un prompt malevolo o di una decisione errata. Il tema diventa ancora più importante con la diffusione dei pagamenti autonomi tra agenti AI attraverso protocolli aperti come x402, dove un errore operativo può produrre conseguenze economiche immediate.

Safetensors e patch firmate proteggono la supply chain

La sicurezza riguarda anche i file utilizzati per distribuire modelli e aggiornamenti. Hugging Face ha messo a disposizione della PyTorch Foundation Safetensors, formato progettato per archiviare i pesi dei modelli senza permettere l’esecuzione arbitraria di codice durante il caricamento. Alcuni formati tradizionali possono infatti contenere oggetti serializzati capaci di avviare istruzioni sul sistema che importa il modello. Safetensors separa dati e codice, riducendo un vettore di compromissione particolarmente rilevante quando i pesi vengono scaricati da repository pubblici. IBM e Red Hat contribuiscono invece con Lightwell, sistema che estende l’uso delle firme digitali alle patch della supply chain open source. Le organizzazioni possono così verificare provenienza e integrità degli aggiornamenti prima della distribuzione. Queste misure rispondono a un ecosistema nel quale modelli, dataset e componenti software passano attraverso numerosi fornitori. L’attacco condotto da un agente autonomo contro l’infrastruttura di Hugging Face ha mostrato quanto credenziali cloud, cluster e repository possano diventare parti dello stesso incidente.

Microsoft coordina più agenti per trovare vulnerabilità

Microsoft porta nell’alleanza MDASH, un harness di scansione agentica che orchestra modelli specializzati per individuare, discutere e dimostrare vulnerabilità sfruttabili. Il sistema non affida l’intera analisi a un solo agente, ma assegna ruoli differenti a più componenti: uno può esaminare il codice, un altro contestare il risultato e un terzo tentare di costruire una prova tecnica. Questa struttura riduce il rischio che una singola allucinazione venga trattata come una falla reale e permette di dedicare modelli diversi a linguaggi, architetture e categorie di vulnerabilità specifiche. SpaceXAI ha invece aperto il codice di Grok Build, agente di coding utilizzabile dal terminale, e prevede di pubblicare anche i pesi della famiglia Grok. Il contributo evidenzia uno degli obiettivi politici dell’alleanza: dimostrare che apertura e sicurezza non sono necessariamente in conflitto. Modelli e harness ispezionabili consentono ai difensori di modificare le protezioni, condurre test indipendenti e mantenere l’elaborazione nelle proprie infrastrutture.

L’incidente Hugging Face diventa il caso politico dell’alleanza

NVIDIA utilizza il recente incidente di Hugging Face per sostenere la necessità di strumenti difensivi open-weight. Durante l’attacco, alcuni sistemi proprietari avrebbero bloccato attività forensi perché incapaci di distinguere l’analisi del difensore dal comportamento di un aggressore. Hugging Face ha quindi eseguito localmente GLM 5.2, utilizzandolo per analizzare oltre 17.000 azioni e contribuire al contenimento dell’intrusione. La società poteva adattare il modello e operare sui dati interni senza inviarli a un servizio esterno. Secondo l’alleanza, questo caso dimostra che infrastrutture critiche e governi devono poter disporre sia di modelli chiusi sia di sistemi aperti controllabili direttamente. Il rischio di abuso rimane reale: pesi accessibili possono essere modificati per rimuovere limitazioni o sviluppare capacità offensive. La risposta proposta non consiste però in un divieto generalizzato, ma in valutazioni rigorose, regole contro gli impieghi malevoli, divulgazione coordinata delle vulnerabilità e strumenti di remediation condivisi.

L’alleanza chiede ai governi di non vietare i modelli aperti

La Open Secure AI Alliance si rivolge esplicitamente a legislatori e autorità di regolazione. NVIDIA sostiene che restrizioni generalizzate sui modelli di frontiera open-weight indebolirebbero la capacità difensiva e concentrerebbero il controllo in pochi fornitori proprietari. Aziende e Stati diventerebbero dipendenti da piattaforme esterne proprio nelle situazioni in cui devono analizzare dati sensibili, adattare gli strumenti e reagire rapidamente a un attacco. L’alleanza chiede invece investimenti in dataset condivisi, framework di valutazione, simulatori di attacco e strumenti aperti di red teaming. La posizione si inserisce nel confronto già aperto tra aziende tecnologiche e Washington sui rischi di restrizioni premature ai modelli open-weight collegati alla Cina. L’iniziativa di NVIDIA tenta di trasformare la difesa dell’AI aperta da argomento industriale a questione di sicurezza nazionale: non soltanto libertà di sviluppo, ma capacità di ispezionare, adattare e controllare gli strumenti utilizzati per proteggere infrastrutture e software.