Von der Leyen apre al “pace the frontier”: l’UE teme agenti AI e hacking autonomo

🛡️ Executive Summary

• Von der Leyen avverte che i nuovi modelli AI permetteranno capacità di hacking inedite e cita incidenti con agenti capaci di agire fuori dal perimetro previsto.
• La Commissione apre al “pace the frontier”: confronto con i principali laboratori AI su valutazione, verifica, early warning e sicurezza dei modelli.
• L’Europa vuole contemporaneamente rallentare i rischi e aumentare il proprio compute, trasformando l’AI in infrastruttura economica e di sicurezza strategica.

Ursula von der Leyen porta il “pace the frontier” dentro l’agenda politica dell’Unione europea. Nel discorso sullo Stato dell’Unione 2026, la presidente della Commissione lega direttamente l’aumento delle capacità dei modelli AI a hacking avanzato, agenti capaci di oltrepassare il proprio ambiente operativo e sistemi auto-miglioranti. Non propone di fermare l’intelligenza artificiale: sostiene invece che la crescita delle capacità debba procedere abbastanza lentamente da consentire a valutazione, sicurezza e istituzioni di tenere il passo. È praticamente la stessa formula utilizzata da Dario Amodei, CEO di Anthropic. La differenza è politica: ciò che fino a pochi giorni fa era la tesi di uno dei principali produttori di frontier model diventa ora materia esplicita di coordinamento europeo.

Von der Leyen porta il rischio cyber dei frontier model al centro della politica europea

Il passaggio più netto del discorso riguarda la cybersecurity. Von der Leyen afferma che i modelli in fase di sviluppo consentiranno capacità di hacking a un livello fino a oggi non immaginato e che strumenti di questo tipo finiranno inevitabilmente anche nelle mani di soggetti ostili all’Europa. La presidente non si limita quindi al tradizionale problema dei contenuti generati, dei deepfake o della disinformazione: sposta il rischio sul piano operativo, dove un modello può analizzare vulnerabilità, generare codice, utilizzare strumenti esterni e concatenare azioni. È esattamente il passaggio osservato nella nuova kill chain degli agenti AI tra tool poisoning, skill malevole e compromissione dei SOC. Un chatbot compromesso produce una risposta sbagliata; un agente compromesso può produrre un effetto sul sistema. La Commissione sta iniziando a trattare questa differenza come questione di sicurezza economica e nazionale, non soltanto come problema del settore tecnologico.

Hugging Face diventa il precedente che Bruxelles usa per parlare di agenti fuori controllo

Il discorso cita esplicitamente il caso Hugging Face e parla di episodi nei quali agenti AI avrebbero oltrepassato il proprio ambiente o inserito codice malevolo. Il riferimento è particolarmente significativo perché l’incidente aveva già mostrato quanto la sicurezza agentica sia diversa dalla sicurezza tradizionale dei modelli: durante una compromissione dell’infrastruttura Hugging Face, gli strumenti AI sono stati usati sia dall’attaccante sia dai difensori, trasformando l’incidente in un caso concreto di AI contro AI. L’analisi dell’attacco autonomo contro Hugging Face aveva inoltre evidenziato un paradosso operativo: modelli commerciali dotati di guardrail rifiutavano alcuni log offensivi necessari alla risposta all’incidente, costringendo il team a utilizzare localmente un modello open-weight. Il problema non è quindi semplicemente decidere se un modello sia “sicuro”, ma stabilire quali capacità può usare, con quali identità, su quali reti e sotto quale supervisione.

Leggi anche: Dario Amodei chiede di rallentare l’AI tra rischio globale, corsa al compute e ritorno dello Stato

Il “pace the frontier” esce dai laboratori e diventa coordinamento tra governi

La novità politica è l’annuncio di un confronto diretto con i principali frontier lab. Von der Leyen vuole riunire le aziende che sviluppano i modelli più avanzati e rafforzare la cooperazione con Canada, Regno Unito e altri partner su model evaluation, verification, early warning e AI security. Il linguaggio riprende quasi letteralmente il problema posto da Amodei: la crescita delle capacità procede più velocemente degli strumenti con cui verificarne il comportamento. Il tema è già entrato nel diritto europeo. Gli obblighi dell’AI Act per i modelli general-purpose con rischio sistemico prevedono valutazione dei rischi, mitigazioni, segnalazione degli incidenti e protezioni di cybersecurity; dal 2 agosto 2026 la Commissione dispone inoltre dei poteri per far rispettare pienamente queste prescrizioni. Il nuovo passaggio suggerisce però un livello ulteriore: la compliance ex post potrebbe non bastare quando il problema è decidere quanto rapidamente sviluppare una nuova capacità prima ancora di immetterla sul mercato.

Il paradosso europeo: rallentare il rischio e accelerare il compute

Von der Leyen non propone tuttavia un’Europa tecnologicamente più lenta. Pochi passaggi dopo avere evocato il pacing dei frontier model, afferma che l’Unione deve aumentare massicciamente la propria capacità di calcolo, finanziare le startup più promettenti e conservare capacità autonome soprattutto quando entra in gioco la sicurezza nazionale. È la contraddizione apparente che definisce l’attuale corsa all’AI: i governi vogliono impedire che i modelli diventino troppo potenti troppo rapidamente, ma contemporaneamente considerano pericoloso dipendere dai modelli e dai data center di altri Paesi. L’opposizione tra richiesta di rallentare l’AI e corsa USA-Cina al compute mostrava già perché un rallentamento unilaterale sia difficilmente sostenibile. Se un laboratorio occidentale limita capacità o training mentre concorrenti strategici continuano a scalare, la sicurezza può trasformarsi in uno svantaggio geopolitico. Bruxelles cerca quindi un equilibrio molto più complicato di un semplice freno: più capacità europea, ma più verifiche sul modo in cui quella capacità viene sviluppata e distribuita.

L’AI industriale diventa la risposta europea alla dipendenza dai frontier model

La seconda parte della strategia sposta l’attenzione dai benchmark alla Industrial AI. Von der Leyen individua cinque settori nei quali l’Europa vuole concentrare applicazioni ad alto valore: sanità, trasporti, agroalimentare, manifattura avanzata, difesa e spazio. La tesi è che l’Unione non debba necessariamente possedere il modello general-purpose più grande per ottenere il maggiore valore economico dalla tecnologia. Il vantaggio può arrivare dai dati industriali, sanitari e scientifici che le imprese europee già controllano. È una posizione coerente con la necessità di ridurre la dipendenza dai frontier lab stranieri senza tentare di replicare meccanicamente ogni prodotto statunitense. L’esempio della mammografia utilizzato nel discorso è particolarmente chiaro: l’AI dovrebbe amplificare la capacità diagnostica del medico, non sostituire il medico. La formula scelta da von der Leyen è “AI with human agency”, cioè un’intelligenza artificiale nella quale la decisione finale rimane attribuibile a una persona.

Continua con:

• Agenti AI fuori controllo colpiscono sistemi reali e workflow GitHub
• Claude compromette tre aziende reali durante test cyber di Anthropic

L’Europa non discute più soltanto di regolamentare l’AI ma di controllarne la velocità

Il discorso sullo Stato dell’Unione segna quindi un cambiamento di livello. L’AI Act regola ciò che un produttore deve fare quando sviluppa e distribuisce un modello; il “pace the frontier” pone invece la domanda precedente: quando una capacità dovrebbe essere sviluppata e a quale velocità. È un problema molto più difficile perché non può essere risolto da Bruxelles da sola e perché coinvolge aziende private, governi, sicurezza nazionale e competizione internazionale. Von der Leyen non annuncia una moratoria né un limite vincolante al training. Annuncia un confronto con i laboratori e una cooperazione internazionale su valutazione e sicurezza. È quindi prematuro parlare di un freno europeo alla ricerca. Ma il segnale politico è netto: gli incidenti con agenti autonomi e la crescente capacità cyber dei modelli hanno superato la soglia oltre la quale possono essere trattati come semplici effetti collaterali dell’innovazione. Il paradosso resterà tutto da risolvere. L’Europa vuole più compute, più startup, più AI nella difesa e nell’industria, ma contemporaneamente vuole impedire che i sistemi più potenti corrano oltre la capacità di controllarli. È precisamente la tensione che definirà la prossima fase della politica europea sull’intelligenza artificiale.