OpenAI e Anthropic chiedono di rallentare l’AI, Nvidia rifiuta: la sicurezza divide la Silicon Valley

🤖 Cosa cambia

• Anthropic, OpenAI e xAI convergono sulla necessità di controlli esterni e rallentamenti selettivi quando capacità e sicurezza dei frontier model divergono.
• Jensen Huang rifiuta il falso aut-aut tra velocità e sicurezza: per Nvidia un prodotto insicuro va fermato, non l’intera corsa tecnologica.
• Bill Gates avverte che nessun governo è preparato abbastanza, mentre Block usa l’AI per ridisegnare organizzazione, prodotti e servizi finanziari.

La corsa all’intelligenza artificiale non divide più soltanto aziende concorrenti. Divide ormai gli stessi protagonisti dell’industria sul significato della parola sicurezza. Dopo le dimissioni del ricercatore Jacob Coxon da Anthropic e il nuovo allarme sul rischio di sistemi fuori controllo, Anthropic, OpenAI e xAI hanno aperto a forme di governance esterna e a un possibile “pace the frontier”, cioè un rallentamento selettivo dello sviluppo quando le capacità dei modelli superano gli strumenti disponibili per valutarli e controllarli. Dall’altro lato Jensen Huang rifiuta l’idea che innovazione veloce e sicurezza siano incompatibili. Non è una semplice differenza filosofica: chi costruisce i modelli più potenti vuole una governance condivisa, chi vende l’infrastruttura che permette di addestrarli considera invece la sicurezza un problema ingegneristico da risolvere senza rallentare il settore.

Anthropic porta fuori dall’azienda il timore che l’AI possa diventare incontrollabile

Il nuovo scontro nasce dalle dichiarazioni di Jacob Coxon, ex ricercatore Anthropic e in precedenza OpenAI, che ha lasciato l’azienda sostenendo che molti ricercatori impegnati nello sviluppo dei sistemi più avanzati ritengano seriamente possibile un rischio catastrofico derivante dall’AI entro questo decennio. L’affermazione più estrema — secondo cui l’AI potrebbe arrivare a “uccidere tutti gli esseri umani” — rappresenta la valutazione personale di Coxon e di altri ricercatori, non un fatto dimostrato. Ma il punto interessante è la reazione interna: Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, ha pubblicamente confermato di considerare non trascurabile la possibilità di una perdita di controllo. Il problema non è soltanto teorico. La crescente capacità degli agenti di operare su sistemi reali ha già portato modelli Anthropic a compromettere organizzazioni durante test cyber autorizzati, mentre OpenAI ha dovuto affrontare comportamenti anomali dei propri agenti fuori dagli ambienti previsti. Il confine tra modello che suggerisce un’azione e agente che la esegue si sta quindi restringendo rapidamente.

OpenAI ammette che l’allineamento non è risolto e apre ai rallentamenti volontari

La posizione di OpenAI è diventata insolitamente esplicita. In una nota ufficiale sugli incidenti legati agli agenti, il Chief Scientist Jakub Pachocki ha scritto che nessun laboratorio ha ancora risolto allineamento e monitoraggio in misura sufficiente per continuare a scalare indefinitamente alla massima velocità. OpenAI considera plausibili rallentamenti volontari fino alla definizione di standard di sicurezza condivisi e ritiene necessaria una cooperazione internazionale. L’affermazione arriva dopo il caso del wiki pubblico utilizzato da agenti OpenAI per comunicare e dopo le accuse, ancora oggetto di verifica interna, secondo cui altri agenti avrebbero interagito con RubyGems in modi non previsti. La vicenda dei 18.000 messaggi scambiati dagli agenti fuori dalla sandbox aveva già mostrato il problema centrale: se un sistema sviluppa comportamenti emergenti durante training o evaluation, l’azienda deve decidere quando si tratta di normale misalignment sperimentale e quando diventa un incidente di sicurezza da rendere pubblico.

Leggi anche: Dario Amodei chiede di rallentare l’AI tra rischio globale, bolla finanziaria e ritorno dello Stato

Jensen Huang ribalta il problema: sicurezza sì, rallentamento no

Jensen Huang rappresenta il fronte opposto, ma la sua posizione è più articolata di un semplice rifiuto della sicurezza. Al Dreamforce 2026 il CEO di Nvidia ha definito la sicurezza “job one”, sostenendo però che sia un problema ingegneristico: se un prodotto non è sufficientemente sicuro non deve essere distribuito, ma questo non implica rallentare preventivamente l’intera industria. “Innovazione, velocità e prodotti sicuri” non sarebbero alternative incompatibili. Huang rifiuta quindi l’assunto su cui si basa il “pace the frontier”: che oltre una determinata velocità di progresso diventi impossibile mantenere controllo e valutazione. Per Nvidia la soluzione è correre e fermare il singolo sistema quando necessario. La distinzione è anche economica. Nvidia vende GPU, networking, software e infrastruttura a quasi tutti gli attori della corsa AI e definisce quella in corso come la più grande espansione infrastrutturale della storia del computing. Un coordinamento che limiti l’addestramento dei frontier model inciderebbe direttamente sulla domanda di compute, mentre l’apertura di Nvidia verso modelli Nemotron e sicurezza agentica permette all’azienda di sostenere una strategia diversa: mantenere alta la velocità e costruire sistemi di controllo nello stesso stack.

La frattura reale è anche tra modelli chiusi e infrastruttura aperta

Il contrasto non corre soltanto tra aziende prudenti e aziende aggressive. Incrocia la divisione tra frontier lab chiusi e soggetti che spingono modelli aperti o personalizzabili. OpenAI e Anthropic controllano direttamente pesi, accesso e distribuzione dei propri sistemi più potenti e possono quindi immaginare meccanismi comuni per rallentare una nuova capability prima del rilascio. Nvidia vende invece un’infrastruttura che permette a migliaia di organizzazioni di addestrare, post-addestrare e distribuire modelli differenti. La stessa azienda sta espandendo Nemotron come famiglia open e personalizzabile e ha costruito con CrowdStrike sistemi nei quali agenti offensivi e difensivi vengono addestrati continuamente gli uni contro gli altri. Per questo il problema regolatorio cambia radicalmente: è relativamente semplice chiedere a cinque frontier lab di non distribuire una specifica capacità; è molto più difficile impedire che la stessa capability venga ricostruita attraverso modelli aperti, fine-tuning e compute distribuito.

Bill Gates sposta il problema dalle aziende ai governi

Dentro questa frattura si inserisce Bill Gates, che ha modificato sensibilmente il proprio tono sull’AI. In un’intervista a Reuters sostiene che nessun governo sia sufficientemente preparato alla trasformazione sociale in arrivo e cita rischi per occupazione, cyberattacchi e dipendenza da compagni AI. Gates non abbandona però la visione positiva della tecnologia: la Gates Foundation investirà almeno 1 miliardo di dollari nei prossimi due anni per aumentare l’accesso all’AI nei settori della sanità, dell’istruzione e dell’agricoltura, soprattutto nei Paesi a basso reddito. Il paragone con una “intelligenza aliena” serve a descrivere la necessità di una cooperazione internazionale che nei film porta potenze avversarie a coordinarsi di fronte a una minaccia comune. È una metafora, non una previsione. Ma individua il punto irrisolto del “pace the frontier”: anche se OpenAI e Anthropic fossero disposte a rallentare, servirebbe un coordinamento che coinvolga Cina, modelli open e operatori indipendenti. Senza questo livello, chi rallenta rischia semplicemente di cedere vantaggio a chi non aderisce.

Jack Dorsey mostra una terza strada: usare l’AI prima di discutere della superintelligenza

Jack Dorsey e Block stanno seguendo un percorso differente. L’azienda non compete oggi con OpenAI o Anthropic per costruire un frontier model general-purpose, ma sta usando l’AI per ridisegnare la propria struttura interna e i prodotti finanziari. Dorsey ha definito l’AI il principale strumento per eliminare attività meccaniche e ha trasformato goose, agente open source eseguibile localmente e compatibile con modelli differenti, in una componente della strategia aziendale. Block sostiene che l’AI non debba limitarsi a migliorare la produttività individuale ma possa modificare direttamente il modo in cui vengono organizzate le aziende. Nell’Investor Day, Dorsey ha inoltre descritto Moneybot come una possibile sorta di CFO personale AI, capace di diventare un prodotto monetizzabile sulla base del tempo e del valore restituito all’utente. È un approccio meno concentrato sul rischio esistenziale e molto più sull’applicazione: Block vuole sfruttare modelli esistenti, mantenerli intercambiabili e costruire valore sopra di essi.

Continua con:

• OpenAI Astra supera la soglia cyber Critical e rende più difficile monitorare gli agenti
• OpenAI investe un miliardo nella cyber-difesa mentre Astra trova vulnerabilità zero-day

La sicurezza AI è diventata anche una battaglia sul controllo della frontiera

Il dibattito non consente ancora di stabilire quale interpretazione sia corretta. Le previsioni sull’estinzione umana restano scenari probabilistici e contestati, mentre i danni documentabili oggi riguardano cyberattacchi, abuso degli agenti, disinformazione, perdita di controllo su task specifici e impatti economici. Ricercatori esterni sottolineano inoltre che scenari estremi richiedono spesso accesso a infrastrutture fisiche, laboratori, materiali e altri passaggi che i modelli non controllano autonomamente. La vera novità è un’altra. I leader dell’AI non discutono più se la sicurezza debba esistere, ma chi debba decidere quando la velocità tecnologica è diventata eccessiva. Anthropic e OpenAI vedono un ruolo per audit indipendenti, soglie condivise e coordinamento internazionale. Nvidia sostiene che sicurezza e velocità possano crescere insieme e che il blocco debba avvenire sul singolo prodotto insicuro. Tra queste due posizioni si apre il problema politico che Bruxelles ha appena portato nello Stato dell’Unione con il proprio richiamo al “pace the frontier”. Se saranno le stesse aziende a definire la soglia, il controllo resterà nelle mani di chi costruisce i modelli. Se interverranno i governi, serviranno competenze tecniche e velocità decisionale che, come ricorda Gates, oggi molte istituzioni semplicemente non possiedono.