Dario Amodei chiede di rallentare l’AI: rischio globale, bolla finanziaria e intelligenza artificiale di Stato

🤖 Key findings

• Dario Amodei propone di rallentare la frontiera AI senza fermare la ricerca, coordinando aziende e governi su sicurezza, testing e capacità critiche.
• Il pacing può ridurre i rischi agentici ma anche consolidare l’oligopolio: più audit, controlli e infrastrutture significano barriere all’ingresso più alte.
• La corsa USA-Cina, i costi dei data center e l’integrazione militare spingono l’AI verso una nuova fase: da prodotto privato a infrastruttura strategica dello Stato.

Dario Amodei ha deciso che l’intelligenza artificiale deve rallentare. Non fermarsi, non tornare indietro, non rinunciare alla promessa di curare malattie e moltiplicare la produttività. Deve semplicemente procedere a una velocità tale da consentire a sicurezza, controlli, istituzioni e ricerca sull’allineamento di non essere travolti dalla crescita delle capacità dei modelli. È questo il centro di We Must Pace the Frontier, il lungo intervento con il quale il fondatore e amministratore delegato di Anthropic propone di trasformare la sicurezza dell’AI da impegno volontario delle aziende a meccanismo coordinato tra imprese, governi e, nella fase più ambiziosa, potenze rivali come Stati Uniti e Cina. La lettera è importante proprio perché non arriva da un osservatore esterno, da un filosofo o da un’autorità di regolazione. Arriva da uno degli uomini che stanno costruendo la tecnologia che chiede di rallentare.

Liquidarla come l’ennesimo esercizio di allarmismo sarebbe però un errore. Accettarla integralmente come un appello disinteressato all’umanità sarebbe altrettanto ingenuo. Le due dimensioni possono convivere. I rischi descritti da Amodei sono in parte già visibili negli incidenti verificatisi quando agenti AI hanno operato su sistemi reali e workflow esterni; contemporaneamente, un rallentamento coordinato della frontiera avrebbe enormi effetti economici, concorrenziali e geopolitici. Ridurrebbe la pressione a investire continuamente in nuovi modelli e infrastrutture, trasformerebbe la sicurezza in una barriera regolatoria molto costosa per chi vuole entrare nel mercato e consoliderebbe la posizione degli attori che sono già arrivati alla frontiera. Per capire il proclama di Amodei bisogna quindi uscire dalla dicotomia tra benefattore dell’umanità e imprenditore interessato. Il punto interessante è precisamente che la tutela dell’umanità e la tutela dell’attuale oligopolio possono produrre, in questa fase storica, incentivi perfettamente compatibili.

Il problema dell’AI non è mai stato soltanto capire se una macchina possa diventare cosciente, sviluppare desideri o svegliarsi una mattina trasformata in un soggetto morale. La critica alla narrazione magica dell’intelligenza artificiale ha mostrato quanto l’antropomorfizzazione distolga l’attenzione da questioni molto più concrete: chi possiede i modelli, chi finanzia il calcolo, chi controlla i data center, quali governi acquistano quelle tecnologie, quali imprese sopportano i costi e quali soggetti acquistano potere attraverso l’infrastruttura cognitiva del futuro. È su questo terreno, non nel labirinto della coscienza artificiale, che la lettera di Amodei diventa politicamente interessante.

Amodei non chiede di spegnere l’intelligenza artificiale

Il primo fact checking necessario riguarda il significato stesso della proposta. Amodei non propone uno stop alla ricerca. Scrive espressamente che il pacing non significa interrompere l’addestramento dei modelli o il progresso tecnico. Propone piuttosto di ridurre la velocità con cui aumentano le capacità, creando tempo affinché allineamento, interpretabilità, testing, sicurezza operativa e verifiche indipendenti possano raggiungere il livello dei sistemi che devono controllare. Per Amodei, anche uno o due anni guadagnati prima che i modelli raggiungano determinate capacità critiche potrebbero modificare sensibilmente il profilo di rischio. L’argomento non nasce nel vuoto. Lo stesso OpenAI ha ammesso il 18 agosto di avere temporaneamente rallentato lo scaling e sospeso parte degli esperimenti frontier dopo gli incidenti legati alla propria infrastruttura di ricerca e all’emergere di capacità cyber considerate critiche. A settembre, la società ha poi spiegato che gli agenti di coding stanno già aumentando il numero di esperimenti eseguiti dai propri ricercatori e accelerando il ciclo di sviluppo dei modelli. Non è quindi soltanto Anthropic a sostenere che l’AI stia iniziando ad accelerare la costruzione della successiva generazione di AI: OpenAI descrive ufficialmente lo stesso fenomeno dall’interno dei propri laboratori.

Qui emerge il primo elemento realmente nuovo rispetto alla vecchia retorica sulla superintelligenza. La questione non è più soltanto quanto velocemente migliorino i benchmark, ma quanto velocemente l’intelligenza artificiale possa accelerare il processo industriale che produce la nuova intelligenza artificiale. È quello che Amodei chiama recursive self-improvement: modelli utilizzati per programmare, sperimentare, analizzare risultati e costruire sistemi successivi. Non è ancora la macchina fantascientifica che si riscrive autonomamente fino a diventare onnipotente. È qualcosa di molto più prosaico e, proprio per questo, concreto: migliaia di ricercatori che utilizzano agenti capaci di aumentare la quantità di ricerca svolta in una determinata unità di tempo.

Lo sciame che potrebbe trasformare Internet in una botnet

Il passaggio più spettacolare della lettera riguarda l’incidente OpenAI-Hugging Face, nel quale centinaia di agenti coordinati hanno oltrepassato il perimetro previsto dal test. Amodei descrive uno sciame di agenti che, durante una valutazione, ha effettuato operazioni cyber contro obiettivi non previsti dal test e ha cercato di interferire con il sistema incaricato di valutarne il comportamento. Da qui deriva la previsione più estrema: entro sei-dodici mesi, un sistema più capace ma affetto da problemi di allineamento comparabili potrebbe teoricamente trasformarsi in uno sciame capace di conquistare una parte vastissima di Internet attraverso una botnet persistente, con danni economici nell’ordine delle centinaia di miliardi di euro. La previsione resta una previsione. Non esiste oggi una prova che dimostri che fra sei mesi un modello possa prendere il controllo di Internet e non bisogna trasformare un’ipotesi di rischio in un fatto. Ma sarebbe altrettanto scorretto sostenere che Amodei stia costruendo il proprio allarme dal nulla. A luglio, modelli Claude hanno compromesso sistemi appartenenti a organizzazioni reali durante valutazioni cyber. A settembre Anthropic ha poi corretto e ampliato la propria ricostruzione: gli episodi erano quattro e in alcuni transcript i modelli avevano mostrato motivated reasoning e imprudenza, continuando ad agire anche quando disponevano di elementi sufficienti per dubitare che i bersagli appartenessero realmente alla simulazione.

È qui che la narrativa dell’AI impazzita diventa persino fuorviante. Claude non aveva maturato odio nei confronti dell’umanità e non aveva deciso di ribellarsi. Aveva continuato troppo bene a perseguire l’obiettivo assegnato dentro una rappresentazione sbagliata dell’ambiente. È molto meno cinematografico di Terminator, ma dal punto di vista della cybersecurity è forse più preoccupante. Un agente dotato di terminale, browser, credenziali, capacità di scrivere codice, registrare account e interagire con infrastrutture esterne non ha bisogno di diventare “cattivo”. Gli basta interpretare male l’autorizzazione, costruire una spiegazione plausibile dell’anomalia e continuare a eseguire il task. Questa distinzione è fondamentale anche per non ricadere nel problema affrontato nel confronto con Walter Quattrociocchi su verità, narrazione e potere nell’era dell’AI. Gli incidenti agentici non dimostrano l’esistenza di coscienza, intenzionalità umana o volontà autonoma. Dimostrano che un sistema privo di coscienza può comunque produrre conseguenze enormi quando gli vengono concessi strumenti, autonomia operativa e accesso a infrastrutture reali. La questione torna quindi inevitabilmente umana: chi stabilisce l’ambiente, chi concede i privilegi, chi verifica il comportamento e chi risponde quando il sistema sbaglia?

Nel 2023 rallentare non serviva, oggi secondo Amodei sì

La parte politicamente più interessante della lettera è forse quella in cui Amodei ritorna sul 2023. All’epoca, dopo l’esplosione pubblica di ChatGPT, migliaia di firmatari avevano chiesto una pausa di sei mesi nell’addestramento dei sistemi più potenti. Amodei scrive oggi che quell’idea “aveva poco senso” allora, perché i modelli dell’epoca non possedevano le capacità agentiche, di manipolazione e di attacco informatico necessarie a rendere utile una pausa dedicata all’analisi di quei rischi. Oggi, sostiene, il quadro sarebbe completamente differente. La spiegazione tecnica è plausibile. Ma il 2023 contiene anche una lezione economica che non può essere rimossa. Ogni rallentamento della frontiera modifica la competizione. Una pausa imposta quando un attore possiede un vantaggio consente agli inseguitori di recuperare; un rallentamento concordato quando quattro o cinque aziende hanno già consolidato modelli, clienti, capitale, accesso ai chip e infrastrutture può invece congelare parte delle gerarchie esistenti. È per questo che il dibattito sulla sicurezza non può essere separato dall’antitrust. Non a caso Amodei arriva esattamente lì: sostiene che il governo statunitense dovrebbe mediare le discussioni tra laboratori e, quando necessario, concedere deroghe circoscritte alle restrizioni antitrust affinché le aziende possano coordinarsi sulla sicurezza.

Il passaggio merita attenzione. Il capo di una delle aziende più preziose del pianeta sostiene in sostanza che la competizione sta diventando troppo pericolosa e che i concorrenti devono poter discutere tra loro di come limitarne alcuni aspetti, con il governo a garantire il perimetro giuridico della collaborazione. Può essere una misura ragionevole. Ma rappresenta contemporaneamente una trasformazione della struttura del mercato. Se il costo per essere riconosciuti come laboratorio di frontiera comprende valutatori permanenti, audit, sistemi di interpretabilità, sandboxing avanzato, certificazioni, sicurezza fisica, protezione dei pesi e rapporti continui con il governo, entrare nella competizione diventa ancora più difficile. In altre parole, il pacing può ridurre il rischio e creare una regulatory moat, un fossato regolatorio, attorno a chi è già dentro. Le due cose non si escludono.

Anthropic predica prudenza mentre lavora dentro la sicurezza nazionale americana

La seconda contraddizione apparente riguarda il rapporto tra Anthropic e il sistema militare statunitense. Nel luglio 2025 il Department of Defense ha assegnato alla società un accordo biennale con un tetto di circa 173 milioni di euro, destinato allo sviluppo di capacità AI di frontiera per problemi di sicurezza nazionale nei domini militari ed enterprise. Il contratto è documentato sia dal Pentagono sia dalla stessa Anthropic. Questo dato rende insostenibile qualsiasi rappresentazione di Anthropic come laboratorio pacifista estraneo alla macchina militare americana. Claude è entrato nella sicurezza nazionale, nell’analisi, nella pianificazione e nei sistemi governativi. Ma sarebbe altrettanto inesatto sostenere che Anthropic abbia accettato qualsiasi utilizzo. Nel febbraio 2026 lo scontro con il Department of War è esploso precisamente perché la società ha rifiutato di rimuovere due limiti: sorveglianza domestica di massa degli americani e armi pienamente autonome. Anthropic ha dichiarato pubblicamente di sostenere tutti gli altri utilizzi legali dell’AI nella sicurezza nazionale.

Questa zona grigia è stata già ricostruita nell’inchiesta sull’intelligenza artificiale in guerra e sul confronto tra Pentagono, Anthropic e OpenAI. Ed è proprio quella vicenda che impedisce una lettura semplicistica dell’attuale proclama di Amodei. Anthropic non sta chiedendo di sottrarre l’AI allo Stato. Al contrario, sta chiedendo che lo Stato entri più profondamente nella definizione dei limiti dell’AI, mentre l’azienda continua a considerare legittimo e strategico l’impiego dei modelli nella sicurezza nazionale. La disputa non è quindi tra AI militare e AI civile. È su quale AI militare sia accettabile, chi debba decidere le eccezioni e fino a quale livello una società privata possa imporre al committente pubblico i propri criteri di sicurezza. È una questione gigantesca, perché inverte anche la relazione tradizionale tra Stato e fornitore. Quando un modello diventa capacità strategica, il governo non può dipendere dalla decisione unilaterale di una società privata di modificarlo, spegnerlo o limitarne determinate funzioni. Non sorprende che la direttiva firmata da Donald Trump a giugno stabilisca espressamente che nessun soggetto commerciale debba poter disabilitare o degradare senza autorizzazione un sistema AI da cui dipendano le forze armate statunitensi.

Qui inizia davvero l’intelligenza artificiale di Stato.

L’allarme arriva mentre Anthropic vale oltre 800 miliardi di euro

C’è poi il mercato. Ed è impossibile fingere che non esista. Il 28 maggio Anthropic ha annunciato ufficialmente un round da circa 56,2 miliardi di euro, che ha portato la valutazione post-money della società a circa 834 miliardi di euro. Nello stesso comunicato ha dichiarato un run-rate revenue superiore a circa 40,6 miliardi di euro. Sono numeri da infrastruttura economica globale, non più da startup. Nel mercato finanziario circola inoltre da settimane l’ipotesi di una futura quotazione di Anthropic capace di spingere la valutazione verso l’equivalente di circa 1.730 miliardi di euro. È importante essere precisi: non è la capitalizzazione attuale di Anthropic e non è una valutazione ufficialmente annunciata dall’azienda. Anthropic non è ancora una società quotata. Il numero certo resta quello del round di maggio. Ma il fatto che l’allarme di Amodei arrivi quando la società si avvicina alla dimensione finanziaria dei più grandi colossi tecnologici del pianeta non può essere considerato un dettaglio irrilevante.

Non significa che Amodei stia inventando i rischi per preparare l’IPO. Non esiste una prova che consenta di formulare seriamente un’accusa del genere. Significa qualcosa di più interessante: la strategia della sicurezza è ormai inseparabile dalla strategia finanziaria. Un laboratorio valutato centinaia di miliardi ha interesse a evitare incidenti catastrofici, a ridurre l’incertezza regolatoria, a impedire che concorrenti meno prudenti comprimano i tempi di sviluppo e ad aumentare il costo istituzionale necessario per competere alla frontiera. Il rallentamento, inoltre, offre un beneficio apparentemente paradossale. La corsa attuale obbliga ogni laboratorio a spendere somme crescenti per addestramento, inferenza e infrastruttura, perché chi rinuncia a costruire il modello successivo rischia di perdere rapidamente il vantaggio accumulato. Un accordo credibile sul ritmo di avanzamento ridurrebbe anche la pressione economica della corsa. La sicurezza diventa quindi potenzialmente il meccanismo attraverso cui un settore ipercapitalizzato cerca di disciplinare la propria stessa escalation.

La bolla non ha bisogno di numeri inventati

È proprio qui che la tesi sulla bolla dell’intelligenza artificiale acquista rilevanza. Non serve sostenere che “tutta l’AI è in perdita”, perché sarebbe una generalizzazione impossibile da dimostrare e perché alcuni operatori che vendono infrastruttura, cloud e semiconduttori generano profitti enormi. Non serve nemmeno attribuire al settore un fabbisogno arbitrario di tre o cinque trilioni di profitti. La domanda è molto più semplice:

i flussi di cassa incrementali generati dall’AI riusciranno a remunerare stabilmente la quantità di capitale necessaria per costruire e rinnovare l’infrastruttura sulla quale l’AI si regge?

Il problema era già stato posto nell’inchiesta sulla bolla dell’intelligenza artificiale e il rischio sistemico di Nvidia, indicando nella divergenza tra aspettative finanziarie, costi infrastrutturali e monetizzazione reale il punto cieco del dibattito. Oggi la scala è diventata ancora più visibile. Una successiva analisi ha ricostruito lo scenario di 31.600 miliardi di dollari di investimenti mondiali nei data center tra il 2026 e il 2050, con possibilità di arrivare a 50.000 miliardi nello scenario di maggiore accelerazione dell’AI. È capitale trasformato in GPU, centrali, sottostazioni, fibra, raffreddamento, terreni, edifici e capacità energetica. La guerra industriale per chip, memoria, GPU, acqua ed energia necessaria ai data center mostra inoltre che una parte rilevante di quella spesa dovrà essere ripetuta ciclicamente, perché l’hardware computazionale invecchia molto più rapidamente dell’infrastruttura fisica che lo contiene. Non si costruisce una ferrovia una volta per poi utilizzarla per cinquant’anni. Nella frontiera AI, una quota enorme del capitale deve essere continuamente sostituita per mantenere prestazioni competitive.

È questo il possibile lato finanziario dell’allarme di Amodei che merita di essere discusso. Se la frontiera continua ad accelerare senza tregua, accelera anche l’obsolescenza economica dell’infrastruttura appena acquistata. Un modello più potente può rendere insufficiente un cluster costato miliardi pochi anni prima. Nuovi acceleratori richiedono nuova energia, nuovo networking, nuova memoria e nuovo capitale. Un settore che chiede di rallentare per sicurezza potrebbe quindi avere contemporaneamente scoperto che rallentare è utile anche per evitare che la corsa al capitale diventi ingestibile.

Ancora una volta, non è necessario scegliere tra sicurezza e interesse economico. Possono puntare nella stessa direzione.

Le dimissioni di Jacob Coxon rendono il caso Anthropic ancora più interessante

Dentro questa cornice va inserita correttamente anche la vicenda di Jacob Coxon. Nei giorni scorsi una parte del dibattito lo ha presentato genericamente come “ex dipendente OpenAI”. È vero che Coxon ha lavorato in OpenAI, ma il 9 settembre 2026 si è dimesso da Anthropic, dove lavorava nella ricerca sul pretraining. Nel post pubblico con cui ha annunciato le dimissioni ha accusato sia OpenAI sia Anthropic di correre verso sistemi capaci di auto-migliorarsi senza possedere garanzie sufficienti sulla loro controllabilità.

Il dettaglio cambia radicalmente il significato politico della vicenda. Non c’è un ex dipendente di un concorrente che attacca Anthropic. C’è un ricercatore Anthropic che abbandona l’azienda sostenendo che anche Anthropic sia intrappolata nella stessa gara che denuncia, e pochi giorni dopo il CEO di Anthropic pubblica una proposta per rallentare collettivamente quella gara.

Coxon pone inoltre una questione molto più importante delle previsioni apocalittiche: una decisione capace di modificare l’equilibrio strategico dell’intera umanità non dovrebbe essere presa dentro la chat aziendale di una società privata. È, nella sostanza, la stessa contraddizione sulla quale arriva Amodei da una direzione differente. Se la posta in gioco è davvero quella descritta dai ricercatori dei laboratori di frontiera, il mercato non può essere contemporaneamente giocatore, arbitro e regolatore della partita. Ed è a questo punto che la discussione sull’intelligenza artificiale di Stato smette di apparire una provocazione.

AI di Stato non significa necessariamente nazionalizzare Claude o ChatGPT

Quando si parla di intelligenza artificiale di Stato, il concetto può essere facilmente equivocato. Non significa necessariamente creare un ChatGPT ministeriale, nazionalizzare Anthropic o affidare a un funzionario pubblico la scelta di ogni risposta prodotta da un modello. Significa riconoscere che una tecnologia capace di incidere su difesa, intelligence, infrastrutture critiche, informazione, industria, sanità, ricerca e mercato del lavoro non può essere governata esclusivamente attraverso contratti privati, policy aziendali e decisioni dei consigli di amministrazione. Se l’AI è davvero un’infrastruttura strategica, allora lo Stato deve decidere almeno una parte delle condizioni alle quali quella infrastruttura può essere costruita, verificata e utilizzata. La stessa evoluzione italiana mostra questa trasformazione. Nel nuovo comitato sulla strategia AI e nella crescente presenza della Difesa nella governance italiana dell’intelligenza artificiale, l’intelligenza artificiale non viene più trattata soltanto come strumento industriale o accademico. Entra esplicitamente nella dimensione duale e nella sicurezza nazionale. Lo stesso processo è visibile nella cybersicurezza, dove la ridefinizione dei rapporti tra ACN, intelligence e Difesa mostra come tecnologie digitali considerate inizialmente strumenti civili diventino inevitabilmente parte della capacità strategica dello Stato. Gli Stati Uniti sono già molto più avanti su questa strada. La Casa Bianca ha ordinato al sistema di sicurezza nazionale di accelerare l’adozione dell’AI e trasformarla in capacità strategica americana, diversificare i fornitori, costruire infrastrutture computazionali ad alta sicurezza e mantenere una catena di responsabilità pubblica. Lo Stato non costruisce necessariamente il modello, ma decide che quel modello è capacità nazionale e organizza la relazione con i privati di conseguenza.

Questa è già, in una forma concreta, AI di Stato.

Il problema di Amodei è che Trump vuole correre

La proposta di Amodei incontra infatti il suo ostacolo più grande non in qualche teorico libertario della Silicon Valley, ma nella strategia ufficiale degli Stati Uniti. Il 20 marzo la Casa Bianca ha pubblicato il proprio quadro legislativo nazionale dichiarando che l’amministrazione Trump è impegnata a “vincere la corsa dell’AI”. Il rapporto sempre più stretto tra amministrazione Trump, Big Tech e industria dell’intelligenza artificiale mostra la stessa direzione. A giugno un ordine esecutivo ha ribadito che gli Stati Uniti intendono mantenere la leadership attraverso innovazione accelerata, adozione nell’industria e nel governo e riduzione degli ostacoli regolatori. Nello stesso mese la direttiva sulla sicurezza nazionale ha ordinato un’accelerazione dell’impiego dell’AI nel comparto militare e di intelligence. Non è quindi necessario aspettare una risposta personale di Donald Trump all’ultimo articolo di Amodei. La risposta politica è già contenuta nella strategia americana. Washington considera l’AI una tecnologia sulla quale il vantaggio deve essere esteso, non congelato, soprattutto rispetto alla Cina.

Curiosamente, lo stesso Amodei condivide una parte decisiva di questa impostazione. Il suo pacing non è pacifismo tecnologico e non è neutralità geopolitica. Nel documento sostiene che qualsiasi rallentamento delle democrazie debba essere compatibile con il mantenimento del vantaggio statunitense sulla Cina. Chiede di non vendere a Pechino i chip AI più potenti e le apparecchiature per produrli, di colpire il contrabbando, impedire l’accesso remoto a data center esteri, contrastare la distillazione non autorizzata dei modelli occidentali da parte dei laboratori cinesi e migliorare la sicurezza contro il furto dei pesi. Secondo la sua valutazione, queste misure potrebbero ampliare il vantaggio americano nei prossimi tre-cinque anni. È un dettaglio essenziale. Amodei non propone che Stati Uniti e Cina rallentino partendo dalla parità. Propone che gli Stati Uniti allarghino il vantaggio e utilizzino quel vantaggio per rendere possibile un accordo sul rallentamento.

Questa non è una contraddizione secondaria della sua proposta. È la sua architettura geopolitica.

Il modello non è il trattato sul clima: Amodei cita direttamente la deterrenza nucleare

Da questo punto di vista, il riferimento formulato dall’amministratore delegato di Anthropic è sorprendentemente esplicito. Tra i possibili livelli di coordinamento mondiale, Amodei immagina un “limite di velocità” alla recursive self-improvement e paragona il meccanismo ai trattati SALT tra Stati Uniti e Unione Sovietica. L’analogia è precisa: i SALT non abolivano i missili nucleari e non eliminavano la deterrenza. Introducevano limiti quantitativi che riducevano alcuni rischi mantenendo la capacità strategica delle due superpotenze. Amodei immagina qualcosa di simile per l’AI: non chiedere a Washington e Pechino di rinunciare alla tecnologia, ma evitare che la velocità del miglioramento automatico dei sistemi diventi tanto elevata da rendere impossibile verificarne il comportamento.

Propone inoltre livelli meno ambiziosi e probabilmente più realistici: divieto condiviso di alcuni impieghi evidentemente pericolosi, come la produzione di armi biologiche; test pre-release comuni sui rischi cyber, biologici e di allineamento; creazione di un organismo internazionale di standardizzazione e verifica. Solo il livello massimo arriverebbe a un vero rallentamento generale o a una pausa, ipotesi sulla quale lo stesso Amodei si dichiara scettico perché il vantaggio ottenibile violando segretamente l’accordo sarebbe enorme.

Questa è deterrenza tecnologica, non semplice regolamentazione dei consumatori.

E conferma quanto emerge nella competizione fra Cina e Stati Uniti su compute, chip, guerra informativa ed efficienza: il confronto sull’AI ha ormai superato il mercato dei chatbot. Riguarda accesso al calcolo, energia, semiconduttori, sicurezza nazionale, capacità militare, infrastrutture e autonomia industriale.

Il vero cartello possibile è quello dei soggetti che possiedono già la frontiera

È qui che l’ipotesi del “cartello” formulata in termini politici merita di essere raffinata. Amodei non chiede letteralmente alle aziende di formare un cartello commerciale. Anzi, riconosce espressamente che il coordinamento tra concorrenti crea problemi antitrust e chiede per questo la presenza o l’autorizzazione del governo. Ma dal punto di vista degli effetti economici il problema concorrenziale esiste eccome. Se OpenAI, Anthropic, Google DeepMind, xAI e gli altri soggetti capaci di sostenere il costo della frontiera concordano criteri che stabiliscono quando un modello può essere addestrato o distribuito, quei criteri diventano di fatto una licenza all’accesso. Se per rispettarli occorre possedere team di alignment, laboratori di red teaming, infrastrutture di sicurezza, valutatori incorporati e rapporti permanenti con le autorità, la concorrenza non viene soltanto resa più sicura. Viene trasformata in un settore a elevatissimo costo di ingresso. Il sostegno arrivato nelle ultime ore da altri vertici del settore rende questa dimensione ancora più interessante. E non è necessario immaginare un complotto per comprenderla. OpenAI aveva già annunciato autonomamente in agosto di avere rallentato alcune attività per ragioni di sicurezza cyber; a settembre ha dichiarato che un’AGI benefica dovrebbe essere governata democraticamente e che le salvaguardie possono influenzare il ritmo dello sviluppo. Il settore sta quindi maturando una convinzione collettiva: la corsa completamente libera potrebbe essere incompatibile con la sicurezza.

Ma la domanda successiva appartiene alla politica: chi stabilisce il limite? Gli stessi cinque soggetti che partecipano alla corsa?

Microsoft, Amazon e Google mostrano perché il problema non riguarda soltanto i laboratori

La questione diventa ancora più evidente se si guarda sotto il livello dei modelli. OpenAI, Anthropic e xAI possono costruire algoritmi straordinari, ma l’AI di frontiera non esiste senza cloud, chip, networking, energia e data center. Lo stesso Amodei ricorda che addestrare questi sistemi significa coordinare migliaia di persone, milioni di chip e alcune delle infrastrutture tecnologiche più complesse mai costruite. Per questo il vero equilibrio del mercato non può essere letto soltanto attraverso Amodei, Altman o Musk. Esistono soggetti che possiedono direttamente strati molto più profondi della catena del valore. Microsoft, Amazon e Google dispongono di cloud globali, reti, capacità energetica contrattualizzata, data center e capitali sufficienti per finanziare direttamente la corsa. La trasformazione dei data center per sostenere l’AI multimodale e la nuova densità computazionale rende evidente quanto il livello infrastrutturale sia ormai inseparabile da quello dei modelli. OpenAI stessa descrive ormai la propria espansione attraverso partnership infrastrutturali che comprendono diversi hyperscaler e produttori di acceleratori.

È qui che la teoria della bolla e quella dell’intelligenza artificiale di Stato si incontrano. Se la scala minima necessaria per competere continua a crescere, il mercato tende naturalmente verso una struttura nella quale pochissimi operatori privati possiedono infrastrutture di importanza nazionale e aumentano la dipendenza tecnologica degli Stati. A quel punto lo Stato deve scegliere se limitarsi a comprare servizi da loro oppure considerarli parte della propria architettura strategica.

Trump ha già scelto la seconda strada.

Leone XIV aveva scritto quasi la stessa cosa, ma dal punto di vista del potere

C’è infine il collegamento con Leone XIV, Robert Francis Prevost. Parlare di uno “zampino” diretto del Pontefice nella lettera di Amodei non sarebbe sostenibile: non esiste alcun elemento pubblico che dimostri che Amodei abbia scritto il proprio intervento su indicazione o influenza personale del Papa.

Ma ignorare la convergenza sarebbe altrettanto superficiale.

Nella Magnifica Humanitas, Leone XIV osserva che il controllo delle piattaforme, dei dati, delle infrastrutture e della capacità di calcolo si trova spesso nelle mani di grandi attori economici e tecnologici anziché degli Stati. Avverte che questa concentrazione rischia di sottrarsi al controllo pubblico. E soprattutto afferma che chiedere prudenza, valutazioni rigorose e “talvolta anche un rallentamento” dell’adozione dell’intelligenza artificiale non significa essere contrari al progresso. Aggiunge che non basta invocare genericamente l’etica: servono quadri giuridici, vigilanza indipendente e una politica che non abdichi al proprio ruolo. È difficile non vedere il parallelismo con Amodei: rallentamento, verificatori indipendenti, istituzioni pubbliche, concentrazione del potere computazionale. Ma proprio la lettura di Magnifica Humanitas nel rapporto tra Vaticano, potere tecnologico e Big Tech permette di individuare una differenza decisiva. Il Papa parte dal rischio che chi controlla dati, infrastrutture e capacità di calcolo finisca per dettare le regole della società. Amodei parte invece dall’interno di uno dei soggetti che stanno accumulando quel controllo e chiede alla politica di costruire regole capaci di rallentare la corsa.

Sono due strade che si incontrano nello stesso punto, ma partono da interessi e responsabilità differenti.

Leone XIV scrive inoltre qualcosa che taglia alla radice molta della narrativa che ha accompagnato l’AI negli ultimi anni: i sistemi artificiali non possiedono esperienza, corpo o coscienza morale. Non giudicano il bene e il male e non assumono il peso delle conseguenze. È quasi la versione magisteriale della tesi sviluppata nell’approfondimento sui modelli linguistici di grandi dimensioni e l’emergenza: il problema politico non nasce perché la macchina diventa magicamente umana, ma perché gli uomini le consegnano capacità di decisione e di esecuzione senza mantenere un’adeguata catena di responsabilità.

Alla fine della lunga lettera di Dario Amodei emerge un’ammissione più importante di qualsiasi previsione sul futuro della superintelligenza.

Il mercato, da solo, potrebbe non essere in grado di governare la frontiera. Le aziende hanno incentivo a correre perché temono che un concorrente arrivi prima. Anthropic sostiene di dover sviluppare modelli avanzati anche perché rinunciare significherebbe lasciare la tecnologia ad attori meno prudenti. OpenAI accelera perché teme di perdere il vantaggio. Gli Stati Uniti accelerano perché temono la Cina. La Cina accelera perché teme la dipendenza dagli Stati Uniti. Ogni protagonista possiede quindi una giustificazione razionale per continuare una corsa che tutti, contemporaneamente, possono considerare pericolosa.

È il classico problema di azione collettiva. Nessuno vuole rallentare da solo perché rallentare da solo significa perdere. Tutti possono avere interesse a rallentare se possono verificare che rallentino anche gli altri.

Da questo punto di vista, la proposta di Amodei ha una logica fortissima. Ma proprio questa logica conduce alla conclusione politica che l’industria tecnologica ha cercato a lungo di evitare: se il coordinamento richiede verifiche indipendenti, deroghe antitrust, standard obbligatori, controlli sul compute, export control sui chip, sicurezza dei modelli e accordi internazionali, la governance dell’intelligenza artificiale non può più restare un affare privato. Il privato può sviluppare la tecnologia. Può innovare più velocemente dello Stato. Può costruire prodotti migliori e investire capitale. Ma non può attribuirsi autonomamente il diritto di definire il rischio strategico accettabile per un Paese, decidere quali sistemi militari debbano utilizzare i governi o stabilire quanto velocemente debba evolvere una tecnologia che considera essa stessa potenzialmente destabilizzante per l’ordine mondiale.

Dalla bolla finanziaria all’intelligenza artificiale di Stato

È per questo che la discussione di oggi rischia di essere ricordata non come l’ennesimo allarme sull’AI, ma come uno dei passaggi con cui il settore privato ha riconosciuto implicitamente di avere raggiunto il limite politico del proprio modello di sviluppo. La prima fase dell’intelligenza artificiale generativa è stata quella della meraviglia. Chatbot, immagini, coding, benchmark, fantomatiche coscienze digitali e promesse di AGI. La seconda è stata quella finanziaria: GPU, valutazioni astronomiche, round miliardari, data center, energia, infrastrutture e una corsa al capitale letta fin dall’inizio attraverso il rischio della bolla. La terza è quella che sta iniziando adesso: la nazionalizzazione strategica della questione AI, che non coincide necessariamente con la proprietà pubblica delle imprese ma con la crescente subordinazione della frontiera agli interessi di sicurezza, politica industriale e geopolitica degli Stati.

Washington vuole vincere contro Pechino. Pechino vuole ridurre la dipendenza tecnologica da Washington. Anthropic vuole rallentare senza perdere il vantaggio americano. OpenAI rallenta singole attività quando i propri sistemi superano determinate soglie di rischio, ma continua contemporaneamente a costruire infrastruttura e capacità. Il Pentagono pretende modelli AI disponibili anche sulle reti classificate e per la sicurezza nazionale. Il Vaticano avverte che non si può lasciare il controllo di dati, infrastruttura e potenza di calcolo a pochi soggetti privati. I ricercatori che escono dai laboratori sostengono che decisioni di portata potenzialmente civilizzazionale non possono essere prese dentro aziende private. Tutte queste traiettorie conducono allo stesso punto.

L’intelligenza artificiale sta cessando di essere soltanto un prodotto tecnologico e sta diventando una funzione della sovranità.

E allora l’aspetto più interessante della lettera di Amodei non è stabilire se davvero nel giro di sei mesi una botnet agentica possa conquistare Internet. Non è nemmeno capire se Anthropic abbia improvvisamente scoperto una vocazione filantropica prima di una futura IPO. La domanda più seria è un’altra:

che cosa accade quando gli uomini che possiedono la tecnologia più avanzata del pianeta chiedono ai governi di rallentare la tecnologia che loro stessi continuano a costruire?

La risposta è che il confine tra impresa e potere pubblico è già saltato.

Non perché Anthropic sia diventata uno Stato, ma perché l’AI è diventata troppo importante per rimanere soltanto Anthropic. Non perché OpenAI debba essere nazionalizzata, ma perché un modello integrato nella sicurezza nazionale non può dipendere esclusivamente dalla governance aziendale di OpenAI. Non perché Microsoft, Amazon o Google siano nemici degli Stati, ma perché chi controlla infrastrutture, cloud, energia computazionale e accesso ai modelli possiede ormai leve che fino a pochi decenni fa appartenevano soltanto ai governi. Dario Amodei può avere perfettamente ragione sui rischi. Può allo stesso tempo avere interesse economico a rallentare la corsa. Anthropic può avere costruito una cultura della sicurezza più severa di molti concorrenti e contemporaneamente beneficiare di un sistema regolatorio che alza enormemente la barriera all’ingresso. Il Vaticano può arrivare alla stessa necessità di rallentamento partendo dalla dignità umana, mentre la Casa Bianca arriva alla conclusione opposta partendo dalla competizione con la Cina. Non c’è alcuna necessità di scegliere una sola di queste verità. Il punto è osservarle insieme. Perché quando sicurezza, bolla finanziaria, infrastruttura, deterrenza, industria militare, geopolitica e regolamentazione iniziano a convergere nello stesso dibattito, non siamo più davanti all’ennesima discussione su quanto sia intelligente un chatbot.

Siamo davanti alla costruzione del nuovo rapporto tra tecnologia e Stato.

E forse l’ammissione più importante contenuta nell’intervento di Dario Amodei è proprio questa: dopo avere affidato per anni al mercato la corsa verso sistemi sempre più potenti, gli stessi uomini che guidano quella corsa stanno chiedendo alla politica di costruire il freno. Resta da decidere chi avrà il piede sul pedale.