OpenAI Dots gira su VM AMD EPYC a 9 core: il costo nascosto degli agenti AI

⚙️ Da sapere

• I benchmark attribuiti a OpenAI Dots mostrano VM con 9 core AMD EPYC 9V74, circa 9,73 GB di RAM e Debian Linux.
• I run post-lancio registrano circa 8.550 punti multi-core mediani, contro 1.394 di Meta Muse, configurato con due core e 8 GB.
• Geekbench misura il cloud computer operativo dell’agente, non i server GPU che eseguono l’inferenza di GPT-6 Astra.

I benchmark pubblici iniziano a mostrare quanto hardware serva non per addestrare o eseguire il modello AI, ma semplicemente per dare a un agente autonomo il proprio computer nel cloud. Una serie di risultati Geekbench 7 attribuiti a OpenAI Dots indica macchine virtuali con 9 core AMD EPYC 9V74 e circa 9,73 GB di RAM, configurazione nettamente superiore ai due core e 8 GB utilizzati dai sandbox di Meta Muse. La differenza è importante perché Dots non coincide con GPT-6 Astra: il modello viene eseguito dall’infrastruttura di inferenza di OpenAI, mentre la VM rappresenta il computer Linux sul quale l’agente può utilizzare browser, terminale, file e applicazioni. È qui che emerge un secondo costo dell’AI agentica, spesso nascosto dietro quello delle GPU.

Dots riceve un vero computer Linux con 9 core e quasi 10 GB di RAM

Il primo risultato Geekbench attribuito a Dots è comparso prima del lancio ufficiale e mostrava 1.667 punti single-core e 9.435 multi-core. Quel run, risalente al 25 settembre, utilizzava Ubuntu ed è rimasto leggermente superiore ai risultati successivi. Cercando autonomamente nel database pubblico Geekbench si trovano sei esecuzioni effettuate dopo il lancio con la stessa configurazione: AMD EPYC 9V74, nove core virtuali, 9,73 GB di memoria e Debian Linux.

I punteggi si collocano tra 1.512 e 1.614 in single-core e tra 8.135 e 8.991 in multi-core, abbastanza vicini da suggerire una configurazione ripetibile piuttosto che una VM occasionale. OpenAI descrive Dots come agenti dotati del proprio cloud computer, browser e accesso alle applicazioni collegate, un’impostazione che porta alle estreme conseguenze il modello di agente già emerso nell’intervista all’agente AI che aveva mostrato fino a che punto OpenAI stesse automatizzando operazioni reali. Il dato Geekbench non permette tuttavia di stabilire che ogni Dot mantenga permanentemente nove core dedicati, né quanto le risorse vengano condivise, ridimensionate o sospese durante l’inattività.

Leggi anche: GPT-6 Astra trova zero-day mentre OpenAI affronta outage e una falla cross-account

Sei volte Meta Muse non significa sei volte più intelligenza

Il confronto con Meta Muse aiuta soprattutto a capire quanto differenti siano le politiche di provisioning. Muse utilizza VM con due core AMD EPYC 9D25 Turin e circa 7,75 GB di memoria, mentre la configurazione attribuita a Dots assegna nove core EPYC 9V74 a una frequenza base riportata da Geekbench di 2,6 GHz. Nei dieci benchmark Muse disponibili il valore mediano è di circa 1.041 punti single-core e 1.394 multi-core; Dots si colloca rispettivamente intorno a 1.570 e 8.550, quindi circa 1,5 volte più veloce in single-core e sei volte in multi-core. La differenza non misura però la qualità del modello AI. Geekbench sta testando la CPU del computer remoto sul quale l’agente esegue software, script e processi locali; non misura GPT-6 Astra contro il modello utilizzato da Meta, né l’efficienza delle rispettive GPU di inferenza. Gran parte del vantaggio multi-core deriva banalmente dai nove core contro due, oltre che dalla frequenza differente. La distinzione diventa cruciale in un mercato nel quale CPU, GPU e acceleratori AI stanno assumendo funzioni sempre più specializzate: il modello generativo può risiedere su cluster GPU remoti mentre l’agente necessita contemporaneamente di una macchina general-purpose separata per eseguire il lavoro prodotto dal modello.

Continua con:
ESCLUSIVA – Abbiamo intervistato l’Agente AI che ha messo OpenAI fuori controllo
GPT-6 Astra trova zero-day ma OpenAI affronta outage e una falla cross-account

Gli agenti trasformano le CPU da supporto a nuovo collo di bottiglia del cloud

La conseguenza più interessante non riguarda quindi il record Geekbench, ma la moltiplicazione delle risorse necessarie quando gli agenti passano da esperimento a servizio di massa. Se un chatbot tradizionale consuma soprattutto inferenza quando riceve una richiesta, un agente dotato di browser, filesystem, suite creative e strumenti di sviluppo necessita anche di un ambiente computazionale nel quale eseguire il lavoro. Dots dispone, secondo le informazioni raccolte, di applicazioni come Chromium, Blender, GIMP, Inkscape, Kdenlive, Godot, FreeCAD, KiCad e QGIS, oltre a Python, Node.js e Git. Un simile ambiente rende plausibile l’utilizzo di più core per compilazioni, rendering, automazioni e processi concorrenti, ma amplifica anche il costo per utente quando il servizio viene portato su larga scala. Meta Muse avrebbe già superato 500.000 utenti attivi giornalieri, rendendo visibile il problema persino con sandbox da soli due core. OpenAI ha inoltre dichiarato che in futuro gli utenti potranno aggiungere più Dots e aumentarne la velocità. È qui che la corsa all’AI cambia forma: accanto alla scarsità delle GPU per l’inferenza emerge una domanda crescente di CPU ad alta densità e memoria per milioni di computer virtuali persistenti. I benchmark non dimostrano ancora quale sia il costo effettivo di un Dot, ma mostrano con chiarezza che l’agente autonomo non è soltanto un modello più sofisticato: è un modello al quale il provider deve mettere a disposizione anche un vero computer.