Nvidia RTX 4090 sbloccata: Tensor AI raddoppia, ma gli LLM no

📌 In Sintesi

• Progetti open source hanno dimostrato la possibilità di rimuovere alcuni limiti al throughput Tensor sulle GPU Nvidia RTX 20, 30 e 40, sfruttando componenti firmware e moduli Linux non ufficiali.
• La RTX 4090 passa da circa 165 a oltre 330 TFLOPS in specifici test FP16 e BF16 con accumulo FP32, ma le applicazioni reali mostrano incrementi generalmente inferiori.
• Lo sblocco non accelera automaticamente la generazione di token degli LLM, non supporta le RTX 50 e comporta rischi di stabilità e compatibilità che ne sconsigliano l’uso sui sistemi di produzione.

Una modifica sperimentale consente di raddoppiare il throughput di alcune operazioni Tensor sulle schede Nvidia GeForce RTX 4090, superando limitazioni presenti nell’hardware consumer rispetto alle soluzioni professionali. Il risultato è stato documentato il 23 ottobre 2026 attraverso il progetto open source gpu-unlock-ada e successivamente riprodotto da altri utilizzatori con differenti versioni dei driver Linux. Progetti collegati estendono il principio alle precedenti architetture Ampere e Turing, comprese RTX 3090, RTX 3080 e RTX 2080 Ti. Il raddoppio riguarda però specifiche istruzioni matematiche, non le prestazioni complessive della GPU, e i test mostrano guadagni molto più limitati nell’utilizzo di modelli linguistici e applicazioni AI reali.

RTX 4090 supera 330 TFLOPS sbloccando il throughput Tensor

Il progetto gpu-unlock-ada, pubblicato su GitHub documenta una procedura che modifica alcuni registri di configurazione delle GPU Nvidia prima dell’inizializzazione del driver ufficiale, permettendo di utilizzare una maggiore velocità di emissione delle istruzioni Tensor. Sulla RTX 4090 con GPU AD102, i test FP16 con accumulo FP32 passano da 165,6 a 331,6 TFLOPS, mentre quelli BF16 salgono da 165,5 a 330,6 TFLOPS. L’incremento corrisponde sostanzialmente al raddoppio del throughput in quella specifica modalità di calcolo, una prestazione finora limitata sulle GeForce rispetto a determinate configurazioni professionali. I test di controllo mostrano che le operazioni INT8 e altre istruzioni non interessate dal limite rimangono sostanzialmente invariate, circostanza che permette di escludere un generico raddoppio della potenza della scheda. Lo sblocco è stato riprodotto anche con driver Nvidia differenti, utilizzando confronti fra configurazione originale e modificata sulla stessa GPU. Il risultato interessa direttamente l’evoluzione dei PC destinati all’intelligenza artificiale locale e il confronto fra Nvidia e soluzioni alternative con maggiore memoria, perché dimostra che alcune prestazioni dell’hardware consumer dipendono anche dai profili di configurazione stabiliti dal produttore.

Leggi anche: Perplexity Portable Computer arriva su Windows: l’AI locale richiede almeno 24 GB di VRAM

Ampere e Turing beneficiano dello sblocco, ma i risultati cambiano

Il progetto originale gpu-unlock di Zagitta si concentra principalmente sulle schede Ampere, mentre altri sviluppatori hanno adattato il metodo a Ada Lovelace e Turing. Nei test pubblicati per la RTX 3090 Ti, una moltiplicazione di matrici BF16 passa da 87,50 a 157,41 TFLOPS, mentre le operazioni FP16 crescono da 87,46 a 118,39 TFLOPS e quelle TF32 da 42,58 a 82,61 TFLOPS. I miglioramenti sono quindi molto diversi a seconda della precisione numerica utilizzata e della configurazione della scheda. Su una RTX 2080 Ti modificata con 22 GB di memoria, alcuni test FP16 mostrano incrementi compresi indicativamente fra il 36 e il 64%, mentre la compatibilità delle altre GPU Turing non è stata dimostrata in modo uniforme. Anche per Ada il supporto oltre RTX 4090 rimane sperimentale: sono stati effettuati test su varianti specifiche di RTX 4070 Ti Super e RTX 4060 Ti, ma la presenza di un chip appartenente alla stessa famiglia non garantisce che ogni scheda possa essere modificata con successo. Le GPU RTX 50 basate su Blackwell non risultano supportate da questi progetti. I risultati dipendono inoltre dai limiti di potenza, dal raffreddamento, dalla versione del driver e dalla natura del benchmark, ragione per cui i miglioramenti misurati su due schede apparentemente simili possono essere differenti.

La generazione di token negli LLM resta limitata soprattutto dalla memoria

La distinzione più importante riguarda le applicazioni reali. I benchmark teorici misurano quante operazioni matematiche una GPU può emettere in condizioni favorevoli, mentre un modello linguistico deve continuamente movimentare pesi, attivazioni e dati attraverso la memoria video. La generazione sequenziale dei token durante l’inferenza di molti LLM è spesso limitata dalla banda della memoria anziché dal massimo throughput Tensor, soprattutto con batch ridotti. Per questo i test pubblicati dagli sviluppatori mostrano aumenti nella fase di elaborazione iniziale del prompt, ma vantaggi molto inferiori o praticamente nulli nella successiva generazione delle risposte. In una serie di prove su schede Ampere, il cosiddetto prefill migliora fra il 14 e il 36%, mentre il decode rimane sostanzialmente invariato. Sulla RTX 4090 alcuni benchmark di moltiplicazione di matrici hanno mostrato aumenti reali compresi fra il 12 e il 34% per FP16 e fino al 20% per BF16, ben lontani dal raddoppio delle istruzioni isolate. Le operazioni di generazione delle immagini e alcuni carichi di diffusione possono invece beneficiare maggiormente della capacità matematica disponibile, ma anche in questo caso dipende da quali precisioni e kernel siano effettivamente utilizzati. Un raddoppio del valore in TFLOPS non deve dunque essere presentato come un raddoppio della velocità di Stable Diffusion, ComfyUI, llama.cpp o delle applicazioni di gaming. Il risultato è importante proprio perché permette di studiare separatamente i limiti artificiali del calcolo, la disponibilità di memoria e l’efficienza del software.

La modifica coinvolge firmware e driver: rischi per stabilità e sicurezza

Lo sblocco sfrutta una debolezza individuata in componenti del firmware Nvidia eseguiti nel processore di sicurezza della GPU e utilizza un modulo kernel Linux per applicare le modifiche prima del caricamento del driver tradizionale. Non si tratta di un aggiornamento Nvidia ufficiale né di una semplice impostazione da attivare nel pannello di controllo, ma di una modifica a basso livello che interviene sull’inizializzazione dell’hardware. Gli sviluppatori dichiarano che alcune configurazioni possono bloccarsi, non riavviarsi correttamente o presentare instabilità, e che non è stata dimostrata una compatibilità generale con tutti i modelli, i sistemi operativi o i driver. I sistemi Windows sono interessati da esperimenti separati, senza un percorso ufficiale di installazione paragonabile a un aggiornamento standard. Il progetto evidenzia inoltre che lo sblocco di determinate operazioni non implica l’assenza di conseguenze termiche o elettriche: carichi diversi possono aumentare il consumo e mantenere la GPU più a lungo vicino ai propri limiti. Per chi impiega una workstation quotidianamente, come nel caso dei sistemi Linux utilizzati per l’elaborazione video e GPU Nvidia RTX, la scelta più prudente è osservare l’evoluzione dei progetti prima di modificare una macchina destinata alla produzione.

Continua con:

Allarme GPUBreach: vulnerabilità Rowhammer nelle GPU Nvidia

La scoperta riapre il confronto fra GPU consumer e prodotti professionali

I risultati mostrano quanto la differenziazione commerciale delle GPU possa dipendere non soltanto dai componenti fisici, ma anche da limitazioni introdotte attraverso la configurazione e il firmware. La RTX 4090 possiede risorse computazionali che, in alcune modalità Tensor, possono essere utilizzate a una velocità superiore a quella normalmente consentita, ma il risultato non cancella le differenze fra GeForce e schede professionali per memoria, affidabilità, supporto software e ambienti di produzione certificati. Rimangono inoltre da verificare la stabilità su periodi lunghi, il comportamento con carichi AI diversificati e il possibile intervento di Nvidia attraverso aggiornamenti futuri. Il caso può interessare sviluppatori di AI locale, laboratori e appassionati di calcolo parallelo, ma non costituisce una soluzione immediata alla scarsità di GPU né consente di raddoppiare automaticamente la capacità di addestramento o inferenza di una macchina. Il dato industriale resta comunque rilevante: una parte del potenziale matematico delle GeForce può essere recuperata attraverso ricerca indipendente, mostrando quanto firmware, driver e segmentazione commerciale incidano sull’accesso alle prestazioni dell’hardware già acquistato.