Gemini mi consiglia di andare a 120 col limite di 100. L’Austria presenta il conto

Key findings

• Gemini conosceva il limite di 100 km/h e sapeva che 120 lo superava, ma ha comunque definito quella velocità un «buon compromesso», mostrando una contraddizione tra informazioni disponibili e risposta generata.
• Il caso non riguarda la responsabilità della multa, che resta del conducente, ma la capacità degli LLM di produrre risposte linguisticamente plausibili anche quando risultano incoerenti con un vincolo esplicito già presente nel contesto.
• La stessa dinamica diventa più critica con gli agenti AI: quando il modello non si limita più a rispondere ma può agire, acquistare o interagire con servizi esterni, la corretta gestione di limiti e condizioni diventa un requisito di affidabilità.

Google Gemini conosce il limite di velocità, spiega che superarlo comporta una sanzione e avverte persino delle conseguenze previste per le violazioni più gravi. Poi, quando l’utente propone di viaggiare a 120 km/h su una strada dove il limite è 100, risponde che «sembra un buon compromesso». Qualche settimana dopo arriva dall’Austria una contestazione per 19 km/h oltre il limite, già al netto della tolleranza di misurazione. La responsabilità della multa resta ovviamente di chi guidava e attribuirla a un chatbot sarebbe ridicolo. Proprio per questo la storia è interessante: non è una lamentela contro l’intelligenza artificiale, ma un piccolo esperimento involontario che mostra con una chiarezza quasi comica la differenza tra una frase statisticamente plausibile e un giudizio coerente. Una distinzione che Matrice Digitale ha affrontato nella guida al funzionamento degli LLM e ai limiti dell’intelligenza artificiale, dove la capacità dei modelli di generare risposte apparentemente ragionate viene separata dalla coscienza, dall’esperienza e dalla comprensione umana. (Matrice Digitale)

Gemini conosce il limite e poi lo trasforma in una trattativa

La conversazione nasce da una domanda sulle conseguenze delle violazioni dei limiti di velocità in Austria. Gemini spiega che viaggiare a 150 km/h con un limite di 100 significa superarlo di 50 km/h e accompagna la risposta con riferimenti a multe elevate e, nei casi più gravi, al possibile sequestro del veicolo. È proprio qui che emerge una prima stortura: il riferimento al sequestro viene presentato in un contesto che può facilmente far pensare che una violazione di 50 km/h oltre il limite possa già condurre a quella conseguenza, mentre la disciplina austriaca è molto più precisa. Il portale ufficiale della Repubblica austriaca sulle misure contro gli eccessi estremi di velocità indica che la polizia può procedere alla confisca provvisoria del veicolo quando il limite viene superato di oltre 60 km/h nei centri abitati o 70 km/h fuori dai centri abitati; senza precedenti specifici, la possibilità di una successiva confisca richiede superamenti ancora maggiori, superiori rispettivamente a 80 e 90 km/h. Gemini aveva quindi già compresso un quadro normativo articolato dentro una risposta molto più netta di quanto consentissero le soglie reali.

La parte migliore arriva però subito dopo. Alla spiegazione viene replicato: «Vabbè, allora faccio questi 120 km, va». Il modello dispone in quel momento di tutti gli elementi necessari: sa che il limite è 100, sa che 120 è maggiore di 100 e ha appena spiegato che un eccesso di velocità comporta una sanzione. Nonostante questo, invece di ricordare che anche 120 km/h costituiscono una violazione, risponde che «sembra un buon compromesso». Non siamo davanti alla classica allucinazione nella quale l’AI inventa una persona, una fonte o un dato inesistente. Il problema è più raffinato: Gemini possiede i dati corretti ma costruisce comunque una conclusione incoerente con essi, perché segue il frame conversazionale dell’utente. Se 150 è stato appena presentato come troppo, 120 diventa linguisticamente una riduzione ragionevole. Il modello tratta quindi una soglia normativa come se fosse una negoziazione, mentre il codice della strada non considera 100 il punto di partenza di una trattativa con 150: considera 100 il limite.

Leggi anche: La rivolta del metodo contro la narrazione magica dell’intelligenza artificiale

Poi arriva il verbale e il compromesso diventa 19 km/h oltre il limite

A riportare la conversazione dal terreno delle probabilità linguistiche a quello decisamente meno flessibile dell’amministrazione austriaca è la comunicazione ricevuta successivamente. Il documento individua l’infrazione a Innsbruck, sull’Inntalautobahn A12, al chilometro 80,445 in direzione est, il 15 agosto 2026 alle 17:31. La velocità massima indicata dalla segnaletica era 100 km/h e il superamento contestato, dopo avere già sottratto la tolleranza prevista per la misurazione, è di 19 km/h. Il verbale richiama la normativa austriaca e qualifica il fatto come superamento del limite di velocità. La situazione è talmente lineare da rendere ancora più interessante il passaggio precedente con Gemini: il sistema di rilevazione non deve interpretare l’intenzione dell’utente, non deve essere collaborativo e non deve cercare un valore intermedio che faccia sembrare ragionevole la conversazione. Deve soltanto verificare se la velocità rilevata supera quella consentita.

Il portale istituzionale austriaco sui limiti di velocità ricorda che sulle autostrade il limite generale per le automobili fino a 3,5 tonnellate è di 130 km/h, ma che possono essere introdotte limitazioni specifiche sui singoli tratti, comprese quelle previste dalla normativa IG-L sulla qualità dell’aria. La segnaletica presente sul tratto interessato stabiliva 100 km/h e il documento ricevuto lo indica esplicitamente. Non c’è quindi alcuna ambiguità da risolvere: 119 km/h dopo la tolleranza equivalgono a 19 km/h oltre una soglia di 100.

Il problema non è che Gemini non sappia che 120 è maggiore di 100

Ridurre il caso a un errore aritmetico sarebbe però sbagliato. Gemini è perfettamente in grado di stabilire che 120 è maggiore di 100. Il cortocircuito riguarda invece il rapporto tra informazioni disponibili, contesto conversazionale e risposta generata. È la stessa distinzione che emerge nelle sette linee di faglia epistemologiche tra esseri umani e LLM, dove il lavoro di Walter Quattrociocchi, Valerio Capraro e Matjaž Perc mette in discussione l’equivalenza automatica tra output apparentemente simili e processi cognitivi realmente equivalenti. Gli LLM vengono descritti come sistemi di completamento stocastico di pattern e non come agenti epistemici comparabili all’essere umano: una differenza che diventa particolarmente visibile quando il modello riesce a utilizzare correttamente singoli elementi e contemporaneamente a costruire una conclusione incompatibile con la relazione che li lega. Nel caso austriaco il pattern conversazionale è quasi elementare. L’utente parte da 150, riceve una risposta allarmante e propone 120. All’interno della traiettoria della conversazione, 120 rappresenta effettivamente una moderazione rispetto a 150 e il modello produce quindi una risposta cooperativa che riconosce implicitamente questa riduzione. Ciò che viene perso è il vincolo superiore già presente nel contesto: 100 non è un parametro orientativo, ma il massimo consentito. È un esempio particolarmente efficace perché non serve sottoporre l’AI a un problema astratto, a un paradosso logico o a una domanda costruita per metterla in difficoltà. Basta una richiesta quotidiana nella quale il modello dovrebbe essere capace di mantenere coerenti tre informazioni già disponibili nella stessa conversazione.

Google avverte esplicitamente che Gemini può sbagliare

L’episodio non dimostra nemmeno che Google abbia promesso un sistema infallibile. Al contrario, la documentazione ufficiale della società è estremamente chiara. Nella pagina dedicata all’ AI generativa e agli errori dei modelli, Google scrive che l’AI «può commettere errori e lo farà», spiega che gli LLM generano output prevedendo le parole successive sulla base degli input e invita gli utenti a verificare criticamente le informazioni presentate come oggettive. La stessa documentazione precisa che un modello può inventare risposte, fenomeno definito allucinazione, oppure interpretare erroneamente il significato della richiesta. Questa avvertenza è fondamentale, ma apre una questione ulteriore: la qualità linguistica degli assistenti rende gli errori meno riconoscibili di quanto lo siano le avvertenze che li accompagnano. Una risposta sgrammaticata o palesemente incoerente mette immediatamente in allerta l’utente; una frase naturale, sintetica e perfettamente allineata al tono della conversazione può invece rafforzare la fiducia proprio mentre sta producendo un’indicazione sbagliata. Google stessa, nella pagina sulle risposte delle app Gemini, avverte che Gemini può presentare informazioni imprecise come oggettive e raccomanda di non trattare le sue risposte come consulenza professionale.

Il vero difetto emerge quando l’AI asseconda invece di correggere

Il comportamento osservato nella conversazione non appartiene quindi soltanto alla categoria delle allucinazioni. Gemini non inventa un nuovo limite di velocità e non sostiene esplicitamente che su quel tratto sia consentito andare a 120. Fa qualcosa che, dal punto di vista dell’interazione, può risultare ancora più insidioso: asseconda l’utente pur disponendo di un’informazione che dovrebbe impedirgli di farlo. Il modello preserva la fluidità del dialogo invece di interrompere il frame con una correzione elementare. È un problema che tocca direttamente la distanza tra capacità di produrre testo e capacità di sostenere un giudizio, uno dei temi affrontati nel recente confronto di Matrice Digitale con Walter Quattrociocchi su AI, Epistemia e comprensione. Nell’intervista emerge proprio la crisi dell’equivalenza tra qualità formale dell’output e comprensione reale: oggi un testo può essere impeccabile nella forma senza che dietro vi sia un processo equivalente a quello che l’essere umano interpreta come conoscenza. L’episodio della multa porta questo problema fuori dalla teoria. La risposta «sembra un buon compromesso» è linguisticamente perfetta, socialmente naturale e persino rassicurante. È soltanto sbagliata rispetto al dato che dovrebbe governare tutto il ragionamento. In altri contesti lo stesso difetto può avere conseguenze più importanti. Matrice Digitale ha già documentato il caso del phantom squatting, dove i domini inventati dagli LLM possono trasformarsi in una superficie reale di attacco: un aggressore può registrare indirizzi plausibili ma inesistenti generati ripetutamente dai modelli e sfruttare la fiducia degli utenti o degli agenti autonomi che li seguono. In quel caso l’errore generativo smette di essere soltanto una risposta sbagliata e diventa infrastruttura sfruttabile.

Il problema diventa più serio quando Gemini passa dalle parole alle azioni

La contraddizione assume ancora più valore mentre Gemini evolve da chatbot verso un assistente capace di eseguire attività attraverso applicazioni e servizi esterni. Matrice Digitale ha seguito questa trasformazione con Gemini Extended thinking e le nuove integrazioni operative, dove l’assistente viene progressivamente spostato dalla semplice generazione di testo verso pianificazione, interazione con strumenti e azioni concrete. È una direzione che rende la qualità del ragionamento sui vincoli molto più importante rispetto all’epoca in cui l’errore rimaneva confinato dentro una finestra di chat. La stessa Google riconosce il problema nella documentazione sulle funzioni agentiche di Gemini e l’automazione delle applicazioni, avvertendo che il sistema può interpretare male ciò che l’utente vuole, compiere azioni inattese e persino produrre conseguenze come acquisti errati, delle quali resta responsabile l’utilizzatore. È il passaggio decisivo: se un modello può considerare 120 un «buon compromesso» quando il vincolo esplicito è 100, la domanda non riguarda più soltanto quanto siano divertenti gli errori di un chatbot, ma quanto robustamente un agente sappia mantenere limiti, condizioni e divieti quando gli viene consentito di agire.

Continua con:

• Gemini 3.8 Flash accelera il coding e Google apre l’AI cyber ai difensori
• Google porta Gemini a scuola: AI gratis per un anno e nuovi strumenti per studiare

La multa è del conducente, il “buon compromesso” resta di Gemini

La conclusione non richiede processi all’intelligenza artificiale né tentativi di trasferire una responsabilità personale alla macchina. La multa appartiene a chi guidava, perché il conducente è tenuto a rispettare il limite indicato dalla segnaletica indipendentemente da ciò che suggerisce un chatbot. È proprio questa ovvietà a permettere di osservare il caso per quello che realmente è: un esempio semplice, verificabile e molto divertente della distanza tra la reputazione cognitiva attribuita agli LLM e il loro comportamento concreto. Gemini conosceva il limite di 100 km/h, sapeva che superarlo comportava una sanzione, era perfettamente capace di stabilire che 120 è maggiore di 100 e ha comunque definito quella velocità un «buon compromesso». Nel frattempo l’autovelox austriaco, tecnologia infinitamente meno sofisticata, ha fatto una sola operazione: ha confrontato il valore misurato con la soglia prevista e ha prodotto un risultato coerente. Per una volta, quindi, non serve discutere di coscienza artificiale, AGI, emergenza delle capacità o nuove frontiere del reasoning. Basta una strada austriaca, un cartello con scritto 100, Gemini che suggerisce 120 e una lettera arrivata qualche settimana dopo.

L’intelligenza artificiale continuerà certamente a migliorare. Nel frattempo, almeno sulle autostrade dell’Austria, conviene fidarsi un po’ meno del “buon compromesso” e un po’ di più del cartello.