Confronto con Walter Quattrociocchi: verità, narrazione e potere nell’era dell’AI

In principio c’era un’intelligenza artificiale che ragionava, parlava, comprendeva e sembrava quasi pronta a uscire di casa per andare al supermercato. Una rappresentazione diventata per anni dominante nel dibattito pubblico, accademico e istituzionale. Matrice Digitale ha contestato a lungo questa narrazione, nella consapevolezza che dietro l’antropomorfizzazione dei sistemi di intelligenza artificiale non ci fosse soltanto un problema terminologico o filosofico, ma anche un sistema di interessi capace di produrre visibilità, carriere accademiche, incarichi istituzionali e posizioni di influenza. Poi, quasi improvvisamente rispetto al rumore dominante, nel dibattito pubblico è emersa con maggiore forza la voce di un accademico di lungo corso: Walter Quattrociocchi. Non attraverso una comunicazione pop costruita per inseguire la fascinazione dell’intelligenza artificiale, ma con un linguaggio progressivamente più ruvido, diretto e soprattutto ancorato a un principio elementare che proprio nel dibattito sull’AI sembrava essersi smarrito: prima delle interpretazioni vengono i dati, gli esperimenti e le evidenze scientifiche.

Quattrociocchi è professore ordinario di Informatica alla Sapienza Università di Roma e dirige il Center of Data Science and Complexity for Society (CDCS). La sua attività scientifica si concentra su data science, network science, sistemi complessi e scienze cognitive, con particolare attenzione ai processi di diffusione dell’informazione, alla disinformazione, alla polarizzazione, alle echo chamber e alle dinamiche collettive negli ecosistemi digitali. Ha pubblicato numerosi lavori su riviste scientifiche internazionali, tra cui Nature e PNAS, e le sue ricerche sulla misinformation sono state utilizzate anche nei Global Risks Report del World Economic Forum. Nel 2026 è stato selezionato tra gli esperti dello Scientific Panel indipendente previsto dall’AI Act europeo, chiamato a supportare la valutazione dei modelli di intelligenza artificiale general purpose e dei relativi rischi sistemici.

Ed è proprio il profilo scientifico di Quattrociocchi a rendere rilevante il modo in cui ha scelto di intervenire nel dibattito sull’intelligenza artificiale. Non ha avuto bisogno di fare nomi e cognomi. Ha portato fatti, circostanze, esperimenti e paper scientifici, costruendo intorno a questi non tanto una nuova filosofia dell’AI quanto un metodo di osservazione. Un approccio scientifico che ha contribuito ad aprire uno spazio di realtà dentro una materia ancora sconosciuta ai più e che, come già accaduto in altri settori tecnologici, rischiava di diventare terreno esclusivo della narrazione di soggetti interessati non necessariamente a spiegare ciò che queste tecnologie sono, ma a imporre ciò che conviene raccontare che siano.

Una distinzione tutt’altro che secondaria quando intorno all’intelligenza artificiale si muovono interessi pubblici e privati, investimenti economici, strategie industriali, incarichi istituzionali e rapporti spesso non immediatamente visibili al pubblico.

È anche per questo che Matrice Digitale ha seguito con attenzione il lavoro di Walter Quattrociocchi. Un percorso che ha trovato un riconoscimento anche nel dibattito istituzionale e culturale intorno al concetto di Epistemia, utilizzato per descrivere una delle questioni più profonde introdotte dai modelli generativi: la possibilità che sistemi capaci di produrre risposte formalmente convincenti modifichino non soltanto il modo in cui cerchiamo informazioni, ma anche il processo attraverso il quale decidiamo che qualcosa possa essere considerato conoscenza.

Leggi anche: AI Act, Quattrociocchi e Benanti dividono l’Italia nell’Europa dell’AI

Il riconoscimento del valore di questo metodo, però, non significa coincidenza di pensiero. Anzi. Arrivati a questo punto, Matrice Digitale ha poco o nessun interesse a costruire un’intervista celebrativa a Walter Quattrociocchi. Su diversi aspetti le rispettive visioni coincidono; su altri divergono sensibilmente. Ed è precisamente questa distanza a rendere il confronto interessante. Per questo l’intervista che segue è stata costruita diversamente dai formati ai quali una parte della stampa ha abituato il pubblico. Non una sequenza di domande predisposte per accompagnare l’intervistato verso risposte prevedibili, ma un confronto tra due visioni, talvolta convergenti e talvolta apertamente distanti, su disinformazione, algoritmi, intelligenza artificiale, fact-checking, giornalismo, scuola, AI Act e sovranità tecnologica.

Due posizioni possono essere diverse, persino contrapposte, senza trasformare il confronto in uno scontro personale. Possono rispettarsi senza rinunciare alle rispettive convinzioni. Soprattutto, possono riconoscere un principio che dovrebbe essere elementare tanto nella scienza quanto nel giornalismo: chi sostiene una tesi deve accettare di sottoporla alle domande. Ed è forse questo l’aspetto più significativo del confronto con Walter Quattrociocchi. In un tempo nel quale istituzioni, aziende, accademici e protagonisti del dibattito pubblico sempre più spesso selezionano gli interlocutori, evitano le domande scomode o preferiscono comunicazioni senza contraddittorio, Quattrociocchi ha accettato di rispondere.

Matrice Digitale, da parte sua, ha scelto di fare esattamente ciò che ritiene debba fare il giornalismo: porre le domande anche quando le risposte possono mettere in discussione le proprie convinzioni.

L’intervista a Walter Quattrociocchi

Disinformazione, polarizzazione e potere degli algoritmi

Professor Quattrociocchi, per anni abbiamo chiamato il problema “fake news”, poi abbiamo parlato di disinformazione, echo chamber e polarizzazione. Oggi lei introduce il concetto di Epistemia. Non c’è il rischio che per dieci anni ci siamo concentrati sulla falsità dei contenuti quando il problema vero era il modo in cui una società decide che qualcosa merita di essere creduto?

Sì, ed è esattamente uno degli errori che vorrei evitare di ripetere. Sulla disinformazione siamo partiti da una formulazione molto intuitiva: il problema sono i contenuti falsi. Poi i dati ci hanno costretto a complicare parecchio il quadro. Abbiamo visto che contano la struttura delle comunità, l’omofilia, i meccanismi di selezione dell’informazione, l’architettura delle piattaforme e, più in generale, il modo in cui costruiamo e rafforziamo le nostre convinzioni.

Il punto, per me, è metodologico. Le categorie teoriche sono indispensabili, ma devono continuamente confrontarsi con l’evidenza empirica. Quando invece le lacune di conoscenza vengono riempite con interpretazioni suggestive, si rischia di costruire cornici eleganti ma fragili. Con gli LLM vedo in parte ripetersi la stessa dinamica, a una velocità impressionante. In pochissimo tempo siamo arrivati a discutere di comprensione, intenzionalità, coscienza, agentività. Ho persino sentito sostenere in ambito accademico che gli LLM non sarebbero sistemi stocastici, quando la componente probabilistica è costitutiva del loro funzionamento.

Con la disinformazione, dopo anni di lavoro, siamo riusciti almeno a correggere una parte importante del frame iniziale. Con l’AI generativa siamo di nuovo all’inizio di quel percorso. Epistemia nasce precisamente dal tentativo di formulare bene il problema prima di correre a spiegare fenomeni che ancora comprendiamo solo in parte.

Un vostro studio ha mostrato che alcuni pattern delle conversazioni online restano sorprendentemente stabili attraverso piattaforme, temi ed epoche diverse. Allora quanta polarizzazione appartiene davvero agli algoritmi e quanta, invece, all’essere umano, all’omofilia e al confirmation bias? Se domani eliminassimo i recommender system, ricostruiremmo comunque le stesse tribù?

Probabilmente sì, almeno in parte. Gli algoritmi non inventano dal nulla le nostre preferenze sociali: le osservano, le apprendono e le accomodano. L’omofilia, cioè la tendenza a interagire con persone simili a noi, esiste molto prima dei social network, così come il confirmation bias. Questo non significa affatto che le piattaforme siano neutrali. Le loro architetture possono amplificare, accelerare o rendere più persistenti certe dinamiche. Ma attribuire tutto al recommender system è una spiegazione troppo semplice e, soprattutto, poco compatibile con ciò che osserviamo empiricamente: alcuni pattern restano sorprendentemente stabili attraverso piattaforme molto diverse, con algoritmi diversi e in periodi differenti. La questione interessante non è quindi stabilire se la polarizzazione sia “colpa dell’uomo” o “colpa dell’algoritmo”. È capire l’interazione fra predisposizioni sociali e cognitive e ambienti tecnologici che imparano proprio da quelle predisposizioni e le trasformano in meccanismi di selezione dell’informazione.

Se il fact-checking interviene spesso quando una convinzione si è già consolidata e se le comunità polarizzate possono sopravvivere anche al deplatforming, quanto è realmente efficace l’attuale industria della lotta alla disinformazione? E dove termina la correzione dell’informazione e comincia il potere di stabilire quali fonti e opinioni siano legittimate a circolare?

È un problema molto più complesso di quanto suggerisca l’idea secondo cui alla cattiva informazione basta contrapporre quella corretta. Il fact-checking può essere utile, ma la sua efficacia dipende dal contesto, dal momento in cui interviene e dall’architettura informativa nella quale viene inserito. Se una convinzione è già diventata elemento identitario di una comunità, aggiungere un’etichetta “falso” difficilmente risolve il problema. Per questo credo si debba lavorare molto più a monte: sulla trasparenza delle fonti, dei processi di verifica, dei sistemi di raccomandazione e delle modalità attraverso cui l’informazione arriva agli utenti. Uno dei problemi centrali oggi è la sfiducia. E la sfiducia non si corregge semplicemente istituendo un’autorità che dica alle persone cosa è vero. Esiste inoltre un confine delicato tra contrastare la manipolazione e arrogarsi il diritto di stabilire quali opinioni possano circolare. Quel confine deve essere presidiato con grande attenzione. La risposta, secondo me, non è costruire nuovi arbitri della verità, ma rendere più verificabile il processo attraverso cui una determinata affermazione acquista autorevolezza.

LLM, Epistemia e illusione della conoscenza

Nei vostri esperimenti emerge che la semplice presenza di una risposta prodotta dall’AI, anche quando è sbagliata, riduce la disponibilità delle persone a dire “non lo so”, aumentando al tempo stesso sicurezza soggettiva ed errore. Il rischio più grave degli LLM non è quindi l’hallucination della macchina, ma la modifica della metacognizione dell’essere umano?

È esattamente uno dei punti centrali dell’epistemia. Il problema non è semplicemente che un LLM possa produrre un’affermazione falsa. Gli esseri umani producono affermazioni false da sempre. La novità è avere a disposizione un sistema capace di produrre continuamente risposte linguisticamente plausibili, coerenti e spesso molto convincenti, indipendentemente dal fatto che dietro quella risposta esista un autentico processo di verifica. Noi però siamo abituati ad associare certe caratteristiche linguistiche — fluidità, precisione, sicurezza espositiva — alla competenza. E quindi tendiamo a trasferire sull’output una fiducia che il processo che lo ha generato non giustifica necessariamente.

Nei nostri esperimenti vediamo proprio questo: la presenza di una risposta dell’AI riduce la propensione a sospendere il giudizio. Le persone dicono meno spesso “non lo so”, anche quando sarebbe la risposta epistemicamente più corretta. Il rischio quindi non è soltanto l’hallucination della macchina, ma la trasformazione dei nostri criteri di fiducia, del nostro rapporto con l’incertezza e della nostra capacità di riconoscere i limiti della conoscenza.

Se un modello può fornire la risposta corretta senza possedere un processo epistemico equivalente a quello umano, ha ancora senso valutare gli LLM prevalentemente attraverso benchmark basati sull’accuratezza? Quali metriche dovrebbero misurare la capacità di riconoscere l’incertezza, sospendere il giudizio e distinguere ciò che il modello “sembra sapere” da ciò che può realmente sostenere?

L’accuratezza resta una metrica importante, ma non è sufficiente. Se un modello risponde correttamente a una domanda, sappiamo che ha prodotto la risposta giusta in quella particolare condizione. Non sappiamo necessariamente quale competenza stiamo misurando, quanto sia stabile e quanto generalizzi fuori dal benchmark. Servono quindi valutazioni che vadano oltre il semplice rapporto tra risposte corrette e sbagliate. Bisogna misurare la calibrazione dell’incertezza, la capacità di astenersi quando l’evidenza è insufficiente, la robustezza a piccole variazioni della domanda, la capacità di distinguere tra informazione disponibile e inferenza plausibile, e soprattutto la consistenza del comportamento fuori distribuzione.

La domanda che dovremmo porci non è soltanto “quante risposte indovina?”, ma “quando sbaglia, sa di poter sbagliare?”. E ancora: che cosa succede quando gli togliamo gli indizi superficiali sui quali può aver costruito la prestazione? È la vecchia distinzione tra performance e competence. Una prestazione spettacolare non dimostra automaticamente il processo cognitivo che noi tendiamo spontaneamente ad attribuirle.

AI, scuola e crisi della valutazione

Lei ha raccontato casi di studenti capaci di presentare analisi formalmente corrette senza comprenderne davvero il significato. Se un testo ben scritto non è più una prova di conoscenza, l’AI ha mandato in crisi il sistema di valutazione di scuola e università? Quale dovrebbe essere oggi una prova autentica di comprensione?

Sì, credo che l’AI stia mettendo in crisi un equivoco che il sistema educativo si trascinava già da tempo: confondere la qualità formale del prodotto con la comprensione di chi lo ha prodotto. Finché scrivere bene un testo complesso richiedeva una certa quantità di competenza, potevamo usare il testo anche come proxy della conoscenza. Oggi quel legame si è indebolito drasticamente. Uno studente può presentare un’analisi impeccabile sul piano formale e non sapere spiegare il significato di un passaggio fondamentale.

Questo non significa che dobbiamo vietare gli LLM. Significa che dobbiamo cambiare ciò che valutiamo. Una prova autentica di comprensione deve richiedere allo studente di spiegare, motivare, ricostruire un ragionamento, adattarlo a un caso nuovo, riconoscere un errore, rispondere a una domanda imprevista. In altre parole, meno valutazione del prodotto finito e più valutazione del processo cognitivo. Paradossalmente, l’AI potrebbe costringerci a tornare a forme di valutazione molto più serie.

Giornalismo, verifica e costo della verità

Lo stesso problema riguarda il giornalismo. Una redazione, un motore di ricerca e un LLM possono produrre tre risposte formalmente credibili allo stesso evento. Se il pubblico vede soltanto il risultato finale e non il processo di verifica, perché dovrebbe continuare a riconoscere al giornalismo un valore epistemico superiore? La plausibilità rischia di diventare economicamente più competitiva della verità verificata?

Questo è un punto cruciale. Il vantaggio epistemico del giornalismo non può più consistere semplicemente nel produrre un testo ben scritto o una risposta plausibile, perché quello oggi può farlo anche un modello generativo in pochi secondi. Il valore del giornalismo sta nel processo: verificare una fonte, parlare con persone diverse, controllare documenti, ricostruire una cronologia, assumersi la responsabilità di ciò che viene pubblicato, correggere un errore quando emerge. Se tutto questo processo resta invisibile e al pubblico arriva soltanto il testo finale, allora la differenza con una risposta generata automaticamente diventa molto meno percepibile. E sì, la plausibilità ha un enorme vantaggio economico: è più veloce e costa meno della verifica. È proprio per questo che credo serva rendere visibile il lavoro epistemico. Il giornalismo dovrà probabilmente mostrare sempre di più non soltanto che cosa sostiene, ma perché ritiene di poterlo sostenere.

AI Act, rischi sistemici e governance dell’intelligenza artificiale

Lei fa parte dello Scientific Panel previsto dall’AI Act europeo. Come si misura concretamente un rischio sistemico prodotto da un modello generativo? E soprattutto: come può un’autorità pubblica auditare seriamente modelli proprietari quando pesi, dati, infrastrutture di calcolo e telemetria restano nelle mani delle aziende che devono essere controllate?

Il rischio sistemico non si misura con un singolo benchmark. Bisogna considerare capacità del modello, modalità di diffusione, scala d’uso, accesso a strumenti esterni, possibili comportamenti emergenti nell’interazione con altri sistemi e, soprattutto, gli effetti che possono propagarsi nella società. La difficoltà è che molti di questi rischi non dipendono soltanto dal modello in laboratorio, ma dal modo in cui viene integrato dentro infrastrutture reali. Un sistema con accesso a codice, reti, dati sensibili o strumenti operativi pone problemi completamente diversi rispetto allo stesso modello utilizzato come semplice chatbot.

Naturalmente esiste anche un problema di asimmetria informativa. Se chi deve effettuare il controllo non ha accesso adeguato a dati, log, procedure di testing e informazioni sull’infrastruttura, l’audit rischia di essere molto debole. La regolazione efficace richiede quindi accesso alle evidenze necessarie per verificare le dichiarazioni delle aziende, standard comuni di valutazione e capacità tecniche indipendenti. Non si può controllare seriamente un sistema complesso limitandosi a chiedere al produttore se funziona in sicurezza.

Lei ha criticato pubblicamente i criteri con cui in Italia vengono selezionate alcune competenze chiamate a definire le strategie sull’intelligenza artificiale. Il nostro Paese ha governato troppo a lungo l’AI attraverso autorevolezza mediatica, rappresentanza istituzionale e relazioni invece che attraverso produzione scientifica verificabile? Quanto ritardo rischiamo di accumulare scegliendo chi racconta l’AI invece di chi è in grado di misurarla?

Credo che il problema sia più generale e non riguardi soltanto l’intelligenza artificiale. In Italia abbiamo spesso una certa difficoltà a distinguere tra autorevolezza pubblica e competenza scientifica specifica. Sono due cose entrambe legittime, ma non sono la stessa cosa. Se dobbiamo costruire una strategia nazionale sull’AI, servono naturalmente giuristi, economisti, filosofi, rappresentanti delle istituzioni e dell’industria. Ma quando bisogna capire come funzionano i modelli, come si valutano, quali evidenze esistono sui loro effetti e come si misurano determinati rischi, è importante che abbia un ruolo centrale chi su quei problemi produce ricerca verificabile e confrontabile con la comunità scientifica internazionale. Il rischio, altrimenti, è di costruire politiche pubbliche sulle narrazioni del momento. E nell’AI le narrazioni cambiano ogni sei mesi. Una politica seria dovrebbe essere molto meno sensibile alla notorietà di chi parla e molto più interessata alla qualità delle evidenze che porta.

Continua con:

• AI italiana, il comitato di Butti riapre il caso dei soliti noti
• Abbiamo svenduto i nostri server, ora paghiamo il conto: la resa dell’Europa sull’AI

Sovranità tecnologica e controllo della conoscenza

Nel rapporto sulla “realtà frammentata” emerge un ecosistema nel quale piattaforme, algoritmi ed economia dell’attenzione incidono direttamente sulla costruzione della realtà condivisa. Ma l’Europa dipende ancora da cloud, social network, modelli e infrastrutture tecnologiche prevalentemente extraeuropee. Può esistere davvero una sovranità epistemica senza una sovranità tecnologica, oppure stiamo cercando di regolamentare la nostra infrastruttura cognitiva utilizzando strumenti che appartengono ad altri?

Una piena sovranità epistemica senza una qualche forma di sovranità tecnologica è molto difficile. Se una parte crescente dell’accesso all’informazione, della produzione di conoscenza e persino dei processi decisionali passa attraverso infrastrutture che non controlliamo, inevitabilmente una parte del potere resta nelle mani di chi quelle infrastrutture le possiede. Detto questo, sovranità tecnologica non significa necessariamente costruire in Europa la copia di ogni piattaforma americana o cinese. Significa avere capacità scientifica, infrastrutture di calcolo, accesso ai dati, competenze di auditing e possibilità concreta di verificare il funzionamento dei sistemi dai quali dipendiamo.

La regolamentazione è indispensabile, ma non può sostituire la capacità tecnologica. Se non abbiamo gli strumenti per osservare e misurare ciò che vogliamo regolare, rischiamo di produrre norme sofisticate applicate a sistemi che conosciamo soltanto attraverso ciò che i produttori decidono di mostrarci. La questione, quindi, non è soltanto la sovranità industriale. È la possibilità stessa di mantenere un controllo pubblico sui processi attraverso cui una società costruisce, seleziona e valida la propria conoscenza.