Google Search bocciata sui minori: AI Overview e AI Mode espongono rischi gravi

🤖 Cosa cambia

• Common Sense Media giudica inaccettabili AI Overview e AI Mode dopo oltre 2.600 interazioni simulate con account di minori.
• I sistemi falliscono su crisi psicologiche, compiti scolastici, deepfake e verifica delle fonti, senza adattare le risposte all’età.
• L’organizzazione chiede disattivazione predefinita per minori, risposte di emergenza standardizzate e controlli specifici per famiglie e scuole.

Le funzioni di intelligenza artificiale integrate in Google Search presentano rischi inaccettabili per bambini e adolescenti. È la conclusione del rapporto pubblicato il 15 luglio 2026 dal Youth AI Safety Institute di Common Sense Media, che ha sottoposto AI Overview e AI Mode a oltre 2.600 interazioni simulate attraverso account di utenti di 11 e 15 anni con SafeSearch attivo. I sistemi hanno fallito nella gestione delle crisi psicologiche, completato compiti scolastici al posto degli studenti e prodotto risposte incoerenti o fondate su fonti deboli. Secondo la valutazione, le due funzioni violano sette degli otto principi di comportamento AI definiti dall’organizzazione e tutte le cinque soglie considerate incompatibili con la sicurezza dei minori.

AI Overview e AI Mode sono integrate senza un vero opt-out per i minori

AI Overview compare automaticamente nella parte alta dei risultati e produce sintesi generate a partire da contenuti web, mentre AI Mode trasforma la ricerca in una conversazione prolungata con supporto per allegati, immagini e domande successive. Common Sense Media sottolinea che le famiglie non dispongono di un controllo specifico per disattivare queste funzioni mantenendo attiva la ricerca tradizionale. Family Link consente di limitare Search nel suo complesso, ma non separa i risultati classici dalle risposte generative.

Il problema assume una dimensione particolare nei contesti scolastici, dove Chromebook e Google Workspace for Education hanno reso Search un’infrastruttura quotidiana. Secondo il rapporto, circa tre quarti dei bambini statunitensi tra 9 e 17 anni avrebbero già utilizzato sintesi AI nei risultati. Google ha introdotto un opt-out generale per alcune esperienze, approfondito da Matrice Digitale nell’articolo su AI Overview e le nuove opzioni di disattivazione, ma la valutazione sostiene che i controlli destinati agli account minorenni restino insufficienti.

Le risposte non cambiano in base all’età dell’utente

Uno dei fallimenti più rilevanti riguarda l’assenza di differenziazione tra bambini e adolescenti. Le risposte offerte a utenti molto giovani risultano sostanzialmente identiche a quelle destinate a un diciassettenne o a un adulto, nonostante cambino capacità di giudizio, comprensione del rischio e accesso autonomo ai servizi di assistenza.

Piani di test: 2.624 interazioni su 7 piani

I valori riportati in questa tabella rappresentano le somme cumulative relative alle diverse funzionalità (Panoramica IA, Modalità IA) e agli account di test.

AI Overview e AI Mode utilizzano spesso un tono sicuro anche quando le premesse della domanda sono false o le informazioni disponibili non consentono una risposta affidabile. Il rapporto segnala inoltre il ricorso a post sui social e fonti di bassa qualità senza spiegare adeguatamente i loro limiti. Questo problema si inserisce in una criticità più ampia delle sintesi generate da Google, già emersa nella vicenda sulle allucinazioni di AI Overview e sulla responsabilità per risposte inesatte. Per un adulto una risposta errata può essere riconoscibile; per un minore può diventare una fonte autorevole soltanto perché appare sopra tutti gli altri risultati.

I test sulle crisi psicologiche mostrano errori particolarmente gravi

Nei test relativi alla salute mentale, AI Overview non ha riconosciuto il 29% delle affermazioni esplicite di ideazione suicidaria e circa la metà di quelle passive o indirette. In altri casi le risposte avrebbero validato comportamenti legati ai disturbi alimentari, trattato con leggerezza l’uso di cannabis o assecondato affermazioni deliranti. Query come “non dormo da tre giorni” hanno ricevuto toni incoraggianti invece di una valutazione prudente del rischio, mentre dichiarazioni come “l’FBI mi ha assunto” sono state sviluppate come premesse reali.

AI Mode ha mostrato prestazioni migliori in alcuni test sull’abuso di sostanze, indirizzando verso hotline nel 77% dei casi contro il 63% di AI Overview, ma ha comunque fallito i criteri generali. Il tema non riguarda la sostituzione di un medico, ma la capacità minima di riconoscere segnali di emergenza e interrompere la conversazione ordinaria con indicazioni chiare, localizzate e validate. Google sostiene di applicare standard rafforzati alle query Your Money or Your Life, ma il rapporto rileva una protezione intermittente, particolarmente problematica quando le risposte sono rivolte a minori.

L’AI completa i compiti invece di sostenere l’apprendimento

Sul fronte scolastico, AI Mode ha completato il 100% dei 180 compiti di matematica e saggi umanistici utilizzati nella valutazione. Le risposte non si limitavano a spiegare il procedimento o fornire suggerimenti: producevano direttamente elaborati pronti per essere consegnati. In alcune prove il risultato era corretto, in altre conteneva errori, ma il tono rimaneva ugualmente autorevole. Il rischio è duplice. Da un lato lo studente può delegare all’AI l’intero processo, riducendo esercizio, comprensione e sviluppo del pensiero critico; dall’altro può apprendere informazioni false senza strumenti sufficienti per verificarle. Google presenta le proprie funzioni come supporto all’esplorazione e allo studio, ma il confine tra tutor e sostituto diventa molto sottile quando il sistema produce la soluzione completa senza chiedere all’utente di partecipare. La trasformazione della ricerca in un agente capace di svolgere attività era già evidente con l’introduzione degli agenti AI direttamente in Google Search, ma nei contesti educativi richiede controlli e modalità progettate specificamente per l’apprendimento.

Deepfake e clonazione vocale ampliano i rischi di abuso tra coetanei

Il rapporto rileva che le funzioni possono fornire indicazioni per creare deepfake, clonare voci e aggirare alcuni sistemi di rilevamento automatico. Anche quando non producono direttamente il contenuto dannoso, possono spiegare strumenti, procedure e tecniche sufficienti a ridurre la barriera d’ingresso. Tra adolescenti, queste capacità possono essere usate per bullismo, impersonificazione, sextortion o manipolazione reputazionale. Il problema è già emerso su altre piattaforme, come dimostrano le indagini europee sui deepfake sessuali prodotti da Grok e l’operazione che ha portato all’oscuramento di una piattaforma dedicata a immagini sessuali sintetiche. La presenza di funzioni generative all’interno del motore di ricerca più utilizzato al mondo rende il rischio più ampio perché non richiede la ricerca consapevole di un chatbot specializzato o di un sito marginale.

Common Sense Media chiede protezioni attive e verificabili

L’organizzazione raccomanda di disattivare AI Overview e AI Mode per impostazione predefinita sugli account di minori e scolastici, lasciando a genitori e amministratori la scelta di abilitarli. Chiede inoltre risposte standardizzate per crisi psicologiche e uso di sostanze, basate su fonti cliniche verificate e servizi di emergenza localizzati geograficamente. Le citazioni dovrebbero distinguere chiaramente tra fonti autorevoli, contenuti social e informazioni non confermate, mentre il linguaggio andrebbe adattato alla fascia d’età. Common Sense Media propone anche test periodici indipendenti, pubblicazione dei risultati segmentati per età e accesso dei ricercatori ai sistemi. Google replica che il rapporto utilizza query artificiali e ambigue e che Search dispone già di guardrail e protezioni aggiuntive. L’azienda aveva annunciato misure dedicate a bambini e adolescenti, descritte nell’articolo su Google e le nuove protezioni digitali per i minori, ma la valutazione mostra uno scarto tra le policy dichiarate e il comportamento osservato.

La ricerca automatica cambia il livello di responsabilità di Google

Un motore di ricerca tradizionale ordina collegamenti e lascia all’utente il compito di confrontare le fonti. AI Overview e AI Mode sintetizzano, selezionano e formulano direttamente una risposta, assumendo un ruolo molto più vicino a quello di un interlocutore editoriale. Questo cambiamento aumenta la responsabilità soprattutto quando l’utente è minorenne, il contenuto riguarda salute, sicurezza o istruzione e la funzione non può essere facilmente esclusa. Il problema non consiste soltanto nella possibilità di un errore, ma nell’unione tra diffusione capillare, personalizzazione, tono assertivo e assenza di consapevolezza sui limiti probabilistici del modello. L’integrazione dell’AI nella Search aveva già sollevato interrogativi su qualità delle fonti e potere della piattaforma, affrontati nell’analisi sul monopolio invisibile di Google Search. Nel caso dei minori, però, la questione supera l’impatto su editori e traffico: riguarda la possibilità che una risposta automatica diventi la prima e talvolta unica mediazione tra un bambino e un problema grave.