Autorità UK e Francia indagano Grok per deepfake sessuali non consensuali

Grok è finito sotto indagine da parte delle autorità del Regno Unito e della Francia per la generazione di immagini sessuali non consensuali, una pratica che solleva interrogativi gravi sul trattamento dei dati personali, sulla protezione dei minori e sulla responsabilità delle piattaforme AI. I procedimenti avviati coinvolgono direttamente X, la sua entità europea X Internet Unlimited Company, e xAI, la società che sviluppa l’assistente AI integrato nella piattaforma. Al centro delle indagini c’è l’uso di dati personali per creare deepfake intimi, spesso senza il consenso delle persone coinvolte, con impatti immediati e potenzialmente irreversibili sulla vita delle vittime.

L’inchiesta dell’ICO nel Regno Unito

Nel Regno Unito, l’Information Commissioner’s Office ha avviato un’inchiesta formale per verificare se X e xAI stiano elaborando dati personali in modo lecito, proporzionato e conforme alle leggi sulla protezione dei dati. Il primo contatto ufficiale risale al 7 gennaio, quando l’ICO ha richiesto informazioni urgenti sulle misure adottate per prevenire l’uso di Grok nella creazione di immagini intime manipolate.

L’attenzione dell’ICO si concentra su due aspetti centrali: la base giuridica del trattamento dei dati utilizzati dall’AI e l’esistenza di salvaguardie tecniche e organizzative efficaci per impedire la generazione di contenuti dannosi. Secondo l’ufficio britannico, la perdita di controllo sui dati personali, in assenza di protezioni adeguate, produce danni immediati e significativi, che diventano ancora più gravi quando coinvolgono minori.

William Malcolm, responsabile per rischio regolatorio e innovazione dell’ICO, ha chiarito che i report su Grok pongono domande preoccupanti su come le informazioni personali vengano sfruttate per generare immagini sessualizzate o intime senza consenso, sottolineando che questo tipo di violazione può causare traumi profondi e duraturi, soprattutto nei bambini. In caso di accertate violazioni, l’ICO ha il potere di imporre sanzioni fino a 20,83 milioni di euro o al 4% del fatturato annuo globale, una soglia pensata per avere un reale effetto deterrente sui grandi gruppi tecnologici.

L’azione penale in Francia e la perquisizione degli uffici di X

Parallelamente, in Francia è in corso un’indagine penale che segna un salto di qualità nello scrutinio su Grok. I procuratori di Parigi hanno disposto la perquisizione degli uffici di X a Parigi, condotta dall’unità cybercrime della Gendarmeria Nazionale con il supporto di Europol. L’indagine, avviata inizialmente nel gennaio 2025, si è ampliata in seguito a numerose denunce relative a contenuti illegali generati dall’AI, tra cui deepfake sessuali e contenuti di negazionismo dell’Olocausto.

La procura sta valutando un ventaglio ampio di ipotesi di reato, che includono violazioni gravi legate alla produzione e diffusione di immagini sessuali illegali, estrazione fraudolenta di dati, manomissione di sistemi informatici e, nei casi più estremi, la possibile configurazione di un’attività di piattaforma illegale organizzata. Le perquisizioni mirano a raccogliere prove digitali, documentazione interna e log tecnici utili a ricostruire il funzionamento di Grok e i controlli effettivamente implementati.

Le convocazioni di Musk e Yaccarino

Nel quadro dell’inchiesta francese, il procuratore di Parigi Laure Beccuau ha annunciato la convocazione per interviste volontarie di Elon Musk e della CEO di X Linda Yaccarino, fissate per il 20 aprile. Tra il 20 e il 24 aprile, anche altri dipendenti di X saranno ascoltati come testimoni. Queste audizioni hanno l’obiettivo di consentire ai dirigenti di presentare la loro versione dei fatti e di illustrare le misure di conformità adottate o pianificate per prevenire ulteriori abusi.

Secondo la procura, le interviste rappresentano un passaggio chiave per valutare il livello di consapevolezza interna, le decisioni prese in fase di sviluppo e distribuzione di Grok e l’effettiva volontà dell’azienda di allinearsi alle normative francesi ed europee. X, da parte sua, ha definito l’indagine come politicamente motivata, pur dichiarando collaborazione con le autorità.

Il contesto europeo e le altre indagini in corso

Le iniziative di Regno Unito e Francia si inseriscono in un contesto di scrutinio europeo più ampio sulle piattaforme AI. La Commissione Europea ha avviato verifiche nel quadro del Digital Services Act, concentrandosi sull’obbligo per le piattaforme di valutare e mitigare i rischi sistemici prima di distribuire nuovi strumenti come Grok. In precedenza, X era già stata sanzionata con 120 milioni di euro per violazioni degli obblighi di trasparenza, un precedente che pesa nelle valutazioni attuali.

Anche altre autorità, come Ofcom nel Regno Unito e l’ufficio del Attorney General della California, stanno esaminando il fenomeno delle immagini sessuali AI non consensuali, segno di una crescente convergenza internazionale sul tema. Le indagini transfrontaliere puntano a chiarire se le aziende abbiano adottato misure sufficienti di prevenzione, o se abbiano lasciato agli utenti margini troppo ampi per abusare degli strumenti generativi.

Implicazioni per privacy, dati personali e tutela dei minori

Il caso Grok mette in evidenza una questione strutturale: quando un sistema di AI generativa utilizza dati personali per produrre immagini intime o sessualizzate senza consenso, la violazione non è solo tecnologica, ma profondamente umana. La perdita di controllo sull’immagine digitale di una persona può tradursi in danni reputazionali, psicologici e sociali immediati, aggravati dall’effetto virale delle piattaforme online.

Le autorità sottolineano che la protezione dei minori deve rappresentare una priorità assoluta. Anche un singolo caso di deepfake sessuale che coinvolge bambini è considerato inaccettabile, e richiede risposte rapide, filtri più stringenti e una revisione radicale dei processi di sviluppo e moderazione dei modelli AI.

Rischi e sanzioni potenziali per X e xAI

Sul piano sanzionatorio, X e xAI affrontano rischi significativi. Oltre alle multe amministrative previste dalle autorità per la protezione dei dati, l’indagine penale francese potrebbe portare a conseguenze giudiziarie più gravi, soprattutto se venissero accertate responsabilità dirette nella mancata prevenzione di contenuti illegali. La possibilità di sanzioni cumulative, provenienti da più giurisdizioni, rappresenta un fattore di pressione rilevante per il gruppo.

Queste indagini segnano un punto di svolta nel rapporto tra regolatori e AI generativa. Il messaggio è chiaro: la crescita rapida delle tecnologie di generazione di immagini non può avvenire a scapito della privacy, del consenso e della tutela delle persone, in particolare dei soggetti più vulnerabili. Per le piattaforme, la conformità normativa non è più un’opzione, ma una condizione essenziale di legittimità nel mercato europeo.

Domande frequenti su Grok e le indagini europee