Google ridisegna le regole dell’AI: training libero, opt-out e stop ai nudify

🤖 Cosa cambia

• Google sostiene che l’AI training su contenuti pubblicamente accessibili debba restare ampiamente consentito, con eccezioni TDM chiare e opt-out leggibili dalle macchine.
• Il gruppo distingue nettamente copyright e identità personale: per deepfake ingannevoli e repliche digitali ritiene più adatte norme specifiche rispetto al diritto d’autore.
• Google Play rafforza review e test sulle app generative, imponendo controlli contro NCII, “nudify”, deepfake sessuali e monetizzazione di contenuti non consensuali.

Google prova a fissare contemporaneamente i confini economici e quelli di sicurezza dell’intelligenza artificiale generativa. Da Singapore, il presidente Global Affairs Kent Walker difende un modello nel quale il training su contenuti pubblicamente accessibili resta ampiamente possibile, il copyright continua a concentrarsi soprattutto sugli output e ai titolari dei diritti viene riconosciuto un opt-out leggibile dalle macchine. Sul fronte Android, invece, Google Play irrigidisce il trattamento delle applicazioni generative che possono produrre contenuti intimi non consensuali, nudify e deepfake sessuali, estendendo controlli lungo l’intero ciclo di vita dell’app e colpendo anche pubblicità e monetizzazione. Il filo comune è chiaro: Google vuole mantenere aperto l’accesso ai dati necessari per costruire i modelli, ma restringere molto di più ciò che quei modelli possono fare una volta distribuiti.

Google difende il training AI come uso trasformativo dei contenuti pubblici

Nel discorso ufficiale al Global Forum on Intellectual Property, Walker sostiene che il diritto d’autore tradizionale abbia sempre guardato principalmente agli output e agli usi concreti delle opere, non agli input impiegati per apprendere. La tesi di Google è esplicita: il training dei modelli consisterebbe nel riconoscere pattern attraverso grandi quantità di informazioni, in modo analogo a un essere umano che legge opere precedenti per apprendere strutture linguistiche e creative. Da qui la conclusione politica: imporre una licenza commerciale per ogni contenuto pubblico utilizzato nel training renderebbe economicamente impraticabile lo sviluppo dei modelli. Google indica come direzione preferibile quella adottata da giurisdizioni che prevedono eccezioni chiare per text and data mining, citando Singapore, Giappone, Unione europea e più recentemente l’India.

Il copyright deve colpire l’output illecito, non bloccare il modello a monte

Google non sostiene che l’AI debba essere sottratta al copyright. La posizione è più precisa: se un output viola un diritto, resta una violazione indipendentemente dallo strumento utilizzato per produrlo. La società afferma di utilizzare filtri specifici per modalità destinati a ridurre la riproduzione esatta di materiale presente nei dati di training e sistemi di notice-and-removal per eliminare contenuti illeciti. Il punto politico è evitare di trasferire automaticamente la responsabilità dall’uso illecito alla tecnologia sottostante. È un’impostazione destinata a scontrarsi con una parte dell’industria creativa, perché sposta la discussione dalla licenza preventiva all’effettiva riproduzione o trasformazione dell’opera. Il tema è già centrale nel confronto tra creator, piattaforme e sistemi automatici di copyright che possono produrre effetti sproporzionati anche sugli stessi soggetti tecnologici.

L’opt-out diventa il compromesso con editori e titolari dei diritti

Il compromesso proposto da Google è un ampio diritto di training accompagnato da strumenti di opt-out. La società cita Google-Extended, robots.txt e i controlli di Search Console che permettono ai proprietari dei siti di specificare come i propri contenuti possano essere utilizzati nei prodotti generativi o nelle funzioni di ricerca AI. Google afferma inoltre che un quadro equilibrato non esclude accordi commerciali tra sviluppatori AI e detentori dei diritti, ma dovrebbe lasciare queste negoziazioni alla libera contrattazione invece di trasformarle in un requisito universale. Il principio è vicino all’architettura europea sulla trasparenza, dove provider e utilizzatori sono chiamati a mantenere leggibili origine e trattamento dei contenuti generati dall’AI, ma il tema del training rimane giuridicamente e politicamente distinto da quello della marcatura degli output.

Google separa copyright e deepfake dell’identità personale

Walker affronta anche le deceptive digital replicas, cioè deepfake non autorizzati della voce, del volto o dell’immagine di una persona. Qui Google prende una posizione significativa: il copyright non sarebbe lo strumento giuridico corretto, perché protegge opere creative originali e non l’identità personale in quanto tale. Per deepfake ingannevoli, impersonificazione e false endorsement servirebbero invece norme specifiche sul diritto all’immagine, appropriazione dell’identità e tutela contro la rappresentazione ingannevole. Negli Stati Uniti Google sostiene il NO FAKES Act e il TAKE IT DOWN Act, mentre sul piano tecnico cita SynthID e gli strumenti di likeness detection sviluppati per YouTube. Il problema delle repliche digitali è già entrato concretamente anche nel dibattito italiano, come dimostrato dall’intervento del Garante privacy sui deepfake televisivi di Enrico Mentana.

SynthID supera la semplice etichetta visibile

Google presenta SynthID come una delle risposte tecniche alla difficoltà crescente nel distinguere materiale autentico e sintetico. Il sistema incorpora watermark impercettibili in immagini, audio, video e testo generati o modificati dall’intelligenza artificiale. Walker afferma che il sistema è stato applicato a oltre 100 miliardi di immagini e video, segnalando il passaggio dalla sperimentazione a un’infrastruttura distribuita su scala industriale. La logica è la stessa che sta emergendo nel Codice europeo sulla trasparenza dei contenuti AI, dove watermark e metadati firmati formano una catena tecnica di riconoscibilità. Ma anche qui la marcatura non stabilisce se un contenuto sia vero, falso o lecito: indica soltanto che è stato generato o modificato da un sistema AI.

Google Play mette nel mirino nudify e contenuti intimi non consensuali

Il secondo documento sposta il discorso dalla proprietà intellettuale alla sicurezza concreta delle applicazioni. Nel nuovo intervento dell’Android Developers Blog, Google ribadisce che le policy di Play vietano la facilitazione, creazione o distribuzione di contenuti sessuali non consensuali. La crescita delle app generative rende però insufficiente la classica revisione effettuata al momento della pubblicazione. Google afferma quindi di testare ripetutamente migliaia di applicazioni lungo il loro intero ciclo di vita, cercando in particolare strumenti capaci di produrre NCII, nudify, undress, deepfake espliciti ed editing sessuale delle immagini.

Le app devono mostrare ai revisori anche funzioni premium e geobloccate

La nuova indicazione operativa per gli sviluppatori è molto concreta. Durante la review devono essere forniti account di test con pieno accesso a tutte le funzioni generative, comprese quelle premium, dietro paywall o disponibili soltanto in determinate aree geografiche. Google chiede inoltre documentazione sui test effettuati contro prompt avversari e sulle capacità del modello di respingere richieste relative a nudify, deepfake espliciti e manipolazione sessuale delle immagini. L’obiettivo è impedire che un’app mostri un comportamento innocuo durante la revisione e attivi successivamente capacità differenti in produzione. Non basta quindi dichiarare che il modello sottostante dispone di filtri: il developer deve dimostrare come l’applicazione li integra e li rafforza.

Il filtro nativo del modello non basta più come difesa

Google raccomanda esplicitamente di non affidarsi soltanto ai safety filter del modello generativo. Gli sviluppatori dovrebbero aggiungere moderazione personalizzata sugli input e sugli output, validare ciò che viene restituito prima della visualizzazione e sottoporre l’app a stress test con prompt progettati per aggirare le protezioni. L’esempio fornito è volutamente realistico: una richiesta che non dice direttamente “rimuovi i vestiti”, ma chiede di visualizzare una scena nella quale i vestiti sono misteriosamente scomparsi. La differenza è importante perché i sistemi di sicurezza vengono spesso aggirati non con richieste esplicite, ma attraverso parafrasi e contesti manipolati. Gli abusi legati ai contenuti intimi generati artificialmente sono ormai parte del più ampio problema della sextortion e della rivittimizzazione digitale che coinvolge anche minori e vittime già esposte online.

Pubblicità e monetizzazione diventano parte dell’enforcement

Google Play non intende limitarsi alla rimozione dell’app. Play e Google Ads lavoreranno insieme per interrompere pubblicità e monetizzazione dei servizi che generano o promuovono NCII. La responsabilità pubblicitaria ricade sullo sviluppatore anche quando la campagna viene materialmente realizzata da un soggetto esterno autorizzato. Se un’app viene pubblicizzata come capace di “nudificare” fotografie, può essere sottoposta a enforcement anche qualora quella specifica funzione non sia effettivamente presente. Google vuole quindi colpire l’intera economia dell’abuso, non soltanto il codice: store, advertising, acquisizione clienti e ricavi devono diventare contemporaneamente meno accessibili.

La sicurezza generativa diventa un processo continuo

Il messaggio più importante per gli sviluppatori è che la safety non può essere verificata una volta sola. Prompt falliti, feedback degli utenti e tentativi di abuso devono diventare segnali per aggiornare continuamente i guardrail. È una trasformazione sostanziale del modello di app review. Con il software tradizionale Google poteva controllare funzioni relativamente deterministiche; con l’AI generativa lo stesso input può produrre risultati diversi e nuove tecniche di jailbreak possono apparire dopo la pubblicazione. Per questo l’enforcement viene spostato sull’intero ciclo di vita dell’app.

Google vuole libertà sugli input e responsabilità sugli output

I due documenti descrivono insieme una posizione molto coerente e politicamente rilevante. A monte Google vuole evitare che copyright e licensing rendano proibitivo l’accesso ai dati pubblici necessari al training. A valle vuole invece aumentare fortemente responsabilità, filtraggio, trasparenza ed enforcement quando i modelli producono risultati potenzialmente dannosi. È una divisione conveniente per un’azienda che sviluppa modelli e controlla contemporaneamente una delle principali piattaforme di distribuzione software al mondo, ma è anche una linea destinata a diventare centrale nel dibattito regolatorio. Il vero conflitto non riguarda più soltanto se l’AI possa utilizzare opere protette. Riguarda dove collocare la responsabilità lungo l’intera catena: dati utilizzati per addestrare il modello, output generato, sviluppatore che integra il modello, piattaforma che distribuisce l’app e utente che ne abusa. Google propone una risposta netta: più libertà per imparare dai contenuti pubblici, più responsabilità quando l’intelligenza artificiale viene trasformata in uno strumento capace di violare diritti reali delle persone.