ChatGPT avrà un watermark invisibile in Europa: OpenAI lancia textGrain

📌 In Sintesi

• OpenAI introdurrà nelle prossime settimane textGrain nei testi idonei prodotti da ChatGPT e Codex nell’Unione Europea.
• Il watermark non usa caratteri nascosti: modifica statisticamente le parole selezionate dal modello e viene rilevato da un detector.
• Riscritture e testi brevi possono indebolire fortemente il segnale, che non identifica l’autore e non certifica la veridicità del contenuto.

ChatGPT introdurrà in Europa un watermark invisibile nei testi generati dall’intelligenza artificiale. OpenAI ha scelto di chiamarlo textGrain e lo distribuirà nelle prossime settimane sugli output idonei di ChatGPT e Codex nell’Unione Europea, mentre i clienti API possono già attivarlo volontariamente a livello globale. La novità nasce dagli obblighi di trasparenza dell’AI Act, ma il punto decisivo è tecnico: la filigrana non è un’etichetta visibile e non inserisce caratteri nascosti. Modifica invece statisticamente le parole selezionate dal modello, lasciando un segnale che un detector può cercare. Non è però una prova assoluta di paternità, perché modifiche, riscritture e testi brevi possono indebolirlo sensibilmente.

OpenAI porta textGrain in ChatGPT e Codex per rispettare l’AI Act

OpenAI spiega nella documentazione ufficiale sul text watermarking che l’AI Act europeo impone ai fornitori di sistemi generativi di rendere identificabili in forma machine-readable i testi prodotti dall’AI. Dal 5 ottobre i clienti API possono scegliere il watermarking per alcuni modelli, mentre ChatGPT e Codex riceveranno textGrain nelle prossime settimane per gli output idonei generati nell’UE, su tutti i piani interessati. Il rollout resta regionale: OpenAI non intende attivare il sistema come default globale almeno nella fase iniziale. La scelta arriva mentre gli obblighi europei sull’intelligenza artificiale stanno passando dalla fase normativa a quella operativa, dopo che formazione, divieti e primi adempimenti dell’AI Act hanno già iniziato a incidere sulle imprese. La differenza è che ora la compliance entra direttamente nella generazione delle parole, modificando il funzionamento del modello invece di limitarsi a un avviso mostrato nell’interfaccia.

Leggi anche: Meta firma il Codice UE sulla trasparenza dei contenuti AI

Il watermark non aggiunge caratteri nascosti ma modifica le scelte delle parole

textGrain funziona in modo diverso dalle etichette visibili e dai metadati applicati a immagini e file. Il segnale viene incorporato nella distribuzione statistica delle parole scelte dal modello: il testo continua quindi ad apparire normale e il copia-incolla non rivela spazi invisibili, token speciali o punteggiatura anomala. Un detector sviluppato da OpenAI analizza successivamente quelle scelte e valuta se il passaggio contiene il segnale. È un approccio differente dalla provenienza basata su C2PA, dove l’autenticità viene legata a metadati firmati, e dalle tecniche applicate ai media generativi. Google ha già combinato watermark e tracciabilità C2PA con Nano Banana 2 per le immagini generate dall’AI, mostrando come il settore stia convergendo verso più livelli di certificazione. OpenAI sostiene inoltre che textGrain abbia raggiunto risultati comparabili o superiori a SynthID per il testo e prevede di rendere la tecnologia open source, ma senza trasformare il detector in uno strumento pubblico nella fase di lancio.

Riscrivere il testo può indebolire rapidamente la firma di OpenAI

Il limite più importante emerge dai test pubblicati dalla stessa società. A un tasso obiettivo di falsi positivi dell’1%, OpenAI dichiara che il detector riconosce il watermark in circa l’80% dei passaggi da 200 token e nel 95% circa di quelli da 400 token in contenuti con sufficiente libertà linguistica, mentre le prestazioni peggiorano in discipline più vincolate come la matematica.

Ancora più significativo è l’effetto delle riscritture: su passaggi da 400 token, la sostituzione del 10% delle parole con sinonimi ha ridotto la rilevazione da circa il 92% al 66%; sostituendo il 25%, il dato è sceso al 17%. È il motivo per cui l’identificazione dei contenuti sintetici non può essere ridotta a un bollino infallibile. Anche altri sistemi stanno affrontando lo stesso problema, dal rilevamento AI introdotto da YouTube contro i deepfake alle firme applicate direttamente alle immagini dalle fotocamere: provenienza e rilevazione sono strumenti probabilistici e tecnici, non certificati automatici di verità.

Il detector resta chiuso perché un risultato positivo non identifica l’autore

OpenAI limiterà inizialmente l’accesso al detector a ricercatori approvati e organizzazioni specialistiche. La ragione dichiarata riguarda falsi positivi, falsi negativi e possibili interpretazioni scorrette dei risultati. Trovare il watermark significa soltanto rilevare un segnale compatibile con testo generato o processato da un sistema OpenAI: non rivela chi ha usato ChatGPT, non attribuisce la proprietà del testo, non misura quanto abbia scritto una persona e non stabilisce se il contenuto sia vero. Allo stesso modo, non trovare textGrain non dimostra che il testo sia umano, perché potrebbe essere stato modificato, prodotto prima del rollout, generato con un modello non supportato o creato da un’altra piattaforma. È un confine essenziale anche sul piano giuridico, soprattutto mentre autorità e piattaforme affrontano casi nei quali deepfake e contenuti sintetici diventano materia di intervento del Garante. Il rischio sarebbe trasformare uno strumento di provenienza in un meccanismo automatico di attribuzione che la tecnologia stessa non supporta.

Continua con:

Claude tra watermark AI, remover non verificati e nuovo outage globale

Apple Reference Image sfida C2PA: firma il sensore ma resta chiusa e limitata

L’Europa trasforma la provenienza AI in una funzione del modello

Con textGrain l’Europa introduce un cambiamento meno visibile di un’etichetta, ma potenzialmente più profondo: la regolazione entra direttamente nel processo con cui un modello sceglie le parole. OpenAI sostiene che i benchmark di Astra non mostrino differenze significative di qualità tra output con e senza watermark e che l’impatto sulla velocità sia trascurabile. Resta però aperto il problema decisivo: una firma abbastanza robusta da sopravvivere alle normali modifiche deve convivere con la libertà di riscrittura, traduzione e rielaborazione del testo. La stessa tensione emerge nelle tecniche di rilevamento dei deepfake basate su segnali difficili da osservare a occhio nudo. textGrain non risolve il problema di distinguere definitivamente umano e artificiale; costruisce piuttosto un nuovo strato di provenienza che piattaforme, ricercatori e autorità dovranno imparare a interpretare senza trasformare una probabilità tecnica in una sentenza sull’origine di un testo.