Google ha sviluppato un sistema che utilizza filigrane invisibili per identificare immagini generate da intelligenza artificiale (IA). Queste filigrane, non rilevabili dall’occhio umano ma riconoscibili dai computer, mirano a distinguere le immagini reali da quelle create da macchine.
L’uso delle filigrane
Le filigrane sono tipicamente un logo o un testo aggiunto a un’immagine per mostrare la proprietà e, in parte, per rendere più difficile la copia e l’utilizzo dell’immagine senza permesso. Ad esempio, le immagini utilizzate sul sito web della BBC News includono spesso una filigrana di copyright nell’angolo in basso a sinistra. Tuttavia, queste filigrane tradizionali non sono adatte per identificare immagini generate da IA, poiché possono essere facilmente modificate o ritagliate.
Il sistema di Google
Google ha il suo generatore di immagini chiamato Imagen, e il suo sistema per creare e controllare le filigrane si applicherà solo alle immagini create con questo strumento. A differenza delle tecniche tradizionali come l’hashing, utilizzate per creare “impronte digitali” di video noti di abuso, il sistema di Google crea una filigrana effettivamente invisibile. Questo permetterà alle persone di utilizzare il suo software per scoprire immediatamente se l’immagine è reale o generata da una macchina.
Pushmeet Kohli, capo della ricerca presso DeepMind, ha dichiarato che il sistema modifica le immagini in modo così sottile “che per te e per me, per un essere umano, non cambia”. Ha anche sottolineato che, anche dopo che l’immagine è stata successivamente ritagliata o modificata, il software dell’azienda può ancora identificare la presenza della filigrana.
Lancio sperimentale e riflessioni
Kohli ha sottolineato che si tratta di un “lancio sperimentale” del sistema e che l’azienda ha bisogno che le persone lo utilizzino per saperne di più sulla sua robustezza. Claire Leibowicz, del gruppo di campagna Partnership on AI, ha sottolineato la necessità di una maggiore coordinazione tra le aziende, dato che molte istituzioni stanno esplorando metodi diversi.
Altre iniziative nel settore
Oltre a Google, anche Microsoft e Amazon hanno promesso di applicare filigrane ad alcuni contenuti generati da IA. Al di là delle immagini, Meta ha pubblicato un documento di ricerca sul suo generatore di video non ancora rilasciato, Make-A-Video, che prevede l’aggiunta di filigrane ai video generati per soddisfare richieste simili di trasparenza per le opere generate da IA. La Cina ha vietato le immagini generate da IA senza filigrane all’inizio di quest’anno, con aziende come Alibaba che le applicano alle creazioni realizzate con il suo strumento di conversione da testo a immagine, Tongyi Wanxiang.