La marcatura delle immagini, nota anche come “watermarking”, è stata a lungo considerata una soluzione promettente per identificare e tracciare le origini delle immagini e dei testi generati da intelligenza artificiale. Tuttavia, una recente ricerca suggerisce che potrebbe non essere così infallibile come si pensava.
Soheil Feizi, professore di informatica all’Università del Maryland, ha esaminato la situazione attuale della marcatura delle immagini AI e ha concluso che “non abbiamo alcuna marcatura affidabile in questo momento”. Ha testato due tipi di marcatura AI e ha scoperto che per le marche “a bassa perturbazione”, che sono invisibili all’occhio nudo, “non c’è speranza”.
Il team di Feizi ha esaminato quanto sia facile per gli attori malevoli eludere i tentativi di marcatura. Hanno dimostrato non solo come gli aggressori potrebbero rimuovere le marche, ma anche come potrebbero aggiungere marche a immagini generate dall’uomo, causando falsi positivi.
Queste scoperte arrivano in un momento in cui la marcatura è vista come una delle strategie più promettenti per identificare immagini e testi generati da AI. Con le elezioni presidenziali statunitensi del 2024 all’orizzonte e le preoccupazioni per i media manipolati in aumento, la necessità di soluzioni efficaci è più pressante che mai.
Tuttavia, nonostante le scoperte di Feizi, alcune grandi aziende tecnologiche, tra cui OpenAI, Alphabet, Meta e Amazon, si sono impegnate a sviluppare tecnologie di marcatura per combattere la disinformazione. Google’s DeepMind ha anche rilasciato una versione beta del suo nuovo strumento di marcatura, SynthID.
Ma c’è un crescente scetticismo sulla reale efficacia della marcatura. Ben Colman, CEO della startup di rilevamento AI Reality Defender, ha affermato: “La marcatura suona come una soluzione nobile e promettente, ma le sue applicazioni nel mondo reale falliscono fin dall’inizio quando possono essere facilmente falsificate, rimosse o ignorate”.
Altri, tuttavia, credono che la marcatura abbia un ruolo nella rilevazione di AI, purché si comprendano le sue limitazioni. Hany Farid, professore presso la UC Berkeley School of Information, ritiene che la marcatura robusta sia parte della soluzione e che, migliorandola e utilizzandola in combinazione con altre tecnologie, sarà più difficile per gli attori malevoli creare falsi convincenti.
Feizi rimane scettico sull’utilità della marcatura per aziende come Google, ma il suo documento conclude che “progettare una marca robusta è una sfida, ma non necessariamente un compito impossibile”.
