Sommario
Ning Zhang, professore assistente di ingegneria informatica e delle comunicazioni presso la McKelvey School of Engineering della Washington University di St. Louis, ha sviluppato AntiFake, un meccanismo di difesa innovativo progettato per contrastare la sintesi vocale non autorizzata. Presentato il 27 novembre alla Conferenza dell’Association for Computing Machinery su Computer e Sicurezza delle Comunicazioni a Copenhagen, AntiFake rappresenta un importante passo avanti nella lotta contro le deepfake vocali.
Innovazione di AntiFake
A differenza dei metodi tradizionali di rilevamento delle deepfake, che vengono utilizzati per valutare e scoprire l’audio sintetico come strumento di mitigazione post-attacco, AntiFake adotta un approccio proattivo. Utilizza tecniche avversarie per impedire la sintesi di discorsi ingannevoli, rendendo più difficile per gli strumenti di intelligenza artificiale leggere le caratteristiche necessarie dalle registrazioni vocali. Il codice di AntiFake è liberamente disponibile agli utenti.
Tecnica e Efficacia
“AntiFake assicura che, quando mettiamo dati vocali là fuori, sia difficile per i criminali utilizzare queste informazioni per sintetizzare le nostre voci e impersonarci”, ha affermato Zhang. La tecnica impiegata da AntiFake è quella dell’IA avversaria, un tempo parte della cassetta degli attrezzi dei cybercriminali, ma ora utilizzata per difendersi da loro. AntiFake altera leggermente il segnale audio registrato, distorcendolo o perturbandolo appena abbastanza da suonare correttamente all’ascolto umano, ma risultando completamente diverso per l’IA.
Test e Risultati
Per garantire che AntiFake possa resistere in un panorama in continua evoluzione di potenziali attaccanti e modelli di sintesi sconosciuti, Zhang e l’autore principale Zhiyuan Yu, studente laureato nel laboratorio di Zhang, hanno costruito lo strumento per essere generalizzabile e lo hanno testato contro cinque sintetizzatori vocali all’avanguardia. Il software ha raggiunto un tasso di protezione superiore al 95%, anche contro sintetizzatori commerciali non visti in precedenza. Hanno anche testato l’usabilità di AntiFake con 24 partecipanti umani per confermare che lo strumento sia accessibile a popolazioni diverse.
Prospettive Future
Attualmente, AntiFake può proteggere brevi clip vocali, prendendo di mira il tipo più comune di impersonificazione vocale. Tuttavia, Zhang afferma che non c’è nulla che impedisca a questo strumento di essere espanso per proteggere registrazioni più lunghe o addirittura musica, nella lotta continua contro la disinformazione. “Alla fine, vogliamo essere in grado di proteggere completamente le registrazioni vocali”, ha detto Zhang. “Anche se non so cosa sarà il prossimo nella tecnologia vocale AI, penso che la nostra strategia di usare le tecniche degli avversari contro di loro continuerà ad essere efficace.”
