Sommario
OpenAI ha annunciato l’introduzione di nuovi strumenti per rilevare se immagini o tracce audio sono state generate dalla sua Intelligenza artificiale, DALL-E, e ha introdotto nuovi metodi di watermarking per contrassegnare più chiaramente i contenuti generati dall’IA.
Dettagli degli strumenti
Classificatore di Immagini: OpenAI ha sviluppato un classificatore che utilizza l’IA per determinare se una foto è stata generata dall’IA. Questo strumento predice la probabilità che un’immagine sia stata creata da DALL-E 3 con una precisione del 98%, anche se l’immagine è stata ritagliata, compressa o modificata nella saturazione.
Watermarking Audio: Insieme al classificatore, OpenAI ha introdotto un watermark resistente alle manomissioni che può etichettare contenuti audio con segnali invisibili. Questo è particolarmente utile per tracciare l’autenticità dei contenuti audio generati.
Prestazioni e Limitazioni: Mentre il classificatore funziona bene con le immagini generate da DALL-E 3, la sua efficacia nel rilevare immagini prodotte da altri modelli di IA è inferiore, riuscendo a identificare solo tra il 5 e il 10% delle immagini generate da altre piattaforme come Midjourney.
Implementazione di Watermarking
OpenAI ha già implementato i “content credentials” nei metadati delle immagini attraverso la Coalition of Content Provenance and Authority (C2PA), di cui fanno parte anche Microsoft e Adobe. Questo mese, OpenAI si è anche unita al comitato direttivo della C2PA, rafforzando il suo impegno nel fornire trasparenza sulla provenienza dei contenuti AI.
Progetti Futuri e Feedback: I nuovi watermark audio sono già stati aggiunti ai clip prodotti da Voice Engine, la piattaforma di sintesi vocale di OpenAI. Tuttavia, sia il classificatore di immagini sia il watermarking audio sono ancora in fase di perfezionamento e OpenAI sta cercando feedback dagli utenti per testarne l’efficacia.
Contesto Storico: OpenAI ha una lunga storia nello sviluppo di strumenti per il rilevamento di contenuti generati dall’IA, sebbene nel 2023 abbia terminato un programma per l’identificazione di testi scritti dall’IA a causa della bassa accuratezza del classificatore di testi.
Implicazioni
Questi sviluppi non solo aiutano a mantenere l’integrità e la trasparenza nell’uso delle tecnologie di generazione di contenuti IA, immagini ed audio, ma forniscono anche strumenti essenziali per gli utenti e i creatori di contenuti per verificare l’autenticità e la provenienza dei materiali che consumano o producono. Questi strumenti rappresentano un passo significativo verso un maggiore controllo e comprensione dei contenuti generati dall’IA, cruciali in un’era dove la distinzione tra contenuto reale e sintetico diventa sempre più sfumata.
