YouTube sta aggiornando le sue politiche sul cyberbullismo e l’harassment, vietando specificamente i contenuti che simulano realisticamente minori e altre vittime di crimini che narrano le loro morti o la violenza subita nel genere true crime. Questo aggiornamento sembra mirato a un genere di contenuti nel campo del true crime che crea rappresentazioni inquietanti alimentate dall’IA di vittime, inclusi i bambini, che descrivono la violenza subita.
Il problema dei Deepfake nel True Crime
Questi video, particolarmente diffusi nei circoli del true crime, utilizzano voci artificiali generate dall’IA, spesso infantili, per descrivere violenze grafiche avvenute in casi di alto profilo. Le famiglie delle vittime rappresentate in questi video hanno definito i contenuti “disgustosi”. La decisione di YouTube di aggiornare le sue politiche riflette una crescente preoccupazione per il potenziale danno causato da questi deepfake, che possono essere particolarmente traumatici per le famiglie delle vittime e per la comunità in generale.
Le nuove politiche di YouTube
L’aggiornamento della politica comporterà una penalità che rimuove il contenuto dal canale e limita temporaneamente le azioni che un utente può eseguire sulla piattaforma. Ad esempio, un primo strike limita gli utenti dal caricare video per una settimana, tra le altre restrizioni. Se la politica viene violata nuovamente entro 90 giorni, le penalità aumentano, con la possibilità finale di rimuovere l’intero canale.
Contesto più ampio
Le piattaforme, inclusa YouTube, hanno recentemente presentato strumenti di creazione guidati dall’IA e, insieme a questi, nuove politiche riguardanti i contenuti sintetici che potrebbero confondere gli utenti. TikTok, ad esempio, ora richiede ai creatori di etichettare i contenuti generati dall’IA come tali. YouTube ha annunciato una politica rigorosa riguardante i cloni vocali AI di musicisti, con un altro insieme di regole più flessibili per tutti gli altri.
Riflessioni finali
Questa mossa di YouTube rappresenta un passo importante nella regolamentazione dei contenuti AI e deepfake, specialmente in settori sensibili come il true crime. Mentre l’IA continua a evolversi e a diventare più sofisticata, diventa sempre più cruciale per le piattaforme come YouTube stabilire linee guida chiare per proteggere gli individui da potenziali danni e abusi. Queste politiche non solo riflettono un impegno etico, ma anche una risposta necessaria alle preoccupazioni legali e sociali che emergono in un’era sempre più digitale e interconnessa.