Gli esperti di sicurezza infantile stanno diventando sempre più impotenti nel fermare la creazione e la condivisione di migliaia di “immagini di abusi sessuali su minori generate da IA” su forum pedofili del dark web. Questa “esplosione” di immagini “inquietantemente” realistiche potrebbe normalizzare lo sfruttamento sessuale dei minori, attirare più bambini in situazioni pericolose e rendere più difficile per le forze dell’ordine trovare i bambini realmente in pericolo.
Un problema crescente
Trovare le vittime raffigurate in materiale di abuso sessuale su minori è già un problema “come cercare un ago in un pagliaio”, ha detto Rebecca Portnoff, direttrice di data science presso l’organizzazione no profit per la sicurezza dei minori Thorn. Ora, le indagini delle forze dell’ordine saranno ulteriormente ritardate dagli sforzi per determinare se il materiale è reale o no.
L’uso dannoso dell’IA
Il materiale dannoso prodotto dall’IA può anche rivittimizzare chiunque le cui immagini di abusi passati vengono utilizzate per addestrare i modelli di IA a generare immagini false. “Le immagini dei bambini, compreso il contenuto di vittime note, vengono riutilizzate per questo output davvero malvagio”, ha detto Portnoff.
La risposta legale
Mentre alcuni utenti che creano immagini con l’IA e anche alcuni analisti legali ritengono che questo contenuto potrebbe non essere illegale perché non danneggia bambini reali, alcuni funzionari del Dipartimento di Giustizia degli Stati Uniti hanno detto al Washington Post che le immagini di IA che sessualizzano i minori violano comunque le leggi federali sulla protezione dell’infanzia. Non sembra esserci un precedente, tuttavia, poiché i funzionari non sono stati in grado di citare un singolo caso precedente che ha portato a accuse federali.
Consigli per il pubblico
Con le autorità sempre più consapevoli del problema crescente, il pubblico viene avvertito di cambiare i comportamenti online per prevenire la vittimizzazione. All’inizio di questo mese, l’FBI ha emesso un avviso, “avvertendo il pubblico che gli attori malintenzionati stanno creando contenuti sintetici (comunemente noti come ‘deepfake’) manipolando fotografie o video innocui per prendere di mira le vittime”.