Il Consiglio di Supervisione di Meta, un organismo semi-indipendente che esamina le decisioni di moderazione dell’azienda, sta attualmente indagando su due casi di immagini esplicite generate dall’intelligenza artificiale che ritraggono figure pubbliche, postate rispettivamente su Instagram in India e Facebook negli Stati Uniti.
Dettagli dei casi
In India, un’immagine generata da AI di una figura pubblica è stata segnalata su Instagram come pornografia, ma non è stata rimossa immediatamente nonostante le segnalazioni. Solo dopo che l’utente ha fatto appello al Consiglio di Supervisione, l’immagine è stata rimossa per violazione delle norme comunitarie su bullismo e molestie. Negli Stati Uniti, un’immagine simile è stata pubblicata in un gruppo su Facebook dedicato alle creazioni AI, e successivamente rimossa dopo che era già stata segnalata e catalogata in una banca dati di immagini offensive.
Problematica delle Deepfake Pornografiche
Queste indagini mettono in luce il problema crescente delle deepfake pornografiche, una forma di violenza di genere online che utilizza la tecnologia AI per creare contenuti sessualmente espliciti senza consenso. In India, il fenomeno delle deepfake è particolarmente preoccupante, con un aumento significativo di video manipolati che coinvolgono attrici e altre figure pubbliche femminili.
Risposta legislativa e Azioni di Meta
A livello globale, ci sono poche leggi che trattano la produzione e la distribuzione di pornografia generata tramite AI. Tuttavia, alcuni stati degli USA e recentemente il Regno Unito hanno introdotto leggi che criminalizzano la creazione di immagini esplicite generate da AI. Meta ha risposto affermando di utilizzare un mix di intelligenza artificiale e revisione umana per rilevare contenuti sessualmente suggestivi, assicurando che tali contenuti non vengano raccomandati in sezioni come Esplora di Instagram o nelle raccomandazioni di Reels.
Commenti Pubblici e Prossimi Passi
Il Consiglio di Supervisione ha aperto una sessione di commenti pubblici fino al 30 aprile, invitando input su come affrontare i danni causati dalle deepfake pornografiche e su informazioni contestuali riguardanti la diffusione di tali contenuti. Si attende una decisione nelle prossime settimane, che potrebbe avere implicazioni significative per le politiche di Meta e per la protezione globale delle donne online.
Questi casi evidenziano la lotta continua delle grandi piattaforme contro i contenuti problematici generati da AI, sottolineando la necessità di migliorare i processi di moderazione e le tecnologie di rilevamento per proteggere gli utenti da contenuti dannosi e non consensuali.