Jennie e deepfake: il video virale espone il vuoto delle leggi sudcoreane sull’AI

🤖 Cosa cambia

• Un video virale attribuito a Jennie ha superato 10 milioni di visualizzazioni, ma non è stato ufficialmente accertato se sia autentico o manipolato con AI.
• La legge sudcoreana punisce fino a sette anni la produzione e distribuzione di contenuti sintetici capaci di provocare desiderio sessuale o umiliazione.
• Il caso espone una zona grigia: contenuti manipolati, invasivi e sessualizzati possono produrre danni enormi senza rientrare chiaramente nella fattispecie dei deepfake sessuali.

Un video di pochi secondi attribuito a Jennie delle Blackpink è diventato uno dei casi più delicati per la nuova disciplina sudcoreana sui deepfake. La clip, nata da un’esibizione al Summer Sonic di Tokyo e arrivata a oltre 10 milioni di visualizzazioni, sembra mostrare un’esposizione accidentale del corpo della cantante. Alcuni utenti sostengono che il filmato sia stato manipolato con intelligenza artificiale, ma né Jennie né la sua agenzia hanno confermato che si tratti effettivamente di un deepfake. È proprio questa incertezza a rendere il caso rilevante: la Corea del Sud possiede ormai pene severe contro i contenuti sessuali sintetici non consensuali, ma il confine giuridico diventa molto meno netto quando la manipolazione è allusiva, apparentemente realistica e non apertamente pornografica.

Il problema giuridico nasce prima ancora di stabilire se il video sia un deepfake

Il primo elemento da tenere separato è il fatto tecnico dalla reazione online. Il filmato circolato dopo l’esibizione del 14 agosto 2026 è stato rapidamente indicato da numerosi fan come contenuto manipolato, ma l’autenticità della clip non risulta accertata pubblicamente. L’account ritenuto responsabile della prima pubblicazione è stato successivamente sospeso e, al 6 settembre, non risultano annunci ufficiali di indagini specifiche da parte della polizia o della procura sudcoreana. OA Entertainment ha invece comunicato il 18 agosto di aver individuato comportamenti lesivi contro Jennie sulle piattaforme social e nelle comunità online, comprendenti manipolazioni malevole di immagini e video, false informazioni e violazioni della privacy, annunciando azioni civili e penali senza compromessi. La società mantiene inoltre un canale ufficiale per la tutela dei diritti dell’artista e invita gli utenti a segnalare contenuti che violino reputazione, immagine e diritti personali. Il punto è essenziale: parlare di “video AI di Jennie” come fatto definitivamente accertato sarebbe scorretto. Quello che può essere analizzato con certezza è invece l’effetto prodotto dalla sua circolazione e la difficoltà del diritto nel classificare contenuti di questo tipo.

La Corea del Sud punisce già la creazione di deepfake sessuali fino a sette anni

La risposta legislativa sudcoreana è diventata particolarmente severa dopo l’esplosione dei casi di pornografia deepfake nelle scuole, nelle università e sulle piattaforme di messaggistica. L’articolo 14-2 dello Special Act on the Punishment of Sexual Crimes punisce chi modifica, combina o elabora immagini, video o registrazioni di volto, corpo o voce di un’altra persona contro la sua volontà in una forma capace di provocare desiderio sessuale o vergogna sessuale. Il testo vigente della normativa sudcoreana prevede fino a sette anni di reclusione o 50 milioni di won di multa sia per la produzione sia per la distribuzione dei contenuti sintetici. Dal rafforzamento approvato nell’ottobre 2024 è inoltre punito il semplice possesso, acquisto, salvataggio o consumo consapevole di questi materiali, con pene fino a tre anni e 30 milioni di won. Se la distribuzione avviene attraverso una rete di telecomunicazioni per profitto, la legge prevede almeno tre anni di reclusione. Il legislatore ha quindi superato da tempo l’idea che sia perseguibile soltanto chi crea il deepfake: l’intera catena di produzione, diffusione e consumo può assumere rilevanza penale.

Il video di Jennie mette alla prova la frase decisiva della legge: “desiderio o vergogna sessuale”

La difficoltà nasce dalla formulazione stessa della norma. La legge non punisce qualsiasi immagine falsa o qualsiasi alterazione non consensuale del corpo. Richiede che il contenuto sia stato trasformato in una forma tale da poter suscitare desiderio sessuale o senso di vergogna sessuale. Nei casi di deepfake pornografico classico il confine è relativamente chiaro: il volto di una persona viene applicato a un corpo nudo o a una scena sessualmente esplicita. È il fenomeno affrontato anche nell’operazione contro c.Fake, piattaforma che distribuiva deepfake sessuali di donne reali. Una clip alterata per simulare invece un incidente del guardaroba durante un’esibizione pubblica si colloca in uno spazio più ambiguo. Può essere profondamente lesiva, costruita per sessualizzare la persona rappresentata e diffusa proprio perché suggerisce una nudità involontaria, ma la qualificazione penale dipende da modalità concrete della manipolazione, intenzione, contesto e risultato visivo. Non basta quindi dimostrare che il filmato sia falso: occorre stabilire se soddisfi gli elementi specifici della fattispecie prevista dalla normativa contro i crimini sessuali digitali.

Leggi anche: Deepfake sessuali e IA, oscurata c.Fake nella maxi operazione tra Italia e Stati Uniti

La legge sui contenuti manipolati offre una seconda strada ma richiede altri presupposti

Dal luglio 2026 la Corea del Sud dispone anche di una disciplina più ampia contro le informazioni false o manipolate diffuse online. L’articolo 44-7 dell’Information and Communications Network Act vieta la distribuzione consapevole di informazioni completamente false o alterate in modo da essere scambiate per autentiche quando vengono diffuse con l’intenzione di provocare danni o ottenere vantaggi indebiti e incidono sui diritti personali, patrimoniali o sull’interesse pubblico. La versione vigente della norma esclude espressamente satira e parodia. Anche questa strada, tuttavia, non produce automaticamente una responsabilità ogni volta che circola un deepfake: occorre dimostrare consapevolezza della falsità e finalità dannosa o lucrativa. In altre parole, il diritto sudcoreano dispone ormai di più strumenti, ma nessuno trasforma la semplice esistenza di un contenuto sintetico non autorizzato in un illecito automatico. Proprio questa pluralità di soglie mostra perché i deepfake realistici siano difficili da governare: reputazione, privacy, falsificazione e violenza sessuale digitale possono sovrapporsi senza coincidere perfettamente.

La riforma del 2024 nacque da un’ondata di deepfake sessuali prodotta soprattutto da giovani

La severità della risposta sudcoreana non è casuale. Nel 2024 il Paese era stato investito da una crescita impressionante delle segnalazioni riguardanti immagini sessualmente manipolate di studentesse, insegnanti e altre donne reali, spesso prodotte e condivise all’interno di chat e gruppi frequentati da adolescenti. Il legislatore aveva reagito eliminando anche un elemento precedente particolarmente discusso: la necessità di dimostrare che il deepfake fosse stato creato “con lo scopo di distribuirlo”. Dall’ottobre 2024 la produzione stessa può essere penalmente rilevante quando avviene senza consenso nelle forme previste dall’articolo 14-2. La legge ha inoltre introdotto la punibilità del consumo consapevole. La Corea del Sud ha quindi costruito uno degli approcci più duri contro questa specifica forma di abuso digitale, ma la persistenza del fenomeno dimostra quanto sia difficile ottenere deterrenza soltanto aumentando le pene. L’accessibilità dei generatori di immagini e video riduce drasticamente competenze, tempo e costo necessari per creare manipolazioni realistiche. Il risultato è un reato potenzialmente producibile in pochi minuti e replicabile su migliaia di bersagli.

Celebrità e persone comuni affrontano lo stesso danno ma non lo stesso potere di reazione

Jennie dispone di un’agenzia, consulenti legali, sistemi di monitoraggio e una comunità globale capace di segnalare rapidamente contenuti manipolati. Una persona comune non possiede normalmente nessuna di queste risorse. È la stessa asimmetria emersa con la proliferazione dei servizi nudify e dei generatori di contenuti intimi non consensuali, contro i quali Google ha recentemente rafforzato le policy di Play e i controlli sulle app generative. Quando un video sintetico diventa virale, la rimozione dell’originale non elimina copie, repost, screenshot e versioni nuovamente codificate. Il danno può quindi continuare anche se l’autore viene identificato e il primo account sospeso. La legislazione coreana prevede strumenti per richiedere rimozione e blocco dei contenuti classificati come digital sex crime e consente alle autorità di attivare misure di tutela delle vittime, ma la rapidità di propagazione dei social rimane superiore alla velocità delle procedure amministrative e giudiziarie. Per questo il problema della regolamentazione non può essere ridotto alla sola pena applicata all’autore.

Continua con:

• Garante privacy ferma i deepfake di Mentana a Striscia la Notizia
• IdentifAI e Alto Intelligence uniscono rilevamento deepfake e threat intelligence cognitiva

Il prossimo confine è proteggere l’identità anche quando il contenuto non è pornografia

Il caso Jennie evidenzia così un limite destinato a diventare sempre più importante. Le legislazioni costruite per contrastare la pornografia deepfake funzionano relativamente bene quando il contenuto è esplicitamente sessuale. Diventano più difficili da applicare quando una manipolazione resta appena sotto quella soglia: un vestito alterato, un gesto ricostruito, un corpo modificato, una scena privata simulata o un video capace di attribuire alla vittima un comportamento mai avvenuto. Il danno reputazionale e personale può essere enorme anche senza nudità esplicita. Una questione analoga è emersa in Italia con il provvedimento del Garante sui deepfake di Enrico Mentana, dove il problema non era sessuale ma riguardava l’utilizzo realistico dell’identità di una persona per attribuirle parole mai pronunciate. Con l’aumento della qualità dei generatori, la frontiera normativa si sta quindi spostando dalla domanda “questo contenuto è pornografico?” a una questione più ampia: quali diritti possiede una persona sul proprio volto, corpo, voce e comportamento quando una macchina può ricostruirli credibilmente senza consenso. La Corea del Sud possiede già strumenti penali molto più forti di molti altri Paesi, ma il video attribuito a Jennie mostra che anche una normativa severa può lasciare zone grigie proprio dove la tecnologia rende più sottile il confine tra falso, abuso sessuale, violazione dell’identità e manipolazione reputazionale.