OpenAI scopre 7 falsi giornalisti: quasi 100 articoli nelle testate

📌 In Sintesi

• OpenAI ha collegato Bogus Bylines a sette false identità giornalistiche utilizzate per proporre contenuti a testate reali.
• ChatGPT veniva usato per confrontare le bozze con le submission guidelines delle redazioni, correggerle e preparare le email di pitch agli editor.
• Quasi 100 articoli sono stati pubblicati o ripresi, mentre la parallela attività sui social ha ottenuto poco engagement: il vero bersaglio era la legittimazione editoriale.

OpenAI ha bloccato una campagna di influenza originata dall’Iran che ha trovato nella stampa online un canale più efficace dei social network. L’operazione, chiamata Bogus Bylines, utilizzava sette false identità giornalistiche per proporre articoli a testate reali e sfruttava ChatGPT per confrontare le bozze con le regole di submission delle singole redazioni e preparare le email destinate agli editor. Il dato che cambia la natura del caso è concreto: quasi 100 articoli sono stati pubblicati o ripresi da circa una dozzina di siti. La propaganda non ha dovuto costruire un proprio giornale: ha provato a farsi legittimare da quelli degli altri.

Sette firme false ottengono quasi 100 pubblicazioni

Nel rapporto ufficiale sulle operazioni “false front” OpenAI descrive Bogus Bylines come un’operazione originata dall’Iran. Gli account, poi bannati, utilizzavano VPN, impartivano prompt in persiano e producevano materiale in persiano e inglese. Il gruppo impiegava sette firme presentate online come giornalisti occidentali, prevalentemente statunitensi, per proporre articoli lunghi dedicati soprattutto al conflitto tra Stati Uniti e Iran.

OpenAI ha individuato quasi 100 articoli pubblicati o ripresi sotto quelle firme da oltre una dozzina di testate piccole e medie dedicate a geopolitica, affari internazionali e Medio Oriente, con una crescita netta dopo l’inizio del conflitto. Il dato porta più avanti un fenomeno già emerso con l’uso dell’AI da parte di Iran, Cina, Russia e Corea del Nord per adattare messaggi geopolitici: qui il contenuto acquisisce la firma e la distribuzione di un editore terzo.

Leggi anche: OpenAI scopre una campagna russa costruita attorno a un falso think tank

L’AI studia le regole della redazione prima di scrivere all’editor

Il passaggio più rilevante non è la generazione automatica di un articolo. Gli operatori fornivano a ChatGPT una bozza in inglese insieme ai criteri di submission di una specifica testata e chiedevano di valutarne la conformità, suggerire modifiche e renderla più adatta alla pubblicazione. Una volta approvate le correzioni, il modello preparava anche l’email con cui proporre il contenuto all’editor.

L’AI diventava quindi un sistema di ottimizzazione dell’intero accesso alla redazione: tono, struttura, requisiti e pitch. Non risulta un hack dei CMS né una compromissione tecnica delle testate. Il punto debole era il normale processo con cui una redazione valuta collaboratori e contributi esterni. È un’evoluzione delle operazioni di propaganda che già usavano false identità e infrastrutture informative, ma con un costo molto più basso per adattare ogni proposta al bersaglio editoriale.

I social falliscono ma le false firme superano il cancello editoriale

La differenza tra i due canali è il dato più istruttivo. Gli stessi attori chiedevano a ChatGPT di generare commenti in inglese e persiano su guerra, politica statunitense e rapporti con Israele; alcuni servivano perfino a elogiare gli articoli della campagna. OpenAI non ha però osservato una trazione significativa: le risposte identificate raccoglievano in genere interazioni a una o due cifre e l’attività social viene classificata nella categoria 2 della Breakout Scale.

Le false firme raggiungono invece la categoria 4 perché ottengono pubblicazioni ricorrenti su testate reali; una delle piattaforme coinvolte disponeva di quasi due milioni di follower su Facebook. La propaganda sintetica usata nella comunicazione politica aveva già mostrato la capacità dell’AI di moltiplicare contenuti, ma Bogus Bylines indica che la viralità non è necessariamente il bersaglio più prezioso: la legittimazione editoriale può valere più dell’engagement.

La superficie d’attacco è il processo con cui una redazione verifica chi scrive

L’operazione non dimostra che le testate coinvolte condividessero consapevolmente la linea degli operatori, né che ogni articolo fosse interamente generato dall’AI. OpenAI descrive soprattutto attività di revisione, adattamento e pitching e precisa, più in generale, che non tutto il materiale piazzato dalle operazioni analizzate proveniva dai suoi modelli.

Proprio per questo il problema non si risolve con un rilevatore di testo sintetico. Una redazione può ricevere un pezzo formalmente corretto, coerente con le proprie linee e accompagnato da una biografia credibile, senza sapere che l’identità dell’autore è costruita. Il caso Orsini e NewsGuard aveva mostrato quanto sia rischioso trasformare classificazioni e appartenenze presunte in fatti senza una base verificabile; qui la direzione è opposta ma il principio editoriale resta: la firma va verificata come una fonte, non accettata come semplice metadato del testo.

Continua con:

L’Europa e la propaganda sulla Russia: cosa mostrano i dati di aprile

La disinformazione non cerca più soltanto pubblico ma legittimità

L’interesse strategico di Bogus Bylines sta nella possibilità di “lavare” un messaggio attraverso un’infrastruttura editoriale che l’operatore non possiede. Creare account social falsi significa costruire reputazione e distribuzione da zero; ottenere la pubblicazione su una testata significa utilizzare reputazione, indicizzazione, newsletter e profili social già esistenti.

OpenAI osserva che, tra le 30 operazioni di influenza esposte negli ultimi due anni e mezzo, quelle capaci di collocare contenuti su media reali tendono ad avere il maggiore potenziale di portata e impatto. L’azienda valuta inoltre l’attività come compatibile con un operatore commerciale che conduce campagne su commissione, ma afferma di non poter identificare il soggetto specifico: l’origine iraniana degli account non equivale quindi a un’attribuzione automatica al governo di Teheran. Le precedenti interferenze attribuite a Iran e Russia nelle elezioni statunitensi mostrano un terreno già strategico; qui l’AI aggiunge una capacità industriale: trasformare più rapidamente un autore inesistente in una firma pubblicata, usando il giornalismo stesso come moltiplicatore di fiducia.