OpenAI blocca una rete di truffe AI collegata alla Cambogia

🛡️ Executive Summary

• Una rete probabilmente attiva nell’area cambogiana di Poipet usava ChatGPT per gestire identità false e diverse tipologie di truffa.
• Gli operatori generavano messaggi, traduzioni, documenti falsi e contenuti promozionali destinati a investimenti, relazioni sentimentali e gioco d’azzardo.
• OpenAI ha chiuso gli account, condiviso indicatori con aziende e autorità e rafforzato le misure contro il ritorno degli operatori.

OpenAI ha disattivato una rete coordinata di account ChatGPT utilizzata per sostenere truffe finanziarie, sentimentali, legate al gioco d’azzardo e basate sull’impersonificazione delle forze dell’ordine. L’attività proveniva con elevata probabilità dalla Cambogia e sarebbe stata condotta nell’area di Poipet, città già associata pubblicamente a grandi centri criminali online. Il gruppo usava i modelli per costruire identità fittizie, tradurre conversazioni, creare documenti falsi e amministrare il lavoro quotidiano. Alcuni contenuti analizzati da OpenAI mostrano inoltre possibili collegamenti con traffico di esseri umani, lavoro forzato e coercizione all’interno dell’organizzazione.

ChatGPT sosteneva più truffe nella stessa operazione

L’indagine è iniziata dopo una segnalazione ricevuta da WhatsApp e ha portato OpenAI a identificare una rete di account probabilmente riconducibile a operatori attivi in Cambogia. Nel rapporto ufficiale sulla distruzione dell’operazione criminale, la società spiega che il gruppo non era specializzato in una sola frode, ma cambiava continuamente narrativa e identità in funzione della vittima. Alcuni account costruivano profili sentimentali falsi per instaurare rapporti di fiducia, prima di proporre investimenti inesistenti in criptovalute o nella compravendita spot dell’oro. Altri fingevano di rappresentare piattaforme di gioco d’azzardo, promettendo bonus e vincite che potevano essere sbloccati soltanto con nuovi versamenti. Una terza componente impersonava autorità di polizia e accusava le vittime di reati gravi, chiedendo il pagamento immediato di multe inventate. ChatGPT veniva utilizzato per preparare conversazioni in più lingue, mantenere coerenti le personalità inventate e produrre contenuti destinati a WhatsApp, Telegram, social network e siti fraudolenti. Il caso si inserisce nell’espansione delle truffe automatizzate che sfruttano identità digitali e comunicazioni credibili, ma mostra una struttura più ampia, capace di far convivere schemi criminali differenti sotto la stessa amministrazione.

Il modello ping, zing e sting conduce al pagamento

OpenAI descrive la sequenza utilizzata dagli operatori attraverso tre fasi definite ping, zing e sting. Il ping rappresenta il primo contatto: i truffatori cercavano materiale per profili di incontri, preparavano messaggi e traducevano conversazioni destinate alle piattaforme di messaggistica. Lo zing serviva a produrre una risposta emotiva, alternando promesse di guadagni garantiti, linguaggio romantico, inviti alla segretezza e urgenze costruite intorno a bonus prossimi alla scadenza.

Lo sting concludeva la truffa con la richiesta di denaro. Le vittime dovevano versare depositi per sbloccare presunti profitti, pagare costi di attivazione, saldare multe inesistenti o inviare schermate dei bonifici e dati dei conti come prova. La rete utilizzava inoltre i modelli per creare immagini di passaporti, avvisi legali, conferme di acquisto azionario e interfacce di piattaforme finanziarie o di gioco. L’AI non sostituiva quindi il lavoro dell’operatore, ma accelerava la produzione del materiale e permetteva di adattare tono, lingua e identità a centinaia di interlocutori. È la stessa pressione psicologica osservata nelle campagne di sextortion che riutilizzano dati personali e false prove, applicata però a una struttura criminale diversificata.

I documenti interni indicano coercizione e lavoro forzato

Una parte delle conversazioni non era rivolta alle vittime delle truffe, ma all’amministrazione interna dell’organizzazione. Gli account preparavano annunci per reclutare “chatter” a Poipet, promettendo voli, alloggio, pasti, visti e permessi di lavoro. Altri messaggi riguardavano debiti dei dipendenti, trattenute sul salario, multe disciplinari, prestiti, incentivi per il reclutamento, scadenze dei visti e condizioni dei permessi di soggiorno. Sono emersi anche riferimenti a detenzioni, tentativi di fuga e possibili responsabilità penali di persone costrette a lavorare nelle attività fraudolente.

OpenAI precisa di non poter determinare in modo indipendente la situazione di ogni individuo né stabilire chi operasse volontariamente e chi fosse vittima di sfruttamento. Il materiale risulta tuttavia coerente con le descrizioni pubbliche dei grandi scam compound del Sud-est asiatico, dove lavoratori reclutati attraverso offerte apparentemente legittime possono essere intrappolati da debiti, violenze e confisca dei documenti.

Il caso mostra quindi che i soggetti incaricati di contattare le vittime possono essere a loro volta sottoposti a coercizione. Frode online, criminalità organizzata e tratta non costituiscono necessariamente fenomeni separati, ma possono appartenere alla stessa catena economica.

OpenAI chiude gli account ma non quantifica le perdite

OpenAI ha vietato gli account collegati alla rete, condiviso gli indicatori rilevanti con aziende del settore e autorità competenti e introdotto misure per rendere più difficile la riapertura dell’operazione sui propri servizi. La scala economica resta però sconosciuta. Le conversazioni analizzate suggeriscono che il gruppo possa avere interagito con centinaia di bersagli e contengono riferimenti a singole vittime che avrebbero perso migliaia di dollari, ma la società non è stata in grado di verificare autonomamente tali cifre. Il rapporto non dimostra inoltre che ChatGPT abbia creato capacità criminali completamente nuove: i modelli venivano soprattutto impiegati per aumentare velocità, varietà e coerenza di tecniche già consolidate. La risposta deve quindi combinare il blocco degli account AI con interventi sulle piattaforme di messaggistica, sui pagamenti e sulle organizzazioni che controllano i centri operativi. Le precedenti truffe di assistenza tecnica distribuite attraverso milioni di email hanno mostrato che interrompere un singolo canale non elimina un ecosistema capace di spostarsi rapidamente tra servizi differenti. Il valore principale dell’indagine OpenAI consiste nell’avere collegato le conversazioni rivolte alle vittime con le attività amministrative interne, facendo emergere una struttura nella quale la generazione automatizzata dei contenuti rappresentava soltanto una parte del processo criminale.