Sicurezza Informatica
LAION-5B, CSAM nel dataset di intelligenza artificiale
Più di 1.000 materiali noti di abuso sessuale su minori (CSAM) sono stati trovati in un ampio dataset aperto, noto come LAION-5B, utilizzato per addestrare popolari generatori di immagini basati su testo, come Stable Diffusion. La scoperta è stata rivelata da David Thiel, ricercatore presso lo Stanford Internet Observatory (SIO).
Dettagli della Scoperta
Origine del Problema
Thiel ha iniziato la sua ricerca a settembre, dopo aver scoperto a giugno che i generatori di immagini AI venivano utilizzati per creare migliaia di false ma realistiche immagini di abuso sessuale su minori, che si diffondevano rapidamente sul dark web. L’obiettivo era scoprire quale ruolo il CSAM potrebbe avere nel processo di addestramento dei modelli AI che alimentano questi generatori di immagini illecite.
Contenuto del Dataset
Il dataset LAION-5B includeva CSAM noti, raccolti da una vasta gamma di fonti, tra cui siti di social media mainstream come Reddit, X, WordPress e Blogspot, nonché siti di video per adulti popolari come XHamster e XVideos.
Reazioni e Misure Adottate
Rimozione dei Dataset
In seguito alla pubblicazione del rapporto di Thiel, un portavoce di LAION, l’organizzazione no-profit tedesca che ha prodotto il dataset, ha dichiarato che LAION stava “rimuovendo temporaneamente i dataset LAION da Internet” a causa della loro “politica di tolleranza zero” per i contenuti illegali. I dataset verranno ripubblicati una volta che LAION assicurerà che siano “sicuri”.
Problemi con i Modelli Precedentemente Addestrati
Rimuovere i dataset ora non risolve i problemi residui con i dataset precedentemente scaricati o i modelli precedentemente addestrati, come Stable Diffusion 1.5. Le versioni successive di Stable Diffusion, 2.0 e 2.1, hanno filtrato parte o la maggior parte del contenuto ritenuto “non sicuro”, rendendo difficile generare contenuti espliciti. Tuttavia, a causa dell’insoddisfazione degli utenti per queste versioni più filtrate, Stable Diffusion 1.5 rimane “il modello più popolare per generare immagini esplicite”.
Implicazioni e Soluzioni Proposte
Sottostima del Problema
SIO ha trovato 3.226 casi sospetti di CSAM nel dataset LAION-5B. Il rapporto di Thiel avverte che entrambe le cifre sono “inherentemente una significativa sottostima” a causa della limitata capacità dei ricercatori di rilevare e segnalare tutti i CSAM nei dataset.
Soluzioni Suggerite
Il rapporto SIO suggerisce che la maggior parte di coloro che possiedono set di dati derivati da LAION-5B dovrebbero eliminarli o lavorare con intermediari per pulire il materiale. I modelli basati su Stable Diffusion 1.5 che non hanno avuto misure di sicurezza applicate dovrebbero essere deprecati e la loro distribuzione interrotta dove possibile.
Cos’è LAION-5B?
LAION-5B è un grande dataset di immagini e testi utilizzato per addestrare modelli di intelligenza artificiale (AI), in particolare quelli che generano immagini a partire da descrizioni testuali. Questo dataset è stato creato e reso disponibile dalla Large-scale Artificial Intelligence Open Network (LAION), un’organizzazione no-profit tedesca.
Caratteristiche principali di LAION-5B:
- Dimensione e Contenuto: Come suggerisce il nome, LAION-5B contiene circa 5 miliardi di coppie di immagini e testi. Queste coppie sono state raccolte da una varietà di fonti pubbliche su Internet.
- Utilizzo nell’Addestramento AI: Il dataset è utilizzato per addestrare modelli di AI, in particolare quelli basati su tecniche di apprendimento profondo, per comprendere e generare immagini basate su input testuali. Questo tipo di addestramento è fondamentale per lo sviluppo di tecnologie come i generatori di immagini basati su testo.
- Accessibilità: LAION-5B è un dataset aperto, il che significa che è accessibile a ricercatori e sviluppatori di tutto il mondo. Questa accessibilità ha lo scopo di promuovere la ricerca e lo sviluppo nell’ambito dell’intelligenza artificiale.
- Implicazioni Etiche e di Sicurezza: L’uso di dataset ampi e aperti come LAION-5B solleva questioni etiche e di sicurezza, in particolare riguardo alla presenza di contenuti sensibili o inappropriati, come immagini di abuso sessuale su minori, che possono essere inclusi accidentalmente nel dataset.
- Importanza per la Ricerca AI: Dataset come LAION-5B sono essenziali per il progresso nel campo dell’intelligenza artificiale, poiché forniscono una vasta quantità di dati necessari per l’addestramento di modelli AI complessi e sofisticati.
In sintesi, LAION-5B è un importante risorsa per la comunità AI, ma la sua gestione e utilizzo richiedono attenzione e responsabilità per garantire che i dati siano utilizzati in modo etico e sicuro.
La scoperta di CSAM nei dataset utilizzati per addestrare i modelli AI di generazione di immagini solleva gravi preoccupazioni sulla sicurezza e l’etica nell’uso di tali tecnologie. La necessità di misure di sicurezza più rigorose e di una maggiore vigilanza nella creazione e gestione di questi dataset è evidente.
Sicurezza Informatica
Kapeka: nuova backdoor di Sandworm per l’Est Europa
Tempo di lettura: 3 minuti. Kapeka, nuova backdoor utilizzata da Sandworm in attacchi all’Europa orientale, con capacità avanzate di controllo e flessibilità operativa.
Una nuovo backdoor denominata “Kapeka” è stato individuato mentre veniva impiegato in attacchi mirati contro l’Europa orientale, inclusi Estonia e Ucraina. Questo malware, sviluppato dal gruppo di minaccia persistente avanzato (APT) collegato alla Russia, noto come Sandworm, ha mostrato capacità estremamente sofisticate nell’esecuzione di cyber-attacchi, secondo un rapporto di WithSecure.
Caratteristiche del Backdoor Kapeka
Kapeka è una backdoor flessibile scritta in C++ e confezionato come una DLL di Windows. È progettato per mascherarsi da componente aggiuntivo di Microsoft Word per sembrare legittimo e evitare il rilevamento. Il malware è dotato di una configurazione di comando e controllo (C2) incorporata che stabilisce contatti con server controllati dall’attaccante e ottiene istruzioni su come procedere.
Funzionalità del malware
Le funzionalità di Kapeka includono la capacità di leggere e scrivere file, lanciare payload, eseguire comandi shell e persino aggiornare o disinstallare se stesso. Utilizza l’interfaccia COM di WinHttp 5.1 per la comunicazione di rete e impiega il formato JSON per inviare e ricevere dati dal suo server C2. Il backdoor può anche aggiornare la propria configurazione C2 “al volo”, ricevendo una nuova versione dal server C2 durante il polling.
Metodi di propagazione e associazioni
La modalità esatta di propagazione di Kapeka non è ancora stata pienamente identificata, ma le analisi indicano che il dropper del malware viene recuperato da siti web compromessi utilizzando il comando certutil, un esempio di utilizzo di binari legittimi per eseguire attacchi (LOLBin). Kapeka è stato collegato a precedenti famiglie di malware come GreyEnergy e Prestige, suggerendo che potrebbe essere un successore di quest’ultimo, usato in intrusioni che hanno portato al dispiegamento del ransomware Prestige alla fine del 2022.
Implicazioni e significato
L’uso di Kapeka in operazioni di intrusione dimostra un’attività di livello APT, con un alto grado di stealth e sofisticazione, tipico di attacchi attribuibili a origini russe. La sua vittimologia sporadica e il targeting di specifiche regioni geopoliticamente sensibili come l’Europa orientale, evidenziano l’uso strategico di questo malware in operazioni di cyber spionaggio o sabotaggio.
Il backdoor Kapeka rappresenta una minaccia significativa per la sicurezza delle informazioni nelle aree colpite. Le organizzazioni in regioni potenzialmente a rischio dovrebbero rafforzare le loro difese e monitorare attivamente per rilevare segni di questo malware sofisticato, adottando misure proattive per proteggere i loro sistemi dagli attacchi.
APT44: pericolo globale del gruppo Sandworm
APT44, noto anche come Sandworm, è una delle unità di sabotaggio informatico più pericolose, attiva nell’ambito dei conflitti geopolitici a favore degli interessi russi. Questo gruppo è associato a numerosi attacchi di alto profilo e continua a rappresentare una minaccia elevata per governi e operatori di infrastrutture critiche a livello mondiale.
Caratteristiche e attività di APT44
APT44 è un gruppo avanzato di minaccia persistente (APT) che ha mostrato una capacità notevole e una tolleranza al rischio elevata nei suoi sforzi per supportare la politica estera russa. L’ampio mandato di questo gruppo lo rende una minaccia imprevedibile, pronta a colpire a breve termine ovunque i suoi obiettivi si allineino agli interessi nazionali russi.
Rischio di proliferazione di nuove tecniche
Le continue innovazioni di APT44 nell’uso di capacità cyber distruttive hanno potenzialmente abbassato la barriera all’ingresso per altri attori statali e non statali interessati a sviluppare i propri programmi di attacco informatico. Questo rischio di proliferazione è una preoccupazione crescente, poiché potrebbe portare a un aumento globale di attacchi cyber sofisticati e distruttivi.
Protezione e Azioni della Comunità
La ricerca di Google ha portato all’identificazione di varie misure per proteggere gli utenti e la comunità più ampia:
- Protezione attraverso Google’s Threat Analysis Group (TAG): I risultati della ricerca migliorano la sicurezza dei prodotti di Google.
- Aggiunte a Safe Browsing: I siti e i domini identificati sono stati aggiunti per proteggere gli utenti da ulteriori sfruttamenti.
- Allerte per attacchi supportati dal governo: Gli utenti di Gmail e Workspace coinvolti ricevono notifiche.
- Programmi di notifica delle vittime: Dove possibile, le vittime vengono informate tramite programmi dedicati.
- Risorse di VirusTotal: Una collezione di indicatori di compromissione legati ad APT44 è disponibile per gli utenti registrati.
Il continuo impegno di APT44 nel campo del cyber sabotage rappresenta una delle minacce più severe e pervasive a livello globale. È essenziale che la comunità internazionale rimanga vigile e preparata a fronteggiare le sfide poste da gruppi come Sandworm, specialmente in contesti geopolitici delicati.
Sicurezza Informatica
Miner di criptovalute arrestato per aver evaso pagamenti di Server Cloud per 3,5 Milioni di Dollari
Tempo di lettura: 2 minuti. Un miner di criptovalute è stato arrestato per aver evaso pagamenti per 3,5 milioni di dollari in servizi di server cloud
Charles O. Parks III, noto anche come “CP3O”, è stato arrestato e accusato di aver utilizzato server cloud noleggiati per minare criptovalute, causando un debito di 3,5 milioni di dollari con due fornitori di servizi cloud, senza mai saldare i conti.
Dettagli del caso
Parks ha ideato un sistema ingegnoso creando identità aziendali fittizie, come “MultiMillionaire LLC” e “CP30 LLC”, per aprire numerosi account presso fornitori di servizi cloud, ottenendo così accesso a una potenza computazionale significativa. Anche se il Dipartimento di Giustizia (DOJ) non ha nominato esplicitamente i fornitori coinvolti, le indicazioni geografiche suggeriscono che si tratti di Amazon e Microsoft, situati rispettivamente a Seattle e Redmond, Washington.
Metodologia e abuso
Utilizzando questi account, Parks è riuscito a ottenere l’accesso a server dotati di potenti schede grafiche, essenziali per il mining di criptovalute come Ether (ETH), Litecoin (LTC) e Monero (XMR). Ha lanciato decine di migliaia di queste istanze di server, utilizzando software di mining e strumenti per massimizzare l’efficienza energetica e monitorare l’attività di mining in varie pool.
Riciclaggio e lifestyle
Le criptovalute estratte venivano poi riciclate acquistando token non fungibili (NFT), convertendole e trasferendole su varie piattaforme di scambio di criptovalute, o attraverso pagamenti online e conti bancari tradizionali. I proventi, convertiti in dollari, erano utilizzati da Parks per finanziare uno stile di vita lussuoso, includendo viaggi in prima classe e l’acquisto di articoli di lusso e auto.
Implicazioni legali e prevenzione
Parks è stato arrestato il 13 aprile 2024 nel Nebraska, con una prima udienza programmata il giorno successivo in un tribunale federale di Omaha. L’imputazione include accuse di frode informatica, riciclaggio di denaro e transazioni monetarie illegali, con una pena massima prevista di 30 anni di prigione. Il caso evidenzia anche l’importanza per i fornitori di servizi cloud di adottare misure più rigorose per verificare l’identità degli utenti, stabilire limiti di uso per i nuovi account e migliorare i sistemi di rilevamento delle anomalie per minimizzare le perdite.
Questo caso di cryptojacking sottolinea la necessità di una vigilanza continua e di politiche più severe da parte dei fornitori di servizi cloud per prevenire abusi simili, proteggendo così l’integrità dei loro servizi e dei loro clienti.
Sicurezza Informatica
USA, arrestata per un’accusa di Sextortion da 1,7 Milioni di Dollari
Tempo di lettura: 2 minuti. Una donna del Delaware è stata arrestata per aver preso di mira giovani ragazzi in uno schema di sextortion che ha fruttato 1,7 milioni
Una donna del Delaware, Hadja Kone, è stata arrestata per il suo presunto coinvolgimento in un vasto schema internazionale di sextortion che ha mirato a giovani maschi, guadagnando circa 1,7 milioni di dollari tramite estorsioni. Questo caso sottolinea la crescente problematica della sextortion su Internet, che colpisce migliaia di giovani in tutto il mondo.
Dettagli del caso
Hadja Kone, 28 anni, è stata collegata a un’operazione che mirava principalmente a giovani uomini e minori negli Stati Uniti, Canada e Regno Unito. I truffatori si fingevano giovani donne attraenti online, iniziando conversazioni con le vittime e invogliandole a partecipare a sessioni di video chat dal vivo, durante le quali venivano registrate segretamente. Successivamente, le vittime venivano minacciate di diffondere i video a meno che non pagassero somme di denaro, generalmente tramite Cash App o Apple Pay.
Implicazioni Legali e Risposta delle Autorità
Kone e i suoi co-conspiratori sono accusati di cyberstalking, minacce interstatali, riciclaggio di denaro e frode via cavo. Siaka Ouattara, un altro presunto co-conspiratore di 22 anni dalla Costa d’Avorio, è stato arrestato dalle autorità ivoriane a febbraio. Se condannati, entrambi potrebbero affrontare fino a 20 anni di prigione per ciascun capo di imputazione.
Preoccupazioni crescenti e misure di prevenzione
Questo caso rientra in una tendenza allarmante di aumento dei casi di sextortion, specialmente tra i minori. Nel gennaio 2024, il FBI ha lanciato un avvertimento sulla crescente minaccia di sextortion, sottolineando che i giovani maschi di età compresa tra 14 e 17 anni sono particolarmente a rischio, ma qualsiasi bambino può diventare vittima. Piattaforme come Instagram e Snapchat hanno iniziato a implementare nuove protezioni e risorse educative per combattere la sextortion e proteggere i giovani utenti.
Il caso di Hadja Kone evidenzia l’importanza di una maggiore consapevolezza e educazione sulle pratiche di sicurezza online. Le piattaforme social stanno rispondendo con nuove misure, ma è essenziale che i genitori, gli educatori e i giovani stessi siano informati sui segni di avvertimento e sulle strategie di prevenzione della sextortion
- Inchieste2 settimane fa
Mercato ITC in Italia nel 2024: numeri e crescita vertiginosa rispetto al paese
- Inchieste2 settimane fa
Managed Service Providers in Italia: numeri di un mercato in crescita
- Inchieste2 settimane fa
Cloud Italiano qual è il Trend del 2024? Aziende e servizi disponibili
- Inchieste2 settimane fa
Cloud Provider Italiani: quali sono le caratteristiche preferite dagli specialisti IT?
- Cyber Security1 settimana fa
Vulnerabilità critiche nel software Cisco: dettagli e soluzioni
- Inchieste1 settimana fa
Papa Francesco sarà al G7 e l’Italia festeggia il DDL AI
- Robotica1 settimana fa
Perché i Robot non riescono a superare gli animali in corsa?
- L'Altra Bolla1 settimana fa
Reddit rivoluziona l’E-Commerce con Dynamic Product Ads