Sicurezza Informatica
LAION-5B, CSAM nel dataset di intelligenza artificiale
Più di 1.000 materiali noti di abuso sessuale su minori (CSAM) sono stati trovati in un ampio dataset aperto, noto come LAION-5B, utilizzato per addestrare popolari generatori di immagini basati su testo, come Stable Diffusion. La scoperta è stata rivelata da David Thiel, ricercatore presso lo Stanford Internet Observatory (SIO).
Dettagli della Scoperta
Origine del Problema
Thiel ha iniziato la sua ricerca a settembre, dopo aver scoperto a giugno che i generatori di immagini AI venivano utilizzati per creare migliaia di false ma realistiche immagini di abuso sessuale su minori, che si diffondevano rapidamente sul dark web. L’obiettivo era scoprire quale ruolo il CSAM potrebbe avere nel processo di addestramento dei modelli AI che alimentano questi generatori di immagini illecite.
Contenuto del Dataset
Il dataset LAION-5B includeva CSAM noti, raccolti da una vasta gamma di fonti, tra cui siti di social media mainstream come Reddit, X, WordPress e Blogspot, nonché siti di video per adulti popolari come XHamster e XVideos.
Reazioni e Misure Adottate
Rimozione dei Dataset
In seguito alla pubblicazione del rapporto di Thiel, un portavoce di LAION, l’organizzazione no-profit tedesca che ha prodotto il dataset, ha dichiarato che LAION stava “rimuovendo temporaneamente i dataset LAION da Internet” a causa della loro “politica di tolleranza zero” per i contenuti illegali. I dataset verranno ripubblicati una volta che LAION assicurerà che siano “sicuri”.
Problemi con i Modelli Precedentemente Addestrati
Rimuovere i dataset ora non risolve i problemi residui con i dataset precedentemente scaricati o i modelli precedentemente addestrati, come Stable Diffusion 1.5. Le versioni successive di Stable Diffusion, 2.0 e 2.1, hanno filtrato parte o la maggior parte del contenuto ritenuto “non sicuro”, rendendo difficile generare contenuti espliciti. Tuttavia, a causa dell’insoddisfazione degli utenti per queste versioni più filtrate, Stable Diffusion 1.5 rimane “il modello più popolare per generare immagini esplicite”.
Implicazioni e Soluzioni Proposte
Sottostima del Problema
SIO ha trovato 3.226 casi sospetti di CSAM nel dataset LAION-5B. Il rapporto di Thiel avverte che entrambe le cifre sono “inherentemente una significativa sottostima” a causa della limitata capacità dei ricercatori di rilevare e segnalare tutti i CSAM nei dataset.
Soluzioni Suggerite
Il rapporto SIO suggerisce che la maggior parte di coloro che possiedono set di dati derivati da LAION-5B dovrebbero eliminarli o lavorare con intermediari per pulire il materiale. I modelli basati su Stable Diffusion 1.5 che non hanno avuto misure di sicurezza applicate dovrebbero essere deprecati e la loro distribuzione interrotta dove possibile.
Cos’è LAION-5B?
LAION-5B è un grande dataset di immagini e testi utilizzato per addestrare modelli di intelligenza artificiale (AI), in particolare quelli che generano immagini a partire da descrizioni testuali. Questo dataset è stato creato e reso disponibile dalla Large-scale Artificial Intelligence Open Network (LAION), un’organizzazione no-profit tedesca.
Caratteristiche principali di LAION-5B:
- Dimensione e Contenuto: Come suggerisce il nome, LAION-5B contiene circa 5 miliardi di coppie di immagini e testi. Queste coppie sono state raccolte da una varietà di fonti pubbliche su Internet.
- Utilizzo nell’Addestramento AI: Il dataset è utilizzato per addestrare modelli di AI, in particolare quelli basati su tecniche di apprendimento profondo, per comprendere e generare immagini basate su input testuali. Questo tipo di addestramento è fondamentale per lo sviluppo di tecnologie come i generatori di immagini basati su testo.
- Accessibilità: LAION-5B è un dataset aperto, il che significa che è accessibile a ricercatori e sviluppatori di tutto il mondo. Questa accessibilità ha lo scopo di promuovere la ricerca e lo sviluppo nell’ambito dell’intelligenza artificiale.
- Implicazioni Etiche e di Sicurezza: L’uso di dataset ampi e aperti come LAION-5B solleva questioni etiche e di sicurezza, in particolare riguardo alla presenza di contenuti sensibili o inappropriati, come immagini di abuso sessuale su minori, che possono essere inclusi accidentalmente nel dataset.
- Importanza per la Ricerca AI: Dataset come LAION-5B sono essenziali per il progresso nel campo dell’intelligenza artificiale, poiché forniscono una vasta quantità di dati necessari per l’addestramento di modelli AI complessi e sofisticati.
In sintesi, LAION-5B è un importante risorsa per la comunità AI, ma la sua gestione e utilizzo richiedono attenzione e responsabilità per garantire che i dati siano utilizzati in modo etico e sicuro.
La scoperta di CSAM nei dataset utilizzati per addestrare i modelli AI di generazione di immagini solleva gravi preoccupazioni sulla sicurezza e l’etica nell’uso di tali tecnologie. La necessità di misure di sicurezza più rigorose e di una maggiore vigilanza nella creazione e gestione di questi dataset è evidente.
Sicurezza Informatica
Vulnerabilità RCE zero-day nei router D-Link EXO AX4800
Un gruppo di ricercatori di SSD Secure Disclosure ha scoperto una vulnerabilità critica nei router D-Link EXO AX4800 (DIR-X4860), che consente l’esecuzione di comandi remoti non autenticati (RCE). Questa falla può portare a compromissioni complete dei dispositivi da parte di aggressori con accesso alla porta HNAP (Home Network Administration Protocol).
Dettagli sulla vulnerabilità
Il router D-Link DIR-X4860 è un dispositivo Wi-Fi 6 ad alte prestazioni, capace di raggiungere velocità fino a 4800 Mbps e dotato di funzionalità avanzate come OFDMA, MU-MIMO e BSS Coloring. Nonostante sia molto popolare in Canada e venduto a livello globale, il dispositivo presenta una vulnerabilità che può essere sfruttata per ottenere privilegi elevati e eseguire comandi come root.
La vulnerabilità è presente nella versione firmware DIRX4860A1_FWV1.04B03. Gli aggressori possono combinare un bypass di autenticazione con l’esecuzione di comandi per compromettere completamente il dispositivo.
Processo di sfruttamento
Il team di SSD ha pubblicato un proof-of-concept (PoC) dettagliato che illustra il processo di sfruttamento della vulnerabilità:
- Accesso alla porta HNAP: Solitamente accessibile tramite HTTP (porta 80) o HTTPS (porta 443) attraverso l’interfaccia di gestione remota del router.
- Richiesta di login HNAP: Un attacco inizia con una richiesta di login HNAP appositamente creata, che include un parametro chiamato ‘PrivateLogin’ impostato su “Username” e un nome utente “Admin”.
- Risposta del router: Il router risponde con una sfida, un cookie e una chiave pubblica, utilizzati per generare una password di login valida per l’account “Admin”.
- Bypass dell’autenticazione: Una successiva richiesta di login con l’header HNAP_AUTH e la password generata consente di bypassare l’autenticazione.
- Iniezione di comandi: Una vulnerabilità nella funzione ‘SetVirtualServerSettings’ permette l’iniezione di comandi tramite il parametro ‘LocalIPAddress’, eseguendo il comando nel contesto del sistema operativo del router.
Fonte: SSD Secure Disclosure
Nel frattempo, è consigliato agli utenti del DIR-X4860 di disabilitare l’interfaccia di gestione remota del dispositivo per prevenire possibili sfruttamenti.
Sicurezza Informatica
SEC: “notificare la violazione dei dati entro 30 giorni”
Tempo di lettura: 2 minuti. La SEC richiede alle istituzioni finanziarie di notificare le violazioni dei dati agli individui interessati entro 30 giorni
La Securities and Exchange Commission (SEC) ha adottato emendamenti al Regolamento S-P, obbligando le istituzioni finanziarie a divulgare gli incidenti di violazione dei dati agli individui interessati entro 30 giorni dalla scoperta. Questi emendamenti mirano a modernizzare e migliorare la protezione delle informazioni finanziarie individuali dalle violazioni dei dati e dall’esposizione a parti non affiliate.
Dettagli delle modifiche al Regolamento S-P
Il Regolamento S-P, introdotto nel 2000, stabilisce come alcune entità finanziarie devono trattare le informazioni personali non pubbliche dei consumatori, includendo lo sviluppo e l’implementazione di politiche di protezione dei dati, garanzie di riservatezza e sicurezza, e protezione contro minacce anticipate. Gli emendamenti adottati questa settimana coinvolgono vari tipi di aziende finanziarie, tra cui broker-dealer, società di investimento, consulenti per gli investimenti registrati e agenti di trasferimento.
Principali cambiamenti introdotti
- Notifica agli individui interessati entro 30 giorni: Le organizzazioni devono notificare agli individui se le loro informazioni sensibili sono state o potrebbero essere state accessibili o utilizzate senza autorizzazione, fornendo dettagli sull’incidente, sui dati violati e sulle misure protettive adottate. L’esenzione si applica se le informazioni non sono previste causare danni sostanziali o inconvenienti agli individui esposti.
- Sviluppo di politiche e procedure scritte per la risposta agli incidenti: Le organizzazioni devono sviluppare, implementare e mantenere politiche e procedure scritte per un programma di risposta agli incidenti, includendo procedure per rilevare, rispondere e recuperare da accessi non autorizzati o dall’uso delle informazioni dei clienti.
- Estensione delle regole di salvaguardia e smaltimento: Queste regole si applicano a tutte le informazioni personali non pubbliche, comprese quelle ricevute da altre istituzioni finanziarie.
- Documentazione della conformità: Le organizzazioni devono documentare la conformità con le regole di salvaguardia e smaltimento, escludendo i portali di finanziamento.
- Allineamento della consegna annuale dell’avviso sulla privacy con il FAST Act: Questo prevede esenzioni in determinate condizioni.
- Estensione delle regole agli agenti di trasferimento registrati presso la SEC o altre agenzie regolatrici.
Implementazione e tempistiche
Gli emendamenti entreranno in vigore 60 giorni dopo la pubblicazione nel Federal Register, la rivista ufficiale del governo federale degli Stati Uniti. Le organizzazioni più grandi avranno 18 mesi per conformarsi dopo la pubblicazione, mentre le entità più piccole avranno due anni.
Implicazioni e obiettivi
Questi aggiornamenti rappresentano una risposta alla trasformazione significativa della natura, scala e impatto delle violazioni dei dati negli ultimi 24 anni. Gary Gensler, presidente della SEC, ha dichiarato che questi emendamenti forniscono aggiornamenti cruciali a una regola adottata per la prima volta nel 2000, contribuendo a proteggere la privacy dei dati finanziari dei clienti.
Inoltre, la SEC ha introdotto nuove regole a dicembre, richiedendo a tutte le società pubbliche di divulgare eventuali violazioni che abbiano influito materialmente o che siano ragionevolmente probabili influire materialmente sulla strategia aziendale, sui risultati operativi o sulla condizione finanziaria.
Sicurezza Informatica
Kinsing sfrutta nuove vulnerabilità per espandere botnet cryptojacking
Tempo di lettura: 2 minuti. Il gruppo Kinsing sfrutta nuove vulnerabilità per espandere la botnet di cryptojacking, prendendo di mira sistemi Linux e Windows.
Il gruppo di cryptojacking Kinsing ha dimostrato la capacità di evolversi e adattarsi rapidamente, integrando nuove vulnerabilità nel proprio arsenale per espandere la botnet. Questi attacchi, documentati da Aqua Security, mostrano come Kinsing continui a orchestrare campagne di mining di criptovalute illegali dal 2019.
Campagne e vulnerabilità sfruttate
Kinsing utilizza il malware noto come H2Miner per compromettere i sistemi e inserirli in una botnet di mining di criptovalute. Dal 2020, Kinsing ha sfruttato varie vulnerabilità, tra cui:
- Apache ActiveMQ, Log4j, NiFi
- Atlassian Confluence
- Citrix, Liferay Portal
- Linux
- Openfire, Oracle WebLogic Server, SaltStack
Oltre a queste vulnerabilità, Kinsing ha utilizzato configurazioni errate di Docker, PostgreSQL e Redis per ottenere l’accesso iniziale ai sistemi, trasformandoli poi in botnet per il mining di criptovalute.
Metodi di attacco e infrastruttura
L’infrastruttura di attacco di Kinsing si suddivide in tre categorie principali: server iniziali per la scansione e lo sfruttamento delle vulnerabilità, server di download per lo staging dei payload e degli script, e server di comando e controllo (C2) che mantengono il contatto con i server compromessi. Gli indirizzi IP dei server C2 risolvono in Russia, mentre quelli utilizzati per scaricare script e binari si trovano in paesi come Lussemburgo, Russia, Paesi Bassi e Ucraina.
Strumenti e tecniche di evasione
Kinsing utilizza diversi strumenti per sfruttare i server Linux e Windows, inclusi script shell e Bash per i server Linux e script PowerShell per i server Windows. Il malware disabilita i servizi di sicurezza e rimuove i miner rivali già installati sui sistemi. Le campagne di Kinsing mirano principalmente alle applicazioni open-source, con una preferenza per le applicazioni runtime, i database e le infrastrutture cloud.
Categorie di programmi utilizzati
L’analisi dei reperti ha rivelato tre categorie distinte di programmi utilizzati da Kinsing:
- Script di Tipo I e Tipo II: utilizzati dopo l’accesso iniziale per scaricare componenti di attacco, eliminare la concorrenza e disabilitare le difese.
- Script ausiliari: progettati per ottenere l’accesso iniziale sfruttando vulnerabilità e disabilitando componenti di sicurezza specifici.
- Binari: payload di seconda fase che includono il malware principale Kinsing e il crypto-miner per minare Monero.
Prevenzione e misure proattive
Per prevenire minacce come Kinsing, è cruciale implementare misure proattive come il rafforzamento delle configurazioni di sicurezza prima del deployment. Proteggere le infrastrutture cloud e i sistemi runtime può ridurre significativamente il rischio di compromissioni.
Il gruppo Kinsing continua a rappresentare una minaccia significativa nel panorama della sicurezza informatica, dimostrando la capacità di adattarsi e sfruttare rapidamente nuove vulnerabilità. La protezione contro queste minacce richiede misure di sicurezza robuste e aggiornamenti continui delle configurazioni di sistema.
- L'Altra Bolla1 settimana fa
Meta testa la condivisione incrociata da Instagram a Threads
- L'Altra Bolla1 settimana fa
X sotto indagine dell’Unione Europea
- Robotica1 settimana fa
Come controllare dei Robot morbidi ? MIT ha un’idea geniale
- Inchieste4 giorni fa
Melinda lascia la Bill Gates Foundation e ritira 12,5 Miliardi di Dollari
- L'Altra Bolla5 giorni fa
Discord celebra il nono compleanno con aggiornamenti e Giveaway
- Sicurezza Informatica1 settimana fa
Nuovo attacco “Pathfinder” alle CPU Intel: è il nuovo Spectre?
- Sicurezza Informatica1 settimana fa
BogusBazaar falsi e-commerce usati per una truffa da 50 milioni
- Economia1 settimana fa
Chi sarà il successore di Tim Cook in Apple?