Notizie

Scoperto EvilModel lo schema di un malware che si insinua nel Deep Learning

Pubblicato

2 anni fa

08/02/2022

Tempo di lettura: 3 minuti.

Un team di ricercatori dell'Università della California, San Diego, e dell'Università dell'Illinois ha scoperto che è anche possibile nascondere il malware nelle reti neurali di apprendimento profondo (Deep Learning) e consegnarlo a un obiettivo ignaro senza che venga rilevato dal software anti-malware convenzionale.

Non sorprende che questo nuovo lavoro stia evidenziando la necessità di migliori misure di sicurezza informatica per contrastare e proteggere gli utenti dalla possibilità molto reale di attacchi che sfruttano l'AI, soprattutto perché gli individui e le imprese diventano sempre più dipendenti dall'Intelligenza Artificiale nelle loro attività quotidiane.

In un documento pre-print che delinea EvilModel, il team ha scoperto che è possibile infettare un modello di Deep Learning con malware e nasconderlo dai rilevatori anti-malware, il tutto senza influenzare significativamente le prestazioni del modello.

Per ottenere questo, il team ha utilizzato un approccio noto come steganografia, dove pezzi di dati in un sistema vengono scambiati con altri bit di dati che potrebbero avere un messaggio o una funzione nascosta.

Per nascondere il loro campione di malware, il team ha iniziato frammentando il malware in pezzi più piccoli in modo che ogni pezzo misurasse solo 3 byte:- una dimensione abbastanza insignificante per eludere il rilevamento.

Il rilevamento di queste parti alterate del modello è stato reso ancora più difficile perché i modelli di deep learning AI sono costruiti utilizzando più strati di neuroni artificiali, che a loro volta possono essere composti da milioni di parametri che si interconnettono tra gli strati. Generalmente, i principali framework di deep learning come PyTorch e TensorFlow utilizzano numeri in virgola mobile a 4 byte per memorizzare i valori dei parametri. Come il team ha scoperto, è stato possibile sostituire 3 byte di un parametro con un pezzo di codice malware, in modo che il payload dannoso possa essere incorporato senza influenzare significativamente le prestazioni del modello.

“Quando i neuroni sono sostituiti da byte di malware, la struttura del modello rimane invariata”, ha osservato il team. “Poiché il malware viene smontato nei neuroni, le sue caratteristiche non sono più disponibili, il che può eludere il rilevamento da parte dei comuni motori anti-virus. Poiché il modello di rete neurale è robusto ai cambiamenti, non c'è una perdita significativa di prestazioni”.

Gli esperimenti del team hanno dimostrato che è stato possibile nascondere almeno 36,9 megabyte di malware nel loro modello di apprendimento profondo, con solo un calo dell'1% di precisione.

Per lo studio, il team ha testato il loro metodo su una serie di CNN popolari, tra cui AlexNet, VGG, Resnet, Inception e Mobilenet. Le CNN sono ideali per la consegna occulta di malware, in quanto comprendono molti tipi diversi di strati, così come milioni di parametri. Inoltre, molte CNN sono pre-addestrate e questo significa che alcuni utenti possono scaricarle senza sapere esattamente cosa può essere incorporato nel modello.

“Infatti, abbiamo scoperto che a causa dei neuroni ridondanti negli strati della rete, i cambiamenti in alcuni neuroni hanno poco impatto sulle prestazioni della rete neurale“, ha spiegato il team. “Inoltre, con la struttura del modello invariata, il malware nascosto può eludere il rilevamento dei motori antivirus. Pertanto, il malware può essere incorporato e consegnato ai dispositivi di destinazione in modo nascosto ed evasivo modificando i neuroni“.

Mentre questo scenario è abbastanza allarmante, il team sottolinea che gli aggressori possono anche scegliere di pubblicare una rete neurale infetta su repository pubblici online come GitHub, dove può essere scaricata su larga scala. Inoltre, gli aggressori possono anche implementare una forma più sofisticata di consegna attraverso quello che è noto come un attacco alla catena di approvvigionamento, o catena del valore o attacco di terze parti. Questo metodo prevede che i modelli incorporati nel malware si presentino come aggiornamenti automatici, che vengono poi scaricati e installati sui dispositivi di destinazione: sarebbe questo metodo di attacco che è stato dietro la massiccia violazione dei dati del governo degli Stati Uniti nel 2020.

Il team nota, tuttavia, che è possibile distruggere il malware incorporato riqualificando e mettendo a punto i modelli dopo che sono stati scaricati, a condizione che gli strati della rete neurale infetta non siano “congelati“, il che significa che i parametri in questi strati congelati non vengono aggiornati durante il prossimo “giro” di messa a punto, lasciando il malware incorporato intatto.

“Per i professionisti, i parametri dei neuroni possono essere cambiati attraverso il fine-tuning, il pruning, la compressione del modello o altre operazioni, rompendo così la struttura del malware e impedendo al malware di recuperare normalmente“, ha detto il team.

Inoltre, un altro modo possibile per garantire l'integrità dei modelli di deep learning è quello di scaricarli solo da fonti attendibili, così come implementare sistemi migliori per verificare gli aggiornamenti per evitare attacchi alla catena di approvvigionamento. In definitiva, il team sottolinea che c'è un crescente bisogno di maggiore sicurezza e migliori pratiche intorno alla pipeline di sviluppo del machine learning.

“Questo documento dimostra che le reti neurali possono essere utilizzate anche in modo malevolo. Con la popolarità dell'IA, gli attacchi assistiti dall'IA emergeranno e porteranno nuove sfide per la sicurezza informatica. L'attacco e la difesa della rete sono interdipendenti. Crediamo che le contromisure contro gli attacchi AI-assistiti saranno applicate in futuro, quindi speriamo che lo scenario proposto contribuisca ai futuri sforzi di protezione.”

Argomenti correlati:cybercrime cybersecurity deep learning evidenza machine learning malware

Prossima

Dopo lo scandalo Gatekeeper, Apple paga 150.000 dollari per chi trova bug di accesso alla webcam di Safari

Da non perdere

L’Interpol ed il conflitto di interessi del Generale con la nuova legge sulla criminalità informatica degli Emirati Arabi

Prosegui la lettura

Notizie

Sony indaga sul presunto attacco informatico

Tempo di lettura: < 1 minuto. Sony è al centro di un’indagine riguardo a un presunto attacco informatico, mentre diversi gruppi di hacker rivendicano la responsabilità dell’attacco, creando confusione e incertezza sulla reale entità del danno.

Sostieni l'informazione di Matrice Digitale con un click. Seguici su Google News

Pubblicato

3 ore fa

26/09/2023

Redazione

Tempo di lettura: minuto.

Sony è attualmente al centro di un'indagine interna riguardo a un presunto attacco informatico. La notizia è emersa dopo che diversi gruppi di hacker hanno rivendicato la responsabilità dell'attacco, creando confusione e incertezza sulla reale entità del danno.

Dettagli dell'attacco

Nonostante la mancanza di dettagli concreti sull'attacco, Sony ha preso molto seriamente le rivendicazioni e ha avviato un'indagine interna per verificare l'entità del presunto attacco informatico. La società sta lavorando attivamente per identificare eventuali vulnerabilità nei propri sistemi e per assicurarsi che i dati degli utenti siano al sicuro.

Disaccordo tra gli hacker

La situazione è ulteriormente complicata dal fatto che diversi gruppi di hacker hanno rivendicato la responsabilità dell'attacco a Sony. Questo ha creato un clima di incertezza e confusione, rendendo difficile per gli investigatori determinare chi sia effettivamente dietro l'attacco. I gruppi di hacker sono in disaccordo tra loro, ognuno affermando di essere il vero responsabile dell'attacco a Sony.

Risposta di Sony

Sony ha rilasciato una dichiarazione in cui afferma di essere a conoscenza delle rivendicazioni e di stare lavorando incessantemente per verificare la loro veridicità. La società ha inoltre assicurato agli utenti che sta adottando tutte le misure necessarie per proteggere i loro dati e prevenire futuri attacchi informatici.

Mentre l'indagine è ancora in corso, è fondamentale che gli utenti restino vigili e adottino misure di sicurezza aggiuntive per proteggere i propri dati e informazioni personali. La situazione è in continua evoluzione e ulteriori dettagli emergeranno nei prossimi giorni.

Prosegui la lettura

Notizie

Nuovo APT “AtlasCross” usa la Croce Rossa Americana come esca per Phishing

Tempo di lettura: 2 minuti. Un nuovo gruppo di hacker, AtlasCross, usa la Croce Rossa Americana come esca per phishing, consegnando malware backdoor e rimanendo in gran parte non rilevato.

Sostieni l'informazione di Matrice Digitale con un click. Seguici su Google News

Pubblicato

3 ore fa

26/09/2023

Redazione

Tempo di lettura: 2 minuti.

Un nuovo gruppo di hacker APT denominato ‘AtlasCross' prende di mira le organizzazioni con esche di phishing che si spacciano per la Croce Rossa Americana per consegnare malware backdoor. La società di cybersecurity NSFocus ha identificato due trojan precedentemente non documentati, DangerAds e AtlasAgent, associati agli attacchi del nuovo gruppo APT. NSFocus riferisce che gli hacker di AtlasCross sono sofisticati ed elusivi, impedendo ai ricercatori di determinare la loro origine.

Catena di attacco AtlasCross

Gli attacchi di AtlasCross iniziano con un messaggio di phishing che finge di essere dalla Croce Rossa Americana, chiedendo al destinatario di partecipare a un “September 2023 Blood Drive”. Queste email contengono un allegato di un documento Word abilitato per macro (.docm) che invita la vittima a fare clic su “Abilita contenuto” per visualizzare il contenuto nascosto. Tuttavia, facendo ciò si attiveranno macro malevoli che infetteranno il dispositivo Windows con i malware DangerAds e AtlasAgent.

Dettagli AtlasAgent

AtlasAgent è un trojan personalizzato in C++ e le sue funzioni principali includono l'estrazione di dettagli host e processo, impedendo l'avvio di numerosi programmi, eseguendo ulteriore shellcode sulla macchina compromessa e scaricando file dai server C2 dell'attaccante. Al primo avvio, il malware invia informazioni ai server dell'attaccante, inclusi nome del computer locale, informazioni sull'adattatore di rete, indirizzo IP locale, informazioni sulla scheda di rete, architettura e versione del sistema operativo e una lista di processi in esecuzione.

Conclusione

Nonostante il rapporto di NSFocus sia il primo a dettagliare il nuovo gruppo di hacking, AtlasCross rimane una minaccia in gran parte sconosciuta che opera con motivi poco chiari e un ambito di targeting oscuro. La selezione mirata dell'attore della minaccia, i trojan su misura e i loader di malware, combinati con una preferenza per metodi di infezione discreti rispetto all'efficienza, hanno permesso loro di operare non rilevati per una durata indefinita.

Prosegui la lettura

Notizie

Hacker sfruttano attivamente una falla in Openfire per criptare i server

Tempo di lettura: 2 minuti. L’applicazione degli aggiornamenti di sicurezza disponibili è urgente per prevenire ulteriori attacchi. È cruciale applicare tutti gli aggiornamenti di sicurezza per i server non appena diventano disponibili.

Sostieni l'informazione di Matrice Digitale con un click. Seguici su Google News

Pubblicato

8 ore fa

26/09/2023

Redazione

Tempo di lettura: 2 minuti.

Gli hacker stanno sfruttando attivamente una vulnerabilità di alta gravità nei server di messaggistica Openfire per criptare i server con ransomware e distribuire cryptominer. Openfire è un server di chat open-source basato su Java, scaricato 9 milioni di volte e utilizzato estensivamente per comunicazioni di chat sicure e multi-piattaforma.

Dettagli della vulnerabilità

La falla, tracciata come CVE-2023-32315, è un bypass dell'autenticazione che colpisce la console di amministrazione di Openfire, permettendo agli aggressori non autenticati di creare nuovi account amministrativi sui server vulnerabili. Utilizzando questi account, gli aggressori installano plugin Java maligni (file JAR) che eseguono comandi ricevuti tramite richieste HTTP GET e POST. Questa pericolosa falla impatta tutte le versioni di Openfire dalla 3.10.0, datata 2015, fino alla 4.6.7 e dalla 4.7.0 alla 4.7.4.

Risposta di Openfire e Attacchi in Corso

Nonostante Openfire abbia risolto il problema con le versioni 4.6.8, 4.7.5 e 4.8.0, rilasciate a maggio 2023, VulnCheck ha segnalato che a metà agosto 2023, oltre 3.000 server Openfire erano ancora in esecuzione con una versione vulnerabile. Dr. Web ora segnala segni di sfruttamento attivo, poiché gli hacker hanno preso vantaggio della superficie di attacco per le loro campagne maligne.

Modalità di attacco

Il primo caso di sfruttamento attivo visto da Dr. Web risale a giugno 2023, quando la società di sicurezza ha indagato su un attacco ransomware a un server che è avvenuto dopo che CVE-2023-32315 è stato sfruttato per violare il server. Gli aggressori hanno sfruttato la falla per creare un nuovo utente amministrativo su Openfire, acceduto, e usato per installare un plugin JAR maligno che può eseguire codice arbitrario.

Ransomware sconosciuto

BleepingComputer ha trovato molteplici rapporti da clienti che affermano che i loro server Openfire sono stati criptati con ransomware, con uno che afferma che i file sono stati criptati con l'estensione .locked1. Non è chiaro quale ransomware sia dietro questi attacchi, ma le richieste di riscatto sono generalmente piccole, variando da 0,09 a 0,12 bitcoin ($2.300 a $3.500).

Prosegui la lettura