Sicurezza Informatica
Microsoft e il futuro della sicurezza AI: il ruolo del Red Team
Tempo di lettura: 2 minuti. Microsoft sottolinea l’importanza del red teaming nell’ambito dell’intelligenza artificiale, per garantire sicurezza e responsabilità dei sistemi AI.
Il red teaming è una componente essenziale per la distribuzione sicura del software. Microsoft, con una lunga storia di red teaming per le tecnologie emergenti, ha istituito nel 2018 il “Red Team AI”, un gruppo di esperti interdisciplinari dedicato all’analisi dei sistemi AI alla ricerca di potenziali vulnerabilità.
Il ruolo del Red Team AI
Il red teaming AI ha assunto un significato più ampio, non limitandosi alla ricerca di vulnerabilità di sicurezza, ma estendendosi anche ad altri tipi di fallimenti del sistema, come la generazione di contenuti potenzialmente dannosi. Questa pratica è fondamentale per comprendere i nuovi rischi associati ai sistemi AI, come l’iniezione di prompt e la produzione di contenuti non fondati. Microsoft ha recentemente annunciato che tutti i sistemi AI ad alto rischio saranno sottoposti a red teaming indipendente prima del loro lancio.
Red teaming per una maggiore sicurezza nell’implementazione AI
Negli ultimi anni, il Red Team AI di Microsoft ha condiviso contenuti per aiutare i professionisti della sicurezza a implementare l’AI in modo sicuro. Nel 2020, Microsoft ha collaborato con MITRE e altri partner per sviluppare il “Matrix delle minacce all’apprendimento automatico avversario”, un framework per aiutare gli analisti di sicurezza a rilevare e rispondere alle minacce. Microsoft ha anche creato e reso open source “Counterfit”, uno strumento per testare la sicurezza dei sistemi AI. Nel 2021, è stato rilasciato un framework di valutazione del rischio di sicurezza AI, seguito da ulteriori collaborazioni per aiutare le organizzazioni a comprendere i rischi associati ai sistemi AI.
Guida e risorse per il red teaming
Il red teaming AI si svolge generalmente a due livelli: a livello di modello base (ad esempio, GPT-4) o a livello di applicazione. Entrambi i livelli offrono vantaggi specifici, come la comprensione delle limitazioni del modello o l’identificazione di fallimenti a livello di applicazione. Microsoft ha condiviso diverse lezioni apprese dal suo programma Red Team AI, tra cui:
- Il red teaming AI è più ampio: copre sia la sicurezza che gli esiti RAI.
- Si concentra su fallimenti da persone malintenzionate e benigne: ad esempio, come un sistema può generare contenuti problematici durante interazioni normali.
- I sistemi AI sono in costante evoluzione: richiedendo cicli multipli di red teaming.
- Il red teaming di sistemi AI generativi richiede tentativi multipli: a causa della loro natura probabilistica.
- Mitigare i fallimenti AI richiede una difesa in profondità: come l’uso di classificatori o la limitazione della deriva conversazionale.
Microsoft è impegnata nella costruzione di tecnologia in modo responsabile e sicuro. Con l’AI che si profila come la tecnologia più trasformativa del 21° secolo, la sicurezza e la responsabilità sono al centro degli sforzi dell’azienda. Il Red Team AI gioca un ruolo cruciale in questo contesto, garantendo che i prodotti AI siano sicuri e affidabili.
Sicurezza Informatica
Arrestato a New York il proprietario dell’Incognito Black Market
Tempo di lettura: 2 minuti. Arrestato il proprietario di Incognito Market a New York per la vendita di oltre 100 milioni di dollari in narcotici sul dark web.
Il proprietario e operatore del noto mercato della droga sul dark web, Incognito Market, è stato arrestato il 18 maggio all’aeroporto John F. Kennedy di New York. Rui-Siang Lin, conosciuto anche con gli pseudonimi Ruisiang Lin, Pharoah e faro, è accusato di aver gestito una piattaforma che ha facilitato la vendita di oltre 100 milioni di dollari in narcotici illegali, inclusi metanfetamine, cocaina, anfetamine ed ecstasy (MDMA).
Incognito Market è emerso nell’ottobre 2020 e ha operato fino a marzo 2024, quando le forze dell’ordine hanno chiuso il sito. Durante questo periodo, Lin, ventitreenne, avrebbe supervisionato tutte le operazioni del mercato, inclusi i dipendenti, i fornitori e i clienti. Il Dipartimento di Giustizia ha dichiarato che Lin “aveva l’autorità decisionale finale su ogni aspetto dell’operazione multimilionaria.”
Funzionamento di Incognito Market
Lin controllava più di mille fornitori, oltre 200.000 clienti e almeno un altro dipendente che lo assisteva nella gestione del sito. I clienti registrati potevano selezionare quali narcotici acquistare e pagare tramite criptovalute, utilizzando una piattaforma di pagamento descritta come “Incognito Bank.”
Le forze dell’ordine, eseguendo mandati di perquisizione nel luglio 2022 e nell’agosto 2023, hanno ottenuto accesso a tre server utilizzati per operare il mercato e contenenti dati delle transazioni. Un server ospitava il sistema di prevenzione DDoS di Incognito, un altro gestiva i dati del mercato, comprese tutte le transazioni di narcotici completate, mentre il terzo agiva come banca del mercato per elaborare tutte le transazioni in criptovaluta.
Prove e analisi
Le forze dell’ordine hanno trovato dozzine di database su questi server contenenti informazioni su almeno 1.312 account di fornitori, 255.519 account di clienti e 224.791 transazioni legate agli ordini di mercato. Analizzando i dati delle transazioni, è stato possibile mappare l’aumento del volume delle vendite del mercato nel tempo. Il mercato ha generato 83.624.577 dollari di entrate durante la sua operazione, producendo per Lin almeno 4.181.228 dollari dalla commissione del 5%.
Nel marzo 2024, Lin ha chiuso bruscamente il mercato, rifiutandosi di restituire i fondi ai fornitori e ai clienti e minacciando di pubblicare la cronologia delle transazioni di tutti gli utenti di Incognito Market a meno che non gli pagassero una tassa aggiuntiva. Questo comportamento ha evidenziato ulteriormente la sua cupidigia e il disprezzo per gli altri, come affermato dall’agente speciale delle indagini sulla sicurezza interna, Ivan J. Arvelo.
Conseguenze legali
Se riconosciuto colpevole, Lin potrebbe affrontare una pena minima obbligatoria di ergastolo per partecipazione a un’impresa criminale continuata, una pena massima di ergastolo per cospirazione di narcotici, fino a 20 anni di carcere per riciclaggio di denaro e fino a 5 anni per cospirazione per vendere farmaci adulterati e mal etichettati. Lin comparirà oggi davanti al giudice magistrato statunitense Willis presso il tribunale federale di Manhattan.
Sicurezza Informatica
QNAP QTS: Vulnerabilità di Sicurezza CVE-2024-27130
Tempo di lettura: 2 minuti. Scoperte vulnerabilità nel sistema operativo QNAP QTS, inclusa CVE-2024-27130 che permette l’esecuzione di codice remoto.
Recenti ricerche condotte dal team di WatchTowr hanno rivelato una serie di vulnerabilità nel sistema operativo QNAP QTS, utilizzato nei dispositivi NAS (Network-Attached Storage). Questi dispositivi, spesso utilizzati in ambienti multiutente come uffici, sono un obiettivo attraente per gli hacker a causa della grande quantità di dati sensibili che contengono. Le vulnerabilità identificate includono problemi di overflow dello stack che permettono l’esecuzione di codice remoto (RCE).
Panoramica delle Vulnerabilità
Durante l’analisi del codice QTS, sono stati individuati quindici bug di vari livelli di gravità, con dettagli su tredici di essi rivelati finora. Tra questi, il bug più rilevante è CVE-2024-27130, un overflow dello stack non autenticato che permette l’esecuzione di codice remoto. Questo problema risiede nel modo in cui la funzione No_Support_ACL
gestisce input troppo lunghi, permettendo a un attaccante di controllare il registro del puntatore di istruzioni (PC) e di eseguire codice arbitrario.
Dettagli di CVE-2024-27130
L’exploit di questa vulnerabilità richiede un token di sessione valido (ssid
) che può essere ottenuto quando un utente legittimo del NAS condivide un file. Il bug si trova nella funzione No_Support_ACL
, dove un buffer fisso viene sovrascritto da un input eccessivamente lungo, causando un overflow dello stack. Questo permette all’attaccante di manipolare il flusso di esecuzione del programma.
Metodologia di Exploit
Gli attaccanti possono sfruttare questa vulnerabilità inviando richieste HTTP manipolate al dispositivo NAS, utilizzando il valore ssid
per condividere un file. Questo porta a un segfault (violazione di segmento) che consente di eseguire codice arbitrario. Il team di WatchTowr ha dimostrato l’exploit utilizzando un dispositivo basato su ARM, sfruttando la facilità di manipolazione degli indirizzi a 32 bit rispetto a quelli a 64 bit.
Raccomandazioni di Sicurezza
Attualmente, molte delle vulnerabilità scoperte non hanno ancora una patch disponibile. Gli utenti dei dispositivi QNAP sono fortemente consigliati di considerare la disconnessione dei sistemi vulnerabili o di limitare fortemente l’accesso fino a quando le patch non saranno disponibili. È cruciale applicare le patch appena vengono rilasciate per mitigare i rischi di exploit.
Sicurezza Informatica
Julian Assange: non vi sarà estradizione negli USA
Tempo di lettura: 2 minuti. La giustizia britannica concede un’ulteriore chance a Julian Assange contro l’estradizione negli Stati Uniti. Scopri i dettagli e le reazioni.
L’Alta Corte di Londra ha concesso a Julian Assange un ulteriore appello contro l’estradizione negli Stati Uniti, riconoscendo come non infondate le argomentazioni della difesa sul timore di un processo ingiusto oltre oceano. Il verdetto dei giudici d’appello Victoria Sharp e Jeremy Johnson non entra nel merito del ricorso, che sarà dibattuto più avanti. Tuttavia, questa decisione riapre la partita dell’estradizione, dopo che già a marzo era stato introdotto un primo spiraglio con il rovesciamento del no secco opposto in primo grado dalla giustizia britannica all’istanza di ricorso della difesa.
Le argomentazioni della difesa
Gli avvocati di Assange hanno sollevato due principali preoccupazioni:
Rischio di condanna a morte: Anche se sulla carta la pena capitale è prevista per il reato di violazione dell’Espionage Act del 1917, mai contestato a un giornalista in oltre un secolo, i legali di Washington hanno garantito verbalmente che la pena non sarebbe stata chiesta.
Garanzia del Primo Emendamento: La difesa teme che Assange, cittadino australiano, non possa invocare il Primo Emendamento della Costituzione americana in materia di libertà d’espressione e d’informazione. Gli avvocati di Washington hanno riconosciuto un vago diritto di fare istanza per ottenere questa protezione, rinviandone la concessione concreta a una futura pronuncia di una corte statunitense.
Reazioni alla decisione
Dopo la lettura del dispositivo, gli avvocati di Assange si sono abbracciati in aula, mentre reazioni sorridenti venivano dalla moglie di Assange, Stella Morris, suo padre e i sostenitori radunati fuori dal palazzo di giustizia. Assange avrà ora “alcuni mesi” per preparare un nuovo “processo d’appello” con tutti i crismi, come precisa la BBC. Tuttavia, almeno per il momento, Assange resta in custodia cautelare nel carcere di massima sicurezza londinese di Belmarsh e non ci sarà l’estradizione negli USA.
Julian Assange cittadino onorario di Imola
Julian Assange sarà anche cittadino onorario della città di Imola. La consegna dell’onorificenza avverrà venerdì 24 maggio durante il Consiglio comunale. In municipio si terrà un incontro pubblico con John Shipton, padre di Assange, trasmesso in streaming sul canale imola.civicam.it. La delibera dell’onorificenza è stata approvata all’unanimità dal Consiglio comunale il 22 febbraio scorso. Assange è già cittadino onorario di Napoli.
- Inchieste1 settimana fa
Melinda lascia la Bill Gates Foundation e ritira 12,5 Miliardi di Dollari
- L'Altra Bolla1 settimana fa
Discord celebra il nono compleanno con aggiornamenti e Giveaway
- Inchieste7 giorni fa
Terrore in Campania: dati sanitari di SynLab nel dark web
- Economia1 settimana fa
Ban in Germania per alcuni prodotti Motorola e Lenovo
- Smartphone5 giorni fa
Samsung Galaxy S25 Ultra: Quattro fotocamere in Arrivo
- Smartphone1 settimana fa
Samsung Galaxy S25 Ultra avrà una Fotocamera rispetto all’S24
- Economia5 giorni fa
Temu accusata di violare il DSA dell’UE: reclami dei consumatori
- Economia1 settimana fa
Cy4Gate: accordo da un milione con Innovery