Sicurezza Informatica
OpenAI e Google: watermark IA contro deepfake e disinformazione
Tempo di lettura: 2 minuti. Sette aziende, tra cui OpenAI, Microsoft e Google, si impegnano a sviluppare tecnologie per marcare con un watermark i contenuti generati da intelligenza artificiale, al fine di prevenire usi ingannevoli e disinformazione.
Sette aziende, tra cui OpenAI, Microsoft, Google, Meta, Amazon, Anthropic e Inflection, si sono impegnate a sviluppare tecnologie per marcare con un watermark i contenuti generati da intelligenza artificiale. Questo aiuterà a condividere in sicurezza testi, video, audio e immagini generati da IA, senza ingannare gli altri sulla loro autenticità.
Il funzionamento del watermark
Non è ancora chiaro come funzionerà il watermark, ma è probabile che venga incorporato nel contenuto in modo che gli utenti possano risalire alla sua origine e agli strumenti di IA utilizzati per generarla. Questa mossa arriva in un momento in cui i deepfake stanno diventando una preoccupazione crescente per gli utenti e i responsabili delle politiche Internet.
L’uso improprio degli strumenti di IA
Ci sono stati diversi casi di uso improprio degli strumenti di IA, dove un watermark potrebbe aiutare a proteggere gli utenti da situazioni spiacevoli. Ad esempio, è stato segnalato che un software di generazione di voci basato su IA è stato utilizzato per truffare le persone facendole perdere migliaia di dollari. Inoltre, il mese scorso, l’FBI ha avvertito dell’uso crescente di deepfake generati da IA in schemi di sextortion.
L’impegno di OpenAI e Google
OpenAI e Google si sono impegnate a sviluppare “meccanismi robusti, tra cui sistemi di provenienza e/o watermarking per contenuti audio o visivi”, così come “strumenti o API per determinare se un particolare pezzo di contenuto è stato creato con il loro sistema”. Questo si applicherà alla maggior parte dei contenuti generati da IA, con rare eccezioni, come non marcare le voci predefinite degli assistenti AI.
Altre misure di sicurezza per l’IA
Oltre a sviluppare watermark per i contenuti generati da IA, le aziende tecnologiche hanno preso una serie di altri impegni volontari annunciati dalla Casa Bianca. Tra questi, le aziende tecnologiche hanno concordato di condurre sia test interni che esterni sui sistemi di IA prima del loro rilascio. Hanno anche detto che investiranno di più nella sicurezza informatica e condivideranno informazioni in tutto il settore per aiutare a ridurre i rischi dell’IA.
Sicurezza Informatica
Biden firma REPORT Act: legge contro abuso sui minori online
Tempo di lettura: 2 minuti. Report ACT firmata da Biden impone alle piattaforme online di segnalare abusi e sfruttamenti di minori, con severe multe per le violazioni.
Il presidente Joe Biden ha firmato una nuova legislazione, nota come REPORT Act, che impone a siti web e piattaforme sociali l’obbligo legale di segnalare crimini legati al traffico di minori, al grooming e all’adescamento di bambini al National Center for Missing and Exploited Children (NCMEC). Questa legge rappresenta un passo significativo nella lotta contro lo sfruttamento sessuale online dei minori.
Dettagli della Legge
La REPORT Act è stata proposta inizialmente dai senatori Jon Ossoff (D-GA) e Marsha Blackburn (R-SC) nel febbraio 2023 e successivamente approvata dal Congresso. Il disegno di legge è stato firmato dal presidente il 7 maggio 2024, rendendo questa misura la prima del suo genere a livello federale negli Stati Uniti.
Implicazioni per le Piattaforme Online
Sotto la nuova legge, le aziende che omettono intenzionalmente di segnalare materiale di abuso sessuale infantile sul loro sito saranno soggette a pesanti multe. Ad esempio, per le piattaforme con oltre 100 milioni di utenti, una prima violazione potrebbe comportare una multa di $850,000. La legge richiede inoltre che le prove siano conservate per un periodo più lungo, fino a un anno, per consentire un’indagine accurata e approfondita da parte delle forze dell’ordine.
Sfide per il NCMEC
Il NCMEC affronta difficoltà nel gestire i milioni di segnalazioni di abuso sessuale infantile ricevute ogni anno a causa di personale insufficiente e tecnologia obsoleta. Anche se la nuova legge non risolverà completamente il problema, si prevede che renderà l’analisi delle segnalazioni più efficiente, permettendo ad esempio lo stoccaggio legale dei dati su servizi cloud commerciali.
Commenti dei Senatori
La senatrice Blackburn ha dichiarato: “I bambini passano sempre più tempo davanti agli schermi e, purtroppo, ciò espone più minori innocenti al rischio di sfruttamento online. Sono onorata di promuovere questa soluzione bipartisan insieme al senatore Ossoff e alla rappresentante Laurel Lee per proteggere i bambini vulnerabili e perseguire i responsabili di questi crimini atroci.” Questo importante sviluppo legislativo segna un punto di svolta nella protezione dei minori nell’ambiente digitale, affrontando direttamente le minacce online e rafforzando le misure preventive contro gli abusi.
Sicurezza Informatica
Zscaler: Offline l’ambiente di Test dopo voci di una violazione
Tempo di lettura: 2 minuti. Zscaler ha messo offline un ambiente di test dopo voci di una violazione, confermando che non ci sono state compromissioni degli ambienti di produzione o dei dati dei clienti.
Zscaler, un leader nel settore della sicurezza cloud, ha preso misure immediate mettendo offline un ambiente di test dopo che sono circolate voci su un presunto accesso venduto da un attore di minaccia in seguito ad una violazione. Questa azione è stata intrapresa per analizzare e mitigare eventuali rischi associati.
Dettagli dell’incidente
La società ha confermato che durante le indagini iniziali non sono state trovate prove di una compromissione dei loro ambienti di produzione o dei dati dei clienti. Tuttavia, è stato scoperto un ambiente di test isolato, esposto su internet, che è stato prontamente disconnesso e sottoposto ad analisi forense. Questo ambiente non era ospitato su infrastrutture di Zscaler e non aveva connettività con altri ambienti di Zscaler.
Risposta di Zscaler
Zscaler ha ribadito il suo impegno nella protezione degli ambienti dei clienti e ha rassicurato che non vi è stata alcuna compromissione di dati o servizi. La società continua a monitorare la situazione e a condurre ulteriori indagini.
Rumori e speculazioni
Le voci di una violazione sono iniziate quando un noto attore di minaccia, IntelBroker, ha iniziato a vendere quello che sosteneva fosse l’accesso ai sistemi di una compagnia di cybersecurity con un fatturato di 1,8 miliardi di dollari. Sebbene IntelBroker non abbia nominato esplicitamente Zscaler, le correlazioni tra le informazioni condivise e i dati finanziari di Zscaler hanno portato a speculazioni che fosse la compagnia coinvolta.
Implicazioni per la sicurezza
Questo incidente sottolinea l’importanza di proteggere gli ambienti di test tanto quanto quelli di produzione, specialmente quando possono essere esposti a internet e diventare un possibile vettore di attacco. Mentre l’investigazione di Zscaler sulla presunta violazione continua, la rapidità e la trasparenza nella gestione di questa situazione riflettono l’impegno della compagnia nella protezione della sicurezza e della privacy dei suoi clienti.
Sicurezza Informatica
BogusBazaar falsi e-commerce usati per una truffa da 50 milioni
Tempo di lettura: 2 minuti. Oltre 850,000 persone sono state ingannate da una rete di 75,000 falsi negozi online, con il furto di carte di credito e frode per 50 milioni
Un’operazione denominata “BogusBazaar” ha coinvolto una rete di 75,000 falsi negozi online che hanno ingannato oltre 850.000 persone negli Stati Uniti e in Europa, permettendo ai criminali di rubare informazioni delle carte di credito e tentare di processare ordini falsi per un valore stimato di 50 milioni di dollari e questo ricorda le diverse truffe denunciate dagli utenti Matrice Digitale attraverso il modulo di segnalazione alla Redazione.
Dettagli dell’Operazione
Le attività fraudolente hanno avuto luogo attraverso negozi online che vendevano principalmente scarpe e vestiti a prezzi molto bassi, attirando l’attenzione dei consumatori. Questi siti erano ospitati su domini precedentemente scaduti con una buona reputazione, per apparire legittimi agli occhi di Google e dei consumatori.
Modus Operandi
I negozi sono stati creati semi-automaticamente con nomi e loghi personalizzati per alzare la qualità e, con essa, la legittimità percepita del negozio. Le pagine di pagamento di questi siti raccoglievano i dettagli di contatto e le informazioni delle carte di credito delle vittime o rubavano denaro attraverso PayPal, Stripe e pagamenti con carta di credito per ordini inesistenti che non sarebbero mai stati ricevuti.
Infrastruttura e Organizzazione
L’anello di frode era altamente organizzato con squadre distinte e ruoli dedicati, operando sotto un modello di “infrastruttura come servizio”. Un team centrale era responsabile della gestione dell’infrastruttura, mentre una rete decentralizzata di franchising gestiva i negozi fraudolenti quotidianamente.
Rilevamento e Azioni Correttive
I ricercatori di Security Research Labs (SRLabs) hanno scoperto l’operazione e hanno condiviso una lista completa di URL e indicatori di compromissione (IoC) legati a BogusBazaar con le autorità e altre parti interessate. Molte delle operazioni sono state chiuse, ma alcune continuano ad essere attive.
Consigli ai Consumatori
Per verificare l’autenticità di un negozio online, si consiglia di controllare le informazioni di contatto, esaminare la politica di reso, verificare i sigilli di fiducia, navigare nel contenuto del sito web in generale e verificare la presenza sui social media. Inoltre, è utile leggere recensioni online e seguire gli annunci delle agenzie locali di protezione dei consumatori. Questo caso sottolinea l’importanza per i consumatori di essere vigili e critici quando fanno acquisti online, specialmente di fronte a offerte che sembrano troppo belle per essere vere.
- Inchieste2 settimane fa
Papa Francesco sarà al G7 e l’Italia festeggia il DDL AI
- Cyber Security2 settimane fa
ACN: tutto quello che c’è da sapere sulla relazione annuale 2023
- Robotica2 settimane fa
Perché i Robot non riescono a superare gli animali in corsa?
- L'Altra Bolla2 settimane fa
Reddit rivoluziona l’E-Commerce con Dynamic Product Ads
- Economia1 settimana fa
Apple, Regno Unito vuole più sicurezza informatica e l’Europa indica iPadOS Gatekeeper
- Editoriali7 giorni fa
Chip e smartphone cinesi ci avvisano del declino Occidentale
- L'Altra Bolla2 settimane fa
ByteDance “chiuderà TikTok negli USA piuttosto che venderlo”
- Economia6 giorni fa
Internet via satellite: progetto europeo IRIS² in grande difficoltà