Uno studio recente condotto da ricercatori della North Carolina State University ha messo in luce la presenza di vulnerabilità significative negli attacchi avversari nei sistemi di intelligenza artificiale (AI), in particolare nelle reti neurali profonde. Questa scoperta solleva preoccupazioni importanti riguardo la sicurezza e l’affidabilità dei sistemi AI in vari ambiti, inclusi quelli che influenzano direttamente la vita umana.
Natura degli attacchi avversari
Gli attacchi avversari si verificano quando i dati inseriti in un sistema AI vengono manipolati per confonderlo. Ad esempio, un adesivo posizionato in un punto specifico di un segnale stradale potrebbe renderlo invisibile all’AI, o un codice malevolo potrebbe alterare i dati di un’immagine a raggi X, portando a diagnosi errate. Questi attacchi sfruttano le vulnerabilità delle AI, che, se conosciute dagli aggressori, possono essere utilizzate per causare danni significativi.
Risultati dello studio
Lo studio ha rivelato che queste vulnerabilità sono molto più comuni di quanto precedentemente pensato. Gli attaccanti possono sfruttare queste debolezze per forzare l’AI a interpretare i dati secondo le loro intenzioni. Questo aspetto è di fondamentale importanza, specialmente in applicazioni che possono avere un impatto diretto sulla vita umana.
QuadAttacK: strumento per testare le vulnerabilità
Per testare la vulnerabilità delle reti neurali profonde agli attacchi avversari, i ricercatori hanno sviluppato un software chiamato QuadAttacK. Questo strumento permette di testare qualsiasi rete neurale profonda per identificare vulnerabilità avversarie. QuadAttacK osserva come l’AI prende decisioni e determina come i dati possono essere manipolati per ingannare il sistema.
Test e risultati
Nel test di concetto, QuadAttacK è stato utilizzato per testare quattro reti neurali profonde: due reti neurali convoluzionali (ResNet-50 e DenseNet-121) e due trasformatori di visione (ViT-B e DEiT-S). Tutte e quattro le reti, ampiamente utilizzate in sistemi AI in tutto il mondo, si sono rivelate molto vulnerabili agli attacchi avversari.
Prospettive Future
Con la pubblicazione di QuadAttacK, la comunità di ricerca può ora utilizzare questo strumento per testare le reti neurali per vulnerabilità. Il passo successivo è trovare modi per minimizzare queste vulnerabilità. Sebbene alcune soluzioni siano già in fase di sviluppo, i risultati sono ancora in attesa di pubblicazione.
La scoperta di queste vulnerabilità nelle reti neurali profonde sottolinea l’importanza di sviluppare sistemi AI più sicuri e robusti, specialmente in applicazioni critiche. Questo studio rappresenta un passo significativo verso una maggiore comprensione e mitigazione dei rischi associati all’uso dell’intelligenza artificiale.