Un nuovo studio dell’Università della California, Irvine (UC Irvine) ha evidenziato un grave problema di sicurezza nelle auto a guida autonoma, dimostrando come semplici adesivi multicolore applicati ai cartelli stradali possano confondere i sistemi di riconoscimento AI, inducendo i veicoli a frenate improvvise, eccesso di velocità o addirittura a ignorare i segnali di stop.
Come gli adesivi possono manipolare il comportamento delle auto autonome
I ricercatori hanno scoperto che le telecamere e gli algoritmi di riconoscimento dei segnali stradali, utilizzati dalle auto autonome, possono essere facilmente ingannati con adesivi che presentano design a spirale o multicolore. Questo metodo è stato testato su diversi modelli di auto autonome di marchi commerciali, inclusi Waymo e Tesla, e ha dimostrato di poter alterare il comportamento del veicolo in tempo reale.
Alcuni esperimenti hanno mostrato che, con adesivi ben posizionati, un’auto autonoma potrebbe:
- Non riconoscere un segnale di stop, attraversando un incrocio senza fermarsi.
- Interpretare erroneamente un limite di velocità, accelerando oltre il consentito.
- Rilevare segnali inesistenti, reagendo a comandi inesistenti e potenzialmente causando incidenti.
Un attacco economico e facile da realizzare
Uno degli aspetti più allarmanti della ricerca è che questa tecnica può essere eseguita da chiunque abbia accesso a un computer e a una stampante a colori. Secondo Ningfei Wang, autore principale dello studio e attualmente ricercatore presso Meta, gli strumenti necessari includono solo un linguaggio di programmazione open-source come Python e librerie di elaborazione delle immagini. Questo rende il metodo particolarmente preoccupante perché può essere replicato facilmente da attori malevoli senza necessità di competenze avanzate.
La debolezza dell’AI: la “memoria spaziale” dei segnali stradali
Un’altra scoperta interessante riguarda il modo in cui gli algoritmi delle auto autonome memorizzano la posizione dei segnali stradali. Sebbene questa funzione aiuti a riconoscere cartelli mancanti, rende molto più semplice falsificare segnali inesistenti. In alcuni casi, gli adesivi sono stati in grado di “creare” un finto segnale di stop, causando arresti improvvisi ingiustificati nel traffico.
Il professor Alfred Chen, co-autore dello studio, ha sottolineato che questo è il primo test su larga scala effettuato su veicoli commerciali in scenari reali. Precedenti studi si erano concentrati su simulazioni accademiche, sottovalutando la reale vulnerabilità dei Traffic Sign Recognition Systems (TSR) nelle auto di produzione.
Implicazioni per la sicurezza e futuro della guida autonoma
Con la crescente diffusione delle auto a guida autonoma, che oggi contano milioni di unità in circolazione, le scoperte dello studio sollevano serie preoccupazioni sulla sicurezza pubblica. Se un semplice adesivo può compromettere il comportamento di un’auto autonoma, diventa evidente la necessità di migliorare la robustezza dei sistemi di riconoscimento AI per evitare che questa vulnerabilità possa essere sfruttata in modo malevolo.
Il team di ricerca ha suggerito possibili soluzioni per mitigare il problema, tra cui:
- L’integrazione di sistemi di rilevamento multimodale, che combinino LIDAR, GPS e sensori avanzati per verificare l’autenticità dei segnali stradali.
- L’uso di algoritmi AI più resistenti agli attacchi adversariali, in grado di identificare anomalie nei cartelli.
- Un controllo più rigoroso dei sistemi di guida autonoma prima della commercializzazione, per garantire che queste vulnerabilità siano risolte prima che i veicoli vengano messi su strada.
Lo studio, finanziato dalla National Science Foundation e dal Dipartimento dei Trasporti degli Stati Uniti, rappresenta un passo fondamentale nella ricerca sulla sicurezza della guida autonoma e invita il settore automobilistico a rivalutare le proprie strategie di difesa contro attacchi esterni. Maggiori dettagli sono disponibili nel Network and Distributed System Security Symposium (NDSS 2025).
