L’European Union Agency for Cybersecurity (ENISA) ha pubblicato una valutazione degli standard relativi alla sicurezza informatica per l’Intelligenza Artificiale (AI), con l’obiettivo di identificare eventuali lacune e fornire raccomandazioni per supportare l’implementazione delle future politiche dell’UE in materia di AI.
La situazione attuale degli standard per la sicurezza delle AI
Nel suo rapporto, ENISA fornisce una panoramica degli standard attuali e in fase di sviluppo per la sicurezza delle AI e suggerisce che ulteriori linee guida potrebbero essere sviluppate per aiutare la comunità di utenti a trarre vantaggio dagli standard esistenti sull’AI. L’agenzia evidenzia inoltre la necessità di analisi specifiche per il sistema e di standard che coprano aspetti particolari dell’AI, come la tracciabilità dei dati e le procedure di test.
Raccomandazioni chiave
Le raccomandazioni principali dell’ENISA includono l’utilizzo di una terminologia standardizzata per la sicurezza informatica delle AI, lo sviluppo di linee guida tecniche sull’applicazione degli standard esistenti e la promozione della cooperazione e del coordinamento tra i comitati tecnici delle organizzazioni di standardizzazione per affrontare in modo coerente eventuali preoccupazioni sulla sicurezza informatica.
Regolamentazione dell’AI: quali sono le esigenze?
Per quanto riguarda la conformità alla bozza del cosiddetto “AI Act” dell’UE, sono stati identificati ulteriori aspetti, come la necessità di sviluppare ulteriormente standard per la valutazione della conformità, in particolare relativi a strumenti e competenze. Inoltre, l’interazione tra diverse iniziative legislative dovrebbe essere ulteriormente riflessa nelle attività di standardizzazione, come ad esempio la proposta di un regolamento sui requisiti di sicurezza informatica orizzontale per prodotti con elementi digitali, denominato “Cyber Resilience Act”.
Il ruolo di ENISA nella certificazione e nei dibattiti sull’AI e la sicurezza informatica
Attualmente, ENISA sta esaminando la necessità e la fattibilità di uno schema di certificazione sulla sicurezza informatica delle AI a livello europeo, coinvolgendo un’ampia gamma di stakeholder. L’AI e la sicurezza informatica saranno discusse in due panel dedicati durante la Conferenza sulla Certificazione di ENISA il 25 maggio ad Atene e durante la Conferenza sull’AI di ENISA il 7 giugno a Bruxelles.
Collaborazione tra organizzazioni e comitati tecnici
ENISA sostiene l’importanza di una cooperazione e coordinamento tra organizzazioni e comitati tecnici che si occupano di sicurezza informatica e intelligenza artificiale. Questo approccio coordinato permetterà di affrontare in modo coerente le preoccupazioni relative alla sicurezza informatica, come le caratteristiche di affidabilità e la qualità dei dati.
Raccomandazioni chiave per la standardizzazione della sicurezza informatica nell’AI
Le raccomandazioni chiave incluse nel rapporto di ENISA riguardano l’adozione di una terminologia standardizzata per la sicurezza informatica nell’AI, lo sviluppo di linee guida tecniche sull’applicazione degli standard esistenti alla sicurezza informatica delle AI e la riflessione sulle caratteristiche intrinseche dell’apprendimento automatico nell’AI. Inoltre, si raccomanda di promuovere la cooperazione e il coordinamento tra i comitati tecnici sulle questioni di sicurezza informatica e AI.
Regolamentazione dell’AI: cosa serve?
Per quanto riguarda il rispetto del progetto di “AI Act” e altre normative dell’UE, la conformità sarà supportata dagli standard. Tuttavia, sono stati individuati ulteriori aspetti che potrebbero richiedere un ulteriore sviluppo, come ad esempio gli standard per la valutazione della conformità, in particolare quelli legati agli strumenti e alle competenze. Inoltre, è necessario un maggiore coordinamento tra le diverse iniziative legislative e le attività di standardizzazione, come ad esempio la proposta di un regolamento sui requisiti di sicurezza informatica orizzontale per i prodotti con elementi digitali, noto come “Cyber Resilience Act”.