Il garante della privacy francese, la CNIL, ha delineato il suo piano d’azione per l’Intelligenza Artificiale (AI), mettendo in luce le aree di maggiore interesse, tra cui le tecnologie generative AI come ChatGPT di OpenAI. Un’attenzione particolare è rivolta all’uso dell’AI nel rispetto della privacy e dei dati personali.
L’impegno della CNIL: un IA che rispetta i dati personali
Uno degli obiettivi principali dell’ente regolatore è guidare lo sviluppo di un’IA che rispetti i dati personali. Per raggiungere tale obiettivo, la CNIL sta lavorando per sviluppare metodi per audire e controllare i sistemi di IA allo scopo di proteggere gli individui. L’ente regolatore francese intende stabilire regole chiare per proteggere i dati personali dei cittadini europei e contribuire allo sviluppo di sistemi di AI rispettosi della privacy.
Lo scraping dei dati e l’IA generativa
Tra i punti su cui la CNIL intende concentrarsi maggiormente, vi è la pratica dello scraping dei dati da parte di alcuni produttori di modelli di IA per la creazione di set di dati utilizzati per l’addestramento dei sistemi di IA, come i grandi modelli di linguaggio (LLM). Questa è un’area di particolare interesse per i produttori di LLM come ChatGPT, che hanno basato il loro lavoro sulla raccolta di enormi quantità di dati web per utilizzarli come materiale di addestramento.
Le sfide legali per gli strumenti come ChatGPT
La creazione di set di dati di addestramento tramite scraping di informazioni personali da internet pone specifiche sfide legali in Europa. Infatti, il Regolamento Generale sulla Protezione dei Dati (GDPR), applicabile dal maggio 2018, richiede che si disponga di una base legale per tale elaborazione. Gli strumenti come ChatGPT devono quindi evitare di infrangere la legge per quanto riguarda l’elaborazione dei dati personali.
Pianificazione della CNIL e possibili implicazioni
Il piano d’azione della CNIL pone l’accento sulla “correttezza e trasparenza dell’elaborazione dei dati sottostante al funzionamento degli strumenti [di AI]” e si prefigge come priorità la protezione dei dati trasmessi dagli utenti quando utilizzano questi strumenti, la tutela contro i bias e la discriminazione che possono verificarsi, e le sfide di sicurezza senza precedenti nel contesto dell’intelligenza artificiale.
Pianificazione della CNIL e possibili implicazioni
L’agenda della CNIL pone un forte enfasi sulla “correttezza e trasparenza dell’elaborazione dei dati” utilizzati per far funzionare gli strumenti di intelligenza artificiale. Questo pone in primo piano la protezione dei dati personali degli utenti che utilizzano questi strumenti, la lotta contro i bias e la discriminazione che possono emergere nell’uso dell’AI, nonché le sfide di sicurezza uniche e senza precedenti che sorgono nel contesto dell’IA.
Protezione dei dati personali e lotta contro i bias
La CNIL è particolarmente attenta alla protezione dei dati personali. L’obiettivo è assicurarsi che gli strumenti di intelligenza artificiale rispettino la privacy e la sicurezza dei dati degli utenti, minimizzando così il rischio di violazioni dei dati. Allo stesso tempo, la CNIL intende affrontare il problema dei bias e delle discriminazioni. Questi possono derivare da algoritmi di intelligenza artificiale mal progettati o da dati di addestramento distorti, portando a decisioni ingiuste o inique.
Nuove sfide di sicurezza nell’era dell’intelligenza artificiale
L’intelligenza artificiale presenta sfide di sicurezza uniche e senza precedenti. Gli algoritmi di apprendimento automatico, ad esempio, possono essere vulnerabili a una serie di attacchi, come quelli che cercano di manipolare i risultati o di rubare dati sensibili. La CNIL è quindi impegnata a individuare e a prevenire tali minacce, assicurando al contempo che gli strumenti di intelligenza artificiale siano sviluppati e utilizzati in modo sicuro e responsabile.