Il Garante Privacy ha introdotto un decalogo per la creazione di servizi sanitari a livello nazionale utilizzando sistemi di intelligenza artificiale (IA). Questo decalogo enfatizza la trasparenza dei processi decisionali, la supervisione umana delle decisioni automatizzate e la non discriminazione algoritmica. Questi principi sono stati stabiliti in base al Regolamento e alla giurisprudenza del Consiglio di Stato.
Secondo le direttive dell’Autorità, i pazienti devono essere informati, anche attraverso campagne di comunicazione, sull’esistenza e sulla natura dei processi decisionali basati su trattamenti automatizzati realizzati con strumenti di IA. Devono inoltre ricevere informazioni chiare sulla logica utilizzata per prendere tali decisioni.
È essenziale che il processo decisionale preveda una supervisione umana, permettendo al personale sanitario di verificare, convalidare o smentire l’elaborazione effettuata dagli strumenti di IA. Il Garante suggerisce l’uso di sistemi di IA affidabili che minimizzino gli errori, sia tecnologici che umani, e che venga verificata periodicamente la loro efficacia.
Un esempio citato dal Garante riguarda un sistema di IA negli Stati Uniti utilizzato per valutare il rischio sanitario di oltre 200 milioni di americani. Gli algoritmi tendevano a sottovalutare il rischio per i pazienti afroamericani, negando loro l’accesso a cure adeguate.
Il Garante ha sottolineato l’importanza di una base giuridica adeguata per l’uso dell’intelligenza artificiale. Il trattamento di dati sulla salute attraverso l’IA, effettuato per motivi di interesse pubblico in ambito sanitario, deve essere regolamentato da un quadro normativo specifico.
Prima di effettuare trattamenti di dati sulla salute tramite sistemi di IA a livello nazionale, è necessario effettuare una valutazione d’impatto per identificare le misure adeguate a proteggere i diritti e le libertà dei pazienti.
Il decalogo completo è disponibile sul sito del Garante Privacy.