Il Garante della privacy ha recentemente preso un’importante decisione vietando l’uso in Italia di Replika, una piattaforma di conversazione basata sull’intelligenza artificiale.
Il Garante della privacy ha identificato un reale rischio per i minori e le persone emotivamente fragili. Replika è un’applicazione che promette di fornire ai propri utenti una sorta di amico virtuale tramite un’interfaccia scritta e vocale.
Basandosi su algoritmi di intelligenza artificiale l’App è in grado di generare risposte elaborate che “promettono” di migliorare il benessere emotivo, in particolare Replika afferma: ”Crea il tuo unico compagno di intelligenza artificiale chatbot, aiutalo a sviluppare la sua personalità, parla dei tuoi sentimenti o di qualsiasi cosa tu abbia in mente, divertiti, calma l’ansia e cresci insieme. Puoi anche decidere se vuoi che Replika sia tua amica, partner romantico o mentore.”
Il Garante ha anche verificato che non vi è alcun meccanismo che vieti l’utilizzo a minori. Inoltre le risposte fornite da questo chatbot possono essere assolutamente inappropriate per i minori e non adatte al loro livello di sviluppo, stesso discorso per soggetti in uno stato di fragilità emotiva.
La società sviluppatrice di questa piattaforma, la statunitense Luka Inc, al momento delle verifica non richiedeva l’inserimento di alcun dato personale per creare un account. Ci si limita a chiedere solo nome, email e genere. Ciò impedisce, di fatto, l’eventuale verifica dell’età dei suoi utenti. Sembra poi siano presenti nei due principali App Store, Apple e Android, recensioni che lamentano contenuti sessualmente inopportuni e questo, se confermato, porrebbe un ulteriore rischio per i minori.
Quanto sopra violerebbe il regolamento europeo sulla privacy, non rispettando le tutele rafforzate dei minori e non sarebbe neppure basato su un contratto che i minori siano in grado di concludere.
Cosa succede ora?
Conseguentemente al provvedimento del Garante della Privacy, Luka Inc è obbligata ad interrompere il trattamento dei dati degli utenti italiani entro 20 giorni. In questo caso la pena per la mancata osservanza del provvedimento, prevede una sanzione di 20 milioni di euro o del 4% del suo fatturato annuale globale.
Per evitare altri rischi simili, è necessario mettere in atto tutte le precauzioni possibili per garantire l’utilizzo privo di pericoli delle piattaforme di questo tipo. In particolare quelle che prevedono l’utilizzo dell’intelligenza artificiale dovrebbero essere sottoposte a rigidi controlli e prevedere delle procedure di verifica come ad esempio almeno le verifiche anagrafiche per determinare l’età dei propri utenti.
La creazione di un account dovrebbe richiedere informazioni più dettagliate, come ad esempio un numero di telefono o un documento di identità, per verificare la reale identità dell’utente e bloccare l’accesso a chi appartiene a una fascia d’età inferiore rispetto a quella prevista dalle linee guida e dalle leggi in materia. Sarebbe importante che l’interfaccia fosse progettata in modo tale da riuscire a escludere utenti che dichiarino esplicitamente di essere minorenni. Dovrebbero anche esserci filtri per prevenire, in questi casi, l’accesso a contenuti inopportuni.
In definitiva mettendo insieme tutte le misure del caso specifico e adattando le misure prese fino ad ora alle nuove casistiche, si può pensare a come prevenire il rischio di situazioni in cui minori o persone fragili possano essere esposte a rischi irragionevoli.