Con l’esplosione dell’intelligenza artificiale generativa, Google ha deciso di introdurre nuove regole per le app Android. Queste nuove linee guida richiedono che le app includano un sistema per segnalare contenuti offensivi generati da AI e seguano nuove regole di moderazione.
Segnalazione di contenuti offensivi
Le app che utilizzano contenuti generati da AI dovranno includere un pulsante per segnalare o contrassegnare materiali offensivi entro l’inizio del prossimo anno per rimanere nel Google Play Store. Google intende rendere il processo di segnalazione il più semplice possibile, permettendo agli utenti di segnalare senza dover navigare fuori dall’app, in modo simile ai sistemi di segnalazione in-app esistenti.
Ambito della nuova politica
La politica sui contenuti generati da AI di Google copre chatbot AI, app di immagini generate da AI e app che creano contenuti vocali o video di persone reali utilizzando l’AI. Le app che ospitano contenuti generati da AI, quelle che utilizzano l’AI solo per riassumere materiali come libri e app di produttività che utilizzano l’AI come funzionalità, non saranno soggette alla nuova politica.
Esempi di contenuti problematici
Google ha identificato vari tipi di contenuti problematici generati da AI, tra cui deepfake non consensuali di materiale sessuale, registrazioni di persone reali create per truffe, contenuti elettorali falsi o ingannevoli, app con AI generativa “principalmente intese a soddisfare sessualmente” e creazione di codice dannoso.
Evoluzione delle politiche AI
Nell’annuncio, Google ha riconosciuto che l’AI generativa “è una categoria di app in rapida evoluzione”, dando l’impressione che potrebbe rivedere le sue politiche sull’AI man mano che la tecnologia evolve.
Maggiore privacy per foto e video
Oltre alle nuove regole sui contenuti generati da AI, Google sta anche rafforzando la politica di autorizzazioni per foto e video del Play Store, limitando l’accesso alle app ai dati. Solo le app che necessitano di un ampio accesso a foto e video continueranno ad avere autorizzazioni generali, mentre le app con un uso limitato di file multimediali dovranno utilizzare un selettore di foto.