Apple stringe l’App Store sui minori, OpenAI finisce sotto accusa

📌 In Sintesi

• Apple rende esplicito il divieto di immagini intime non consensuali generate con AI e introduce una regola specifica contro le app che nascondono funzioni durante App Review.
• Otto stati americani hanno avviato cause separate contro OpenAI accusandola di avere rappresentato ChatGPT come sicuro nonostante presunti rischi per utenti vulnerabili e minori.
• Una distinta class action federale contesta il trattamento dei dati dei minori e arriva a chiedere una quota del valore di OpenAI attribuito alle informazioni raccolte attraverso ChatGPT.

La protezione dei minori sta diventando uno dei punti nei quali piattaforme digitali e sistemi di intelligenza artificiale devono trasformare dichiarazioni di principio in controlli tecnici verificabili. Apple ha aggiornato le proprie App Review Guidelines rendendo espliciti gli obblighi contro immagini intime non consensuali generate con AI, funzioni nascoste e applicazioni coinvolte nello sfruttamento dei minori. Negli Stati Uniti OpenAI affronta invece due fronti giudiziari distinti: una serie di azioni promosse dagli attorney general statali sulla sicurezza di ChatGPT e una proposta di class action federale sul trattamento dei dati degli utenti minorenni. Il parallelismo deve essere maneggiato con cautela: Apple sta modificando regole che controlla direttamente, mentre contro OpenAI esistono accuse giudiziarie che non equivalgono a fatti accertati. Il punto comune è un altro: affidarsi alla semplice dichiarazione dell’età, alla moderazione successiva o a un controllo effettuato una sola volta non appare più sufficiente quando app e chatbot possono cambiare comportamento dopo l’accesso iniziale.

Apple mette nero su bianco nudification e bait-and-switch

Apple ha rafforzato formalmente le App Review Guidelines intervenendo proprio su due tecniche che negli ultimi mesi avevano mostrato i limiti della revisione preventiva dell’App Store. La Guideline 1.2 include ora esplicitamente le immagini intime non consensuali, comprese quelle generate mediante strumenti AI, tra i contenuti che le piattaforme devono prevenire e rimuovere attraverso sistemi di moderazione adeguati. La nuova 2.5.19 prende invece di mira il bait-and-switch: un’applicazione non può presentare ad App Review un insieme di funzioni apparentemente legittimo e attivarne altre, nascoste o non documentate, una volta ottenuta l’approvazione. La violazione può portare alla rimozione dell’app e all’esclusione dello sviluppatore dall’Apple Developer Program. La sezione 5 chiarisce inoltre che le app che facilitano traffico di esseri umani o sfruttamento dei bambini saranno eliminate dall’App Store e bloccate anche dalla distribuzione alternativa, dettaglio particolarmente rilevante nell’Unione europea dove l’apertura imposta al modello distributivo di iOS ha ampliato i canali disponibili. Apple afferma di avere impedito nel 2025 la distribuzione di oltre 150.000 app con problemi di sicurezza e chiuso più di 193.000 account sviluppatore per frodi e abusi. Sono numeri forniti dalla società, ma la modifica delle regole arriva dopo casi concreti già documentati da Matrice Digitale, comprese le app nudify e le piattaforme di gambling camuffate capaci di superare i controlli dell’App Store.

Leggi anche: Apple rimuove Kromix dopo le funzioni AI per deepfake sessuali aggiunte dopo App Review

Le nuove regole Apple trasformano precedenti divieti in responsabilità operative

Il secondo aggiornamento pubblicato da Apple il 16 ottobre mostra che non si tratta soltanto di aggiungere la parola AI a un regolamento esistente. Apple richiama esplicitamente la possibile violazione del Developer Code of Conduct quando lo sviluppatore non implementa salvaguardie appropriate o non corregge gli abusi dopo essere stato avvisato. La distinzione conta perché sposta parte della responsabilità dalla singola immagine vietata al sistema che avrebbe dovuto impedirne produzione e diffusione. Allo stesso modo, il divieto delle funzionalità dormienti esisteva già, ma una norma autonoma contro funzioni nascoste, code obfuscation e cambiamenti successivi all’approvazione risponde direttamente al modello utilizzato da applicazioni che modificano il proprio comportamento tramite backend o configurazioni remote. Il caso Kromix aveva già mostrato il problema: secondo Apple, le capacità contestate erano state aggiunte dopo la revisione iniziale. App Review non può quindi essere considerata un certificato permanente di conformità, perché un’app moderna è sempre più spesso soltanto il client di servizi e modelli che possono cambiare senza la pubblicazione di un nuovo binario.

Otto stati portano OpenAI in tribunale sulla sicurezza di ChatGPT

Sul fronte OpenAI la natura dello sviluppo è differente. Il 14 ottobre gli attorney general di Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana hanno annunciato cause separate nei rispettivi tribunali statali, accusando OpenAI di avere presentato ChatGPT come sicuro mentre il prodotto avrebbe esposto utenti vulnerabili, compresi minori, a conversazioni pericolose. L’annuncio ufficiale dell’Attorney General dell’Iowa parla di violazioni del Consumer Fraud Act e contesta, tra le altre cose, la progettazione di un chatbot eccessivamente accondiscendente e capace di simulare vicinanza emotiva. Sono allegazioni delle procure, non conclusioni giudiziarie, e dovranno essere provate nei rispettivi procedimenti. Le comunicazioni ufficiali presentano peraltro una piccola incongruenza da non ignorare: Iowa e Nebraska elencano otto stati, mentre il comunicato dell’Arkansas cita anche Utah tra le azioni analoghe. Il dato certo è quindi l’esistenza di almeno otto procedimenti coordinati nello stesso giorno. Il confronto arriva appena due mesi dopo il lancio di ChatGPT for Teens con filtri specifici, age prediction e parental control, cioè precisamente l’architettura con cui OpenAI sostiene di avere rafforzato la protezione degli utenti tra 13 e 17 anni.

Una seconda causa contesta il consenso dei minori sui dati di ChatGPT

Separatamente dalle iniziative degli stati, il 13 ottobre una madre delle Hawaii ha depositato davanti alla Corte federale del Northern District of California la proposta di class action Doe v. OpenAI Foundation, n. 3:26-cv-11781, agendo per una figlia di 12 anni, un figlio di 16 e una futura classe nazionale di utenti minorenni. Secondo l’annuncio dello studio Yetter Coleman che rappresenta i ricorrenti, la denuncia sostiene che OpenAI avrebbe raccolto informazioni personali dei bambini senza un valido consenso genitoriale e le avrebbe utilizzate per addestrare i propri modelli. Anche qui nessuna delle accuse è stata accertata e la classe non è stata certificata. L’elemento giuridicamente più originale è la richiesta economica: i ricorrenti domandano una quota del capitale di OpenAI, o il corrispondente valore monetario, collegata al valore che la società avrebbe ricavato dai dati conferiti dai minori. La causa non coincide quindi con una normale contestazione COPPA e prova invece a costruire il caso attorno alla validità del consenso contrattuale dei minorenni e all’arricchimento derivante dai loro dati. OpenAI, dal canto proprio, stabilisce che ChatGPT non sia destinato ai minori di 13 anni e richiede il consenso di un genitore o tutore tra 13 e 18 anni; il problema che il procedimento dovrà affrontare è se il meccanismo concreto utilizzato dalla piattaforma sia sufficiente a rendere quel consenso effettivamente valido.

Continua con:

ChatGPT, Reddit e Roblox entrano negli obblighi rafforzati del DSA per rischi sistemici e minori

Meta porta avvisi ai genitori e nuovi controlli nelle interazioni AI con gli adolescenti

La sicurezza dei minori non può più essere una schermata iniziale

Apple e OpenAI arrivano allo stesso problema partendo da architetture completamente diverse. Apple controlla un gate distributivo e deve dimostrare che App Review continui a funzionare anche dopo l’approvazione; OpenAI controlla direttamente il servizio e deve dimostrare che età, consenso, comportamento del modello e protezione dei dati funzionino durante l’intera relazione con l’utente. Nell’Unione europea questa distinzione acquista ulteriore peso: l’App Store deve convivere con distribuzione alternativa senza rinunciare agli obblighi di sicurezza, mentre ChatGPT è già entrato nel perimetro rafforzato del Digital Services Act per i rischi sistemici che comprendono anche tutela dei minori e salute. Il cambio di paradigma è quindi più ampio delle singole controversie. Un checkbox sull’età, una revisione del binario o un parental control opzionale non possono essere presentati come soluzione definitiva quando il prodotto continua a cambiare dopo il primo accesso. La verifica deve diventare continua quanto il software che pretende di rendere sicuro.