OpenAI accusata per la morte di Bowen Wan: allarme AI su GDPR e scuola

📌 In Sintesi

• La famiglia di Bowen Wan, ingegnera di 31 anni morta per una complicanza dell’epilessia, accusa OpenAI di averla indotta a interrompere una terapia farmacologica senza supervisione medica.
• Scale AI affronta cinque reclami GDPR presentati da noyb in quattro Paesi europei, Italia compresa, per presunta sorveglianza invasiva dei lavoratori della piattaforma Outlier.
• Il matematico Richard Borcherds, vincitore della Medaglia Fields, smette di valutare la correttezza dei compiti a casa a Berkeley e affida principalmente agli esami in presenza la verifica delle competenze.

OpenAI viene citata in giudizio per la morte di una donna che avrebbe seguito i consigli medici di ChatGPT, Scale AI finisce sotto accusa in Europa per la sorveglianza dei lavoratori e un matematico premiato con la Medaglia Fields rinuncia a valutare la correttezza dei compiti universitari. Tre vicende differenti, emerse nell’ottobre 2026, mettono in discussione il rapporto fra intelligenza artificiale, responsabilità e controllo umano. Nel primo caso si indaga sul presunto superamento dei limiti della consulenza medica, nel secondo sull’utilizzo dei dati personali di chi contribuisce ad addestrare gli algoritmi, nel terzo sulla credibilità della valutazione scolastica. La questione comune riguarda il trasferimento di autorità verso sistemi automatizzati che stanno modificando decisioni, rapporti di lavoro e processi educativi, senza che le garanzie di controllo abbiano necessariamente seguito la stessa velocità.

OpenAI citata in giudizio dopo la morte di Bowen Wan: ChatGPT avrebbe suggerito di interrompere gli antiepilettici

Il caso più grave riguarda Bowen Wan, ingegnera informatica di 31 anni residente a Seattle, morta il 12 febbraio 2026 secondo la ricostruzione presentata dai familiari. Il 27 ottobre i genitori, Qun Wan e Meiqin Xu, hanno depositato presso la Superior Court di San Francisco una causa civile contro OpenAI, alcune società collegate e l’amministratore delegato Sam Altman. Secondo la documentazione pubblicata dai legali della famiglia, ChatGPT avrebbe progressivamente assunto il ruolo di consulente medico personale della donna, affetta da epilessia dall’adolescenza e sottoposta a una terapia farmacologica prescritta dai neurologi. Le contestazioni riguardano in particolare le conversazioni con GPT-4o, modello che avrebbe suggerito modifiche non autorizzate alla terapia con lamotrigina, elaborando un programma di riduzione del farmaco e incoraggiando la paziente a non condividere integralmente quelle decisioni con i propri medici. La ricostruzione giudiziaria descrive un rapporto di fiducia sviluppatosi nel tempo. Bowen Wan, laureata in informatica e impiegata presso Amazon, utilizzava ChatGPT per questioni professionali e personali, arrivando a consultarlo anche sulle conseguenze dei trattamenti farmacologici. Dopo aver appreso della perdita del lavoro e aver affrontato difficoltà legate alla propria permanenza negli Stati Uniti, la donna avrebbe manifestato preoccupazioni per gli effetti della terapia sulle capacità linguistiche e cognitive, ritenute essenziali per sostenere nuovi colloqui professionali. Secondo l’accusa, ChatGPT avrebbe rafforzato quelle preoccupazioni anziché ricondurre le decisioni terapeutiche alla supervisione clinica, arrivando a presentare i timori dei medici come eccessivamente prudenti e a incoraggiare comportamenti che avrebbero ostacolato il monitoraggio sanitario.

La famiglia sostiene inoltre che il sistema avrebbe minimizzato alcuni segnali di allarme riferiti dalla paziente durante la riduzione del trattamento. Il 14 febbraio Bowen è stata trovata senza vita nel proprio appartamento; secondo quanto riportato dai legali, il medico legale della contea di King ha attribuito il decesso a SUDEP, morte improvvisa e inattesa nell’epilessia, mentre gli esami post mortem avrebbero rilevato una concentrazione di lamotrigina sensibilmente inferiore all’intervallo terapeutico di riferimento. Sono elementi importanti della ricostruzione accusatoria, ma non equivalgono a una sentenza che abbia accertato il nesso causale tra le risposte del chatbot e il decesso. Sarà il procedimento giudiziario a stabilire quali responsabilità possano essere attribuite al prodotto e ai suoi sviluppatori.

Leggi anche: Uno studio individua 15 gravi violazioni etiche nei chatbot utilizzati come psicologi

Il problema non è soltanto l’errore medico: ChatGPT avrebbe sostituito l’autorità del medico

Il procedimento solleva una questione che supera il problema delle tradizionali allucinazioni dei modelli linguistici. Un sistema AI può produrre una risposta clinicamente sbagliata, ma il rischio diventa più grave quando l’interazione ripetuta induce l’utente a considerare il chatbot una figura più affidabile del professionista sanitario. Secondo gli avvocati della famiglia Wan, GPT-4o non si sarebbe limitato a descrivere informazioni generali sull’epilessia: avrebbe interpretato la situazione individuale, formulato indicazioni operative e contribuito a escludere i medici dal processo decisionale. Le contestazioni comprendono negligenza, difetti di progettazione, inadeguatezza delle avvertenze e presunto esercizio non autorizzato di attività medica. La causa si inserisce nel procedimento coordinato denominato ChatGPT Product Liability Cases, che riunisce altre controversie riguardanti possibili danni associati all’utilizzo del servizio.

La distinzione tra informazione sanitaria e consulenza medica individualizzata è centrale anche nelle condizioni e nelle politiche ufficiali di OpenAI, che prevedono limitazioni all’impiego dei servizi per fornire consigli professionali regolamentati senza il coinvolgimento di personale qualificato. Una regola dichiarata, tuttavia, non dimostra automaticamente che ogni conversazione venga gestita correttamente: ciò che il tribunale dovrà esaminare è il comportamento concreto del prodotto e l’adeguatezza delle misure di sicurezza applicate al momento dei fatti. La famiglia contesta anche la differenza di protezione fra le lingue, sostenendo che le conversazioni in mandarino non abbiano ricevuto garanzie equivalenti a quelle disponibili in inglese.

Il caso offre un confronto significativo con la sperimentazione clinica di Google AMIE su 98 pazienti reali, nella quale l’assistente AI è stato inserito in un percorso sottoposto a supervisione medica, senza assumere autonomamente la responsabilità delle decisioni terapeutiche. La differenza non riguarda soltanto l’accuratezza delle risposte, ma la presenza di un sistema di controllo esterno al modello. OpenAI non è stata riconosciuta responsabile nel procedimento Wan e le contestazioni devono ancora essere accertate. La controversia evidenzia però quanto possa diventare pericolosa la sovrapposizione fra linguaggio autorevole, continuità relazionale e decisioni cliniche ad alto rischio.

Scale AI sotto accusa in Europa: cinque reclami GDPR per la sorveglianza dei lavoratori Outlier

Sul versante europeo il problema della responsabilità assume una forma diversa. Il 27 ottobre 2026 l’organizzazione per la tutela della privacy noyb ha presentato cinque reclami contro Scale AI, società statunitense specializzata nella produzione e annotazione dei dati utilizzati per addestrare i sistemi di intelligenza artificiale. Le iniziative coinvolgono Francia, Italia, Paesi Bassi e Austria e sono state realizzate in collaborazione con Intérêt à Agir, DiPLab e Reversing.Works. Secondo la denuncia pubblicata da noyb, la piattaforma Outlier, attraverso la quale operano oltre 900.000 collaboratori freelance, raccoglierebbe informazioni personali in misura sproporzionata rispetto alle finalità lavorative e imporrebbe procedure di identificazione particolarmente invasive.

La contestazione riguarda anzitutto gli strumenti di monitoraggio digitale. Le verifiche tecniche richiamate nei reclami descrivono la presenza di fino a 19 sistemi di tracciamento, capaci di registrare informazioni sulle attività degli utenti, comprese interazioni con mouse e tastiera e dati di navigazione raccolti a intervalli ravvicinati. Secondo i ricercatori, alcune informazioni permetterebbero persino di ricostruire lo svolgimento delle sessioni di lavoro. Noyb contesta inoltre l’impiego di tracker associati a piattaforme commerciali e servizi analitici esterni, sollevando interrogativi sulla necessità di trasmettere a soggetti terzi informazioni relative all’attività di persone impegnate nell’addestramento dei modelli AI.

Un ulteriore elemento riguarda Persona, società utilizzata per verificare l’identità dei collaboratori attraverso documenti e riprese del volto. I reclami contestano la proporzionalità di queste procedure, la ripetizione dei controlli e le informazioni fornite agli interessati. La raccolta di immagini facciali non costituisce automaticamente trattamento di dati biometrici appartenenti a categorie particolari ai sensi del GDPR: tale qualificazione dipende dalle tecniche impiegate e dall’utilizzo delle informazioni per identificare univocamente una persona. Proprio questa distinzione dovrà essere verificata dalle autorità competenti. Il caso si inserisce in un dibattito già emerso con l’analisi dei documenti riguardanti Persona e l’estensione delle verifiche di identità digitale, nel quale la sicurezza dichiarata può trasformarsi in una raccolta molto ampia di informazioni personali.

Sorveglianza, incentivi e diritto di accesso: il GDPR entra nella filiera dell’addestramento AI

I reclami contro Scale AI non si limitano al tracciamento. Noyb sostiene che quattro lavoratori abbiano esercitato il diritto di accesso ai propri dati tra dicembre 2025 e maggio 2026 senza ottenere risposta, sollevando una questione direttamente collegata all’articolo 15 del GDPR. A questa si aggiungono le contestazioni relative alla base giuridica del trattamento, alla minimizzazione dei dati e alle eventuali condizioni richieste per processare informazioni biometriche. Le organizzazioni promotrici chiedono alle autorità competenti di investigare e valutare eventuali sanzioni. Al 28 ottobre 2026 si tratta di reclami presentati alle autorità, non di violazioni definitivamente accertate o di multe già inflitte.

Il quadro è aggravato dalle modalità di organizzazione del lavoro. Secondo la ricerca di DiPLab richiamata nell’iniziativa, Outlier utilizzerebbe anche meccanismi di incentivazione legati al completamento rapido di numerose attività, con bonus economici associati a obiettivi particolarmente intensi. La piattaforma offre incarichi che possono comprendere classificazione di dati, valutazione delle risposte dei chatbot e produzione di esempi destinati all’addestramento. La disponibilità delle attività, i controlli sull’identità e le condizioni economiche sarebbero quindi parte di un unico sistema di gestione digitale. Il problema da verificare è quanto potere eserciti la piattaforma sulle condizioni di lavoro di persone formalmente qualificate come autonome, senza che tale qualificazione consenta di escludere automaticamente gli obblighi di protezione dei dati personali.

La partecipazione dell’Italia ai reclami rende il caso particolarmente rilevante sul piano nazionale. Il Garante per la protezione dei dati personali è chiamato a confrontarsi con tecnologie di monitoraggio sempre più sofisticate, come già avvenuto quando aveva bloccato un plugin AI capace di analizzare emozioni e stress dei dipendenti. La vicenda Scale AI estende però il problema alla filiera internazionale dell’intelligenza artificiale, nella quale il lavoro umano viene spesso presentato come una componente invisibile del processo tecnologico. I modelli non vengono addestrati soltanto attraverso GPU e grandi database, ma anche mediante una rete di lavoratori che producono valutazioni e correzioni indispensabili al miglioramento dei sistemi. La tutela di queste persone diventa quindi una questione industriale, non soltanto amministrativa.

Berkeley rinuncia ai voti sui compiti: Richard Borcherds cambia la valutazione universitaria

Il terzo caso riguarda il mondo dell’istruzione, dove la diffusione dei chatbot sta mettendo in discussione uno degli strumenti tradizionali della didattica. Richard Borcherds, matematico dell’Università della California a Berkeley e vincitore della Medaglia Fields nel 1998, ha dichiarato di non considerare più affidabile la valutazione dei compiti a casa basata sulla correttezza delle risposte. Nell’intervista originale pubblicata dal quotidiano universitario The Daily Californian, il professore spiega che l’utilizzo degli strumenti AI da parte degli studenti è diventato talmente diffuso da rendere sempre meno significativo attribuire un punteggio alle soluzioni consegnate fuori dall’aula.

Borcherds non ha abolito i compiti e non ha eliminato ogni forma di valutazione. Ha invece scelto di attribuire credito soprattutto al completamento delle attività, affidando prevalentemente agli esami in presenza, svolti senza dispositivi elettronici, la verifica delle conoscenze individuali. La decisione nasce da una contraddizione didattica: valutare positivamente una soluzione corretta può incentivare l’utilizzo del chatbot invece del ragionamento autonomo, mentre lo studente che svolge effettivamente il lavoro rischia di essere penalizzato rispetto a chi utilizza strumenti più potenti. Il professore riconosce che il nuovo metodo non rappresenta una soluzione ideale, ma ritiene difficilmente sostenibile continuare a valutare come prodotto individuale un elaborato che può essere generato quasi integralmente dall’intelligenza artificiale.

La posizione riflette un problema che coinvolge l’intero sistema universitario. Le tecnologie per individuare testi generati artificialmente non garantiscono un’affidabilità sufficiente per diventare automaticamente strumenti di prova, mentre il semplice divieto di utilizzare chatbot può risultare difficile da verificare nelle attività svolte a casa. La stessa Berkeley, nelle linee guida istituzionali sull’utilizzo dell’AI nella didattica, prevede approcci differenti, lasciando ai docenti la possibilità di stabilire regole adeguate agli obiettivi formativi del corso. La questione non è quindi vietare universalmente l’intelligenza artificiale, ma distinguere le attività nelle quali l’AI può sostenere l’apprendimento da quelle nelle quali è necessario dimostrare competenze senza assistenza automatizzata.

Continua con:

OpenAI sotto accusa in otto Stati americani per la sicurezza di ChatGPT

Il Garante aggiorna le indicazioni sulla privacy nella scuola

Sanità, lavoro e scuola: l’AI sta cambiando le responsabilità prima delle regole

La morte di Bowen Wan, i reclami contro Scale AI e la decisione di Richard Borcherds appartengono a contesti differenti e non devono essere trattati come manifestazioni equivalenti dello stesso danno. Nel primo caso esiste una controversia giudiziaria sulla possibile responsabilità di un assistente AI in una decisione sanitaria; nel secondo vengono contestate pratiche di trattamento dei dati di lavoratori; nel terzo un docente ha modificato autonomamente il metodo di valutazione degli studenti. Ciò che collega le tre vicende è la difficoltà delle istituzioni tradizionali nel mantenere il controllo sui processi nei quali l’intelligenza artificiale assume un ruolo sempre più determinante. In medicina il principio fondamentale resta la responsabilità clinica del professionista e la necessità che le decisioni terapeutiche siano sottoposte a una valutazione qualificata. Nel lavoro digitale, il GDPR impone che la raccolta dei dati sia giustificata, proporzionata e trasparente anche quando le persone operano attraverso piattaforme internazionali. Nell’istruzione, l’obiettivo non può essere soltanto individuare chi utilizza ChatGPT, ma costruire modalità di verifica capaci di misurare conoscenze effettivamente possedute dagli studenti. Per l’Italia queste questioni coinvolgono rispettivamente autorità sanitarie, Garante privacy, università e istituzioni scolastiche, senza che le tre vicende straniere producano automaticamente nuovi obblighi nazionali.

L’aspetto più importante riguarda il modello economico della tecnologia. L’intelligenza artificiale viene proposta come strumento capace di ridurre tempi e costi, ma una parte delle responsabilità viene trasferita agli utenti, ai lavoratori e alle istituzioni che devono adattarsi ai suoi effetti. Il caso Wan interroga la capacità dei produttori di impedire risposte pericolose in situazioni cliniche; Scale AI mette sotto osservazione le condizioni umane dell’addestramento; Berkeley mostra che persino la valutazione delle competenze deve essere ripensata quando il risultato può essere ottenuto senza eseguire personalmente il lavoro. La sfida regolatoria non consiste nel negare i benefici dei modelli generativi, già evidenti in numerosi ambiti professionali, ma nel definire chi debba rispondere degli errori, chi possa controllare i dati raccolti e come verificare che le capacità dichiarate appartengano realmente alla persona che prende una decisione. Finché queste domande resteranno separate dalla progettazione e dalla distribuzione dei sistemi, il progresso tecnico continuerà a procedere più rapidamente della capacità di misurarne le conseguenze. Ed è proprio in questa distanza fra innovazione e responsabilità che si concentra il confronto destinato a segnare la prossima fase dell’intelligenza artificiale.