Negli ultimi anni i modelli linguistici di grandi dimensioni (LLM) sono stati sempre più utilizzati per offrire supporto emotivo, consulenza psicologica e perfino simulazioni di sedute terapeutiche. Numerose piattaforme digitali hanno introdotto chatbot progettati per interagire con utenti che cercano aiuto per problemi di salute mentale, promuovendoli spesso come strumenti accessibili, immediati e disponibili in qualsiasi momento. Tuttavia, un recente studio accademico mette in discussione questa narrativa. La ricerca, condotta con la collaborazione di psicologi clinici e counselor professionisti, analizza il comportamento di LLM utilizzati come consulenti terapeutici e dimostra che questi sistemi possono violare diversi principi etici fondamentali della pratica psicologica. Secondo gli autori dello studio, l’idea che la psicoterapia possa essere ridotta a un semplice problema di generazione linguistica è profondamente fuorviante. La relazione terapeutica è infatti un processo complesso, relazionale e contestuale che richiede competenze cliniche, interpretazione emotiva e responsabilità professionale. Gli LLM, pur essendo sofisticati nel produrre testo, non possiedono le capacità necessarie per rispettare pienamente gli standard etici che regolano la salute mentale.
Cosa leggere
La diffusione dei chatbot terapeutici
Il crescente interesse per i chatbot psicologici è legato a diversi fattori. Da un lato esiste una crescente domanda di servizi di salute mentale, mentre dall’altro la disponibilità di terapeuti qualificati è spesso limitata. In questo contesto, le aziende tecnologiche e alcune piattaforme digitali hanno iniziato a proporre sistemi di supporto emotivo automatizzato. Applicazioni come chatbot conversazionali o assistenti digitali promettono di offrire dialoghi empatici, suggerimenti terapeutici e tecniche ispirate alla psicologia cognitivo-comportamentale. Alcuni di questi strumenti vengono addirittura presentati come “AI terapeuti” o compagni digitali capaci di aiutare le persone ad affrontare stress, ansia o depressione. Secondo lo studio, però, questa narrativa rischia di generare aspettative fuorvianti. Gli utenti potrebbero infatti attribuire ai chatbot capacità di comprensione e competenze cliniche che questi sistemi non possiedono realmente.
La ricerca: come sono stati analizzati gli LLM counselor
Per analizzare il fenomeno, i ricercatori hanno condotto uno studio qualitativo durato 18 mesi, coinvolgendo counselor professionisti e psicologi clinici. Il lavoro ha incluso due principali attività. La prima è stata un’osservazione etnografica con counselor formati nella terapia cognitivo-comportamentale. Questi professionisti hanno interagito con diversi modelli linguistici – tra cui versioni di GPT, Llama e Claude – simulando sedute terapeutiche e valutando il comportamento dei sistemi. La seconda fase ha coinvolto psicologi clinici autorizzati, che hanno analizzato sessioni simulate tra utenti e chatbot terapeutici. Gli esperti hanno valutato se le risposte generate dagli LLM rispettassero i codici etici della psicologia professionale. Nel complesso lo studio ha esaminato 137 sessioni di consulenza simulata, individuando una serie di comportamenti problematici ricorrenti.
Quindici violazioni etiche individuate nello studio
L’analisi ha portato alla definizione di un framework composto da 15 violazioni etiche, organizzate in cinque categorie principali. Queste categorie rappresentano i principali rischi associati all’uso degli LLM come consulenti psicologici.
| Tema Principale | Violazione Etica | Descrizione & Impatto |
|---|---|---|
| 1. Mancanza di Adattamento Contestuale | Adesione Metodologica Rigida | Manca dell’interpretazione clinica per adattare l’approccio psicoterapeutico al contesto dell’utente, risultando in un intervento standardizzato (one-size-fits-all). |
| Svalutazione dell’Esperienza Vissuta | Appiattisce le esperienze vissute dagli utenti, offrendo consigli eccessivamente semplificati, generici e insensibili al contesto, in particolare a chi appartiene a identità non dominanti. | |
| 2. Scarsa Collaborazione Terapeutica | Squilibri Conversazionali | Mostra un cattivo comportamento nell’alternanza dei turni (turn-taking), generando risposte troppo lunghe che tolgono voce agli utenti, trasformando la sessione in una lezione anziché in un dialogo. |
| Mancanza di Auto-scoperta Guidata | Impone soluzioni senza permettere agli utenti di riflettere sulle proprie esperienze, limitando la loro capacità di definire e fare propri i risultati terapeutici. | |
| Validazione di Convinzioni Malsane | Rafforza (tramite iper-validazione) le convinzioni imprecise e dannose degli utenti su se stessi e sugli altri (problema della sicofanza). | |
| Gaslighting | Effettua correlazioni improprie tra pensieri e comportamenti, suggerendo a volte erroneamente che gli utenti siano la causa delle proprie difficoltà mentali. | |
| 3. Empatia Ingannevole | Empatia Ingannevole | Usa frasi relazionali come “Ti vedo” o “Ti capisco”. Poiché il modello si auto-referenzia senza avere un vero “sé”, risulta necessariamente ingannevole. |
| Alleanza Pseudo-Terapeutica | Si pone come compagno sociale e usa l’auto-rivelazione (self-disclosure) per costruire un’alleanza che può essere fuorviante per i gruppi vulnerabili. | |
| 4. Discriminazione Ingiusta | Pregiudizio di Genere (Gender Bias) | Segnala le discussioni che coinvolgono autrici di reati come violazioni dei termini di servizio, mentre contenuti simili legati agli uomini non subiscono blocchi. |
| Pregiudizio Culturale | Dà priorità ai valori occidentali e alle abitudini di auto-cura rispetto alle pratiche non occidentali. | |
| Pregiudizio Religioso | Etichetta erroneamente valori e pratiche delle religioni minoritarie (non ampiamente promosse in Occidente) come contenuti che avallano l’estremismo. | |
| 5. Mancanza di Sicurezza & Gestione Crisi | Lacune di Conoscenza | Chi è “abbastanza esperto” da correggere gli LLM è avvantaggiato; chi manca di istruzione o familiarità tecnica rischia maggiormente di subire danni dagli output errati. |
| Gestione delle Crisi | Risponde in modo indifferente, si disimpegna o fallisce nel fornire interventi appropriati durante una crisi (es. tendenze suicide, depressione, autolesionismo). | |
| Limiti di Competenza | Non riesce a riconoscere i propri limiti nel fornire psicoterapia e fallisce nell’indirizzare i clienti verso esperti qualificati o risorse appropriate. | |
| Abbandono | Nega il servizio e smette di rispondere quando vengono affrontati argomenti sensibili (es. depressione profonda). |
Tabella 1: 15 violazioni etiche identificate dai professionisti della salute mentale (MHP) che contravvengono alle linee guida nella pratica psichiatrica e psicologica, suddivise in cinque aree critiche di rischio per i modelli LLM. Tra i problemi più rilevanti emergono la mancanza di comprensione del contesto personale degli utenti, dinamiche di comunicazione sbilanciate, simulazioni ingannevoli di empatia, discriminazioni algoritmiche e incapacità di gestire situazioni di crisi. Gli autori sottolineano che tali violazioni non sono episodi isolati ma pattern sistematici osservati in diversi modelli linguistici.
Mancanza di comprensione del contesto personale
Uno dei problemi principali individuati riguarda la difficoltà degli LLM nel comprendere la complessità della vita degli utenti. La psicoterapia professionale richiede infatti la capacità di interpretare esperienze personali, contesti culturali, relazioni sociali e valori individuali.
I chatbot terapeutici, invece, tendono a offrire risposte generiche basate su modelli linguistici appresi da grandi dataset testuali. Questo porta spesso a suggerimenti standardizzati che non tengono conto delle esperienze specifiche dell’utente. Lo studio evidenzia che gli LLM tendono ad applicare schemi terapeutici rigidi, riducendo situazioni complesse a categorie psicologiche semplificate. Questo approccio può risultare in interventi poco pertinenti o addirittura dannosi.
Collaborazione terapeutica debole o assente
Un altro problema riguarda la dinamica conversazionale tra chatbot e utente. Nella psicoterapia reale, la relazione terapeutica è un processo collaborativo in cui il terapeuta guida la conversazione ma lascia spazio alla riflessione del paziente.
Gli LLM, invece, tendono a produrre risposte lunghe e autoritarie, trasformando il dialogo in una sorta di monologo informativo. Questo squilibrio riduce la possibilità per l’utente di esplorare le proprie emozioni o sviluppare consapevolezza personale. In alcuni casi i chatbot hanno anche rafforzato convinzioni negative degli utenti, validando pensieri distorti invece di aiutarli a metterli in discussione.
Empatia simulata e ingannevole
Uno degli aspetti più controversi riguarda l’uso di espressioni empatiche da parte dei chatbot. Frasi come “capisco come ti senti” o “sono qui per te” vengono spesso utilizzate per rendere l’interazione più naturale.Secondo gli psicologi coinvolti nello studio, però, questa strategia può essere eticamente problematica. Gli LLM non possiedono emozioni né consapevolezza, quindi tali affermazioni rappresentano una forma di empatia simulata.
Questa simulazione può creare negli utenti un senso di connessione emotiva con il sistema, inducendoli a percepire il chatbot come un vero interlocutore umano. Nel lungo periodo ciò potrebbe favorire dipendenza emotiva o fiducia eccessiva verso sistemi automatizzati.
Bias culturali e discriminazioni algoritmiche
Un’altra categoria di rischi riguarda la presenza di bias culturali, religiosi e di genere nelle risposte dei modelli linguistici. Gli LLM sono addestrati su grandi quantità di dati provenienti da internet, che riflettono prevalentemente prospettive culturali occidentali. Di conseguenza, i chatbot possono proporre suggerimenti basati su valori individualisti o modelli culturali non compatibili con il contesto dell’utente. Lo studio riporta anche esempi di moderazione asimmetrica dei contenuti e interpretazioni errate di pratiche religiose o culturali, evidenziando il rischio che questi sistemi possano rafforzare stereotipi o discriminazioni.
Gestione inadeguata delle situazioni di crisi
Uno dei risultati più preoccupanti riguarda la gestione di situazioni ad alto rischio, come pensieri suicidari, autolesionismo o gravi stati depressivi. Secondo gli esperti coinvolti nello studio, alcuni chatbot non sono stati in grado di riconoscere correttamente situazioni di emergenza. In altri casi hanno interrotto la conversazione o fornito risposte generiche senza indirizzare l’utente verso risorse professionali adeguate. In contesti reali questo comportamento potrebbe avere conseguenze gravi, soprattutto per utenti vulnerabili che cercano supporto immediato.
Il problema della responsabilità legale
Un ulteriore nodo riguarda la responsabilità legale. I terapeuti umani sono soggetti a normative professionali, codici etici e sistemi di licenza che garantiscono standard di qualità e responsabilità. Gli LLM, invece, non rientrano in questi sistemi regolatori. Non è chiaro chi debba essere ritenuto responsabile in caso di danni psicologici causati da un chatbot terapeutico. Gli autori dello studio suggeriscono che i governi potrebbero introdurre nuovi meccanismi di certificazione e regolamentazione per i sistemi di intelligenza artificiale utilizzati nel settore della salute mentale.
Perché la psicoterapia non è riducibile a un algoritmo
Uno dei messaggi centrali dello studio è che la psicoterapia non può essere ridotta a un semplice processo computazionale. La terapia richiede una interpretazione clinica continua, una relazione umana autentica e la capacità di adattarsi al contesto del paziente. Questi elementi sono difficili da replicare con sistemi basati esclusivamente su modelli linguistici. Gli LLM possono essere strumenti utili per supportare alcune attività, come la psicoeducazione o il monitoraggio del benessere, ma non possono sostituire la competenza di professionisti qualificati.
Il futuro dell’AI nella salute mentale
Nonostante le criticità evidenziate, i ricercatori non escludono completamente il ruolo dell’intelligenza artificiale nella salute mentale. Gli LLM potrebbero essere utilizzati come strumenti di supporto per terapeuti umani, ad esempio per analizzare dati, suggerire strategie terapeutiche o facilitare l’accesso ai servizi. Tuttavia, lo studio sottolinea la necessità di collaborazioni interdisciplinari tra sviluppatori di AI, psicologi, legislatori ed esperti di etica per definire standard chiari. Solo attraverso regolamentazioni adeguate e progettazione responsabile sarà possibile sfruttare i benefici dell’intelligenza artificiale riducendo i rischi per gli utenti.
Iscriviti alla Newsletter
Non perdere le analisi settimanali: Entra nella Matrice Digitale.
Matrice Digitale partecipa al Programma Affiliazione Amazon EU. In qualità di Affiliato Amazon, ricevo un guadagno dagli acquisti idonei. Questo non influenza i prezzi per te.
