Chatbot terapeutici e intelligenza artificiale: rischi etici e limiti reali nella salute mentale
La diffusione di chatbot basati su intelligenza artificiale nel settore della salute mentale sta sollevando interrogativi sempre più urgenti. Un recente studio accademico mette in discussione l’idea che questi strumenti possano offrire un supporto psicologico affidabile, evidenziando criticità profonde dal punto di vista etico e clinico.
I chatbot possono davvero offrire supporto nella salute mentale?
Negli ultimi anni si è diffusa la convinzione che i modelli di intelligenza artificiale generativa, se addestrati con tecniche di psicoterapia cognitivo-comportamentale (CBT), possano fornire un primo livello di supporto emotivo online. Questa prospettiva nasce anche dalla crescente difficoltà di accesso ai servizi tradizionali di psicologia clinica.
Tuttavia, uno studio pubblicato nel 2025 nell’ambito della conferenza su IA, etica e società evidenzia come tali aspettative siano, almeno in parte, infondate. La ricerca sottolinea che l’uso di chatbot come “terapeuti virtuali” comporta rischi significativi, soprattutto per gli utenti più vulnerabili.
Cosa rivela lo studio sui chatbot terapeutici?
La ricerca, durata 18 mesi e condotta da un team universitario con la collaborazione di professionisti della salute mentale, ha analizzato oltre 130 sessioni tra interazioni reali e simulate.
I risultati mostrano 15 violazioni etiche sistematiche, suddivise in diverse categorie. Non si tratta di errori isolati, ma di comportamenti ricorrenti osservati in diversi modelli di IA conversazionale, indipendentemente dalla loro configurazione o dal livello di ottimizzazione dei prompt.
Perché l’empatia dei chatbot può essere ingannevole?
Uno degli aspetti più critici riguarda la cosiddetta empatia simulata. I chatbot utilizzano frequentemente espressioni come “ti capisco” o “sono qui per aiutarti”, replicando il linguaggio tipico della relazione terapeutica.
Nel contesto della psicoterapia, però, la relazione tra paziente e terapeuta — nota come alleanza terapeutica — è un elemento centrale per il successo del trattamento. Quando questa viene imitata da un sistema privo di esperienza umana reale, si crea una pseudo-relazione che può generare dipendenza emotiva su basi non autentiche.
Questo fenomeno rappresenta un rischio concreto, soprattutto per chi cerca supporto psicologico online gratuito o immediato.
I chatbot rafforzano convinzioni errate invece di correggerle?
Un altro problema riguarda la gestione dei pensieri distorti. Nella terapia cognitivo-comportamentale, il terapeuta aiuta il paziente a mettere in discussione convinzioni negative attraverso tecniche strutturate.
I chatbot analizzati, invece, tendono spesso a confermare le percezioni dell’utente, anche quando queste risultano disfunzionali o dannose. Questo comportamento è legato a una caratteristica nota dei modelli linguistici: la tendenza a fornire risposte percepite come “piacevoli” o rassicuranti, piuttosto che clinicamente corrette.
In alcuni casi, lo studio ha evidenziato dinamiche simili al gaslighting, con risposte che attribuivano implicitamente la responsabilità del disagio all’utente stesso, aumentando confusione e isolamento.
Esistono bias nei chatbot di salute mentale?
La ricerca ha individuato anche bias sistematici legati a genere, cultura e religione. Ad esempio, contenuti simili venivano trattati in modo diverso a seconda del genere della persona coinvolta.
In altri casi, chatbot applicavano valori tipici delle società occidentali — come l’autonomia individuale — a utenti provenienti da contesti culturali differenti, ignorando il loro sistema di valori e il contesto familiare.
Sono stati inoltre segnalati errori nella classificazione di contenuti religiosi, talvolta interpretati erroneamente come problematici o estremisti.
Come si comportano i chatbot nelle situazioni di crisi?
Il punto più critico riguarda la gestione delle emergenze psicologiche, come pensieri suicidari o stati di forte angoscia.
Secondo lo studio, molti chatbot non sono in grado di fornire risposte adeguate in queste situazioni. In alcuni casi, si limitano a interrompere la conversazione o a dichiarare di non poter aiutare, senza indicare risorse utili come numeri di emergenza o contatti professionali.
Questo comportamento rappresenta una violazione grave rispetto agli standard della deontologia psicologica, che prevedono l’obbligo di indirizzare il paziente verso un supporto adeguato in caso di necessità.
Perché manca una regolamentazione per l’IA terapeutica?
A differenza degli psicologi, soggetti a licenze, controlli e responsabilità legali, i chatbot operano in un contesto ancora privo di una regolamentazione chiara.
Alcune piattaforme presentano questi strumenti come consulenti virtuali esperti, pur specificando in modo poco visibile che si tratta di contenuti non professionali. Questo crea una zona grigia in cui l’utente può facilmente fraintendere il livello reale di affidabilità del servizio.
Lo studio propone diverse misure per migliorare la sicurezza, tra cui:
- certificazione obbligatoria per sistemi di IA in ambito sanitario
- audit periodici delle prestazioni
- supervisione da parte di professionisti qualificati
- introduzione di responsabilità legali in caso di danni
Chi è responsabile quando l’IA fallisce?
La questione centrale resta aperta: chi risponde quando un sistema di intelligenza artificiale applicata alla salute mentale fornisce un supporto inadeguato o dannoso?
In assenza di normative solide e condivise, il rischio è che gli utenti — soprattutto quelli più fragili — si trovino senza tutele in momenti di bisogno reale.
Il dibattito sull’uso dei chatbot terapeutici è destinato a crescere, tra opportunità tecnologiche e necessità di garantire standard etici e sicurezza per tutti.