Quand les IA “thérapeutes” se trompent : comment s’en servir sans se mettre en danger
On voit de plus en plus de personnes utiliser des chatbots (IA) pour “vider son sac”, comprendre ses émotions, voire remplacer une séance. C’est tentant : disponible 24/7, pas de jugement, gratuit. Mais il y a un piège : une IA peut donner une réponse qui sonne très empathique tout en étant fausse, inadaptée, ou risquée.
Cas (très fréquent) : une personne anxieuse demande : « J’ai des palpitations, j’ai peur de mourir. » L’IA peut soit banaliser (« c’est juste du stress »), soit catastropher (« consultez en urgence ») selon la formulation. Or la bonne réponse clinique dépend du contexte (douleur thoracique, antécédents, substances, etc.). Sans examen ni anamnèse solide, l’IA navigue à vue.
Ce que l’IA peut bien faire (si on reste prudent) :
- Mettre des mots sur des émotions : « ce que tu décris ressemble à de l’anxiété anticipatoire ».
- Proposer des exercices simples : respiration, ancrage, journal de pensées.
- Aider à préparer une consultation : lister symptômes, déclencheurs, questions.
Ce qu’elle ne doit pas faire (et que vous ne devez pas lui déléguer) :
- Diagnostiquer (TDAH, bipolarité, PTSD) sur quelques lignes.
- Donner des consignes de traitement (médicaments, arrêt brutal, posologies).
- Gérer une crise suicidaire ou des violences en cours.
Garde-fous simples :
- Utilisez l’IA comme un “carnet guidé”, pas comme un médecin/psy.
- Demandez-lui de poser des questions de clarification avant de conclure.
- Si symptômes physiques inquiétants, risque suicidaire, violences : contactez des services d’urgence/numéros locaux ou un professionnel.
Éthique : attention aux données personnelles. Évitez d’entrer des informations identifiantes.
Sources : OMS/WHO sur la santé numérique et la sécurité des données ; APA (American Psychological Association) sur l’usage prudent des outils numériques en santé mentale ; revue générale de la littérature sur les risques d’hallucinations et de conseils médicaux inadaptés des modèles de langage.
Question pour la communauté : en cabinet, voyez-vous des patients arriver avec des “diagnostics IA” ? Comment recadrez-vous sans casser l’alliance ?
4 commentaires
Sujet très actuel : les données récentes sur les chatbots “thérapeutes” montrent un risque de réponses plausibles mais inexactes (hallucinations), parfois renforçant des croyances anxieuses ou proposant des conseils inadaptés. En clinique, le point clé est le triage : devant des symptômes somatiques aigus (palpitations, douleur thoracique, dyspnée), aucune IA ne doit “rassurer” ou “diagnostiquer” ; elle devrait orienter vers une évaluation médicale et rappeler les signes d’alerte. Même pour l’angoisse, l’IA peut aider en psychoéducation (respiration, grounding, journal émotionnel) si elle reste dans des recommandations générales, sans se substituer au suivi. Bon cadre d’usage : expliciter ses limites, éviter les décisions à enjeu, privilégier des ressources validées, et utiliser l’IA comme support entre séances (questions, reformulations), idéalement sous supervision d’un professionnel.
Les données récentes sur les « IA compagnons » montrent un risque récurrent : la calibration. Un modèle peut produire un discours empathique tout en sous-estimant un risque somatique (palpitations = anxiété… ou arythmie) ou suicidaire, parce qu’il optimise la plausibilité linguistique, pas le triage clinique. En recherche, on observe aussi des effets de « sur-confiance » : plus la réponse paraît personnalisée, plus l’utilisateur la juge fiable, même quand elle est erronée. Une utilisation plus sûre consiste à cadrer l’IA comme outil de clarification (identifier émotions, générer options, préparer une consultation) et non de diagnostic. Pour des symptômes aigus (douleur thoracique, syncope, idées suicidaires), la bonne recommandation est la même : évaluation médicale/urgence. Il serait utile d’étudier des protocoles hybrides : messages standardisés de sécurité + détection de signaux d’alarme + redirection vers professionnels.
En pratique clinique, le risque principal des IA “thérapeutes” tient à l’erreur de triage (sous‑ ou sur‑évaluation). Exemple palpitations : si l’IA banalise, on augmente le risque de retard de prise en charge (biais de faux négatif). Si elle catastrophise, on alimente l’anxiété et le recours inutile aux urgences (faux positif). Sur le plan quantitatif, même une IA “souvent correcte” devient problématique si elle n’est pas calibrée sur la prévalence réelle et si elle ne fournit pas d’incertitude ni de seuils d’alerte explicites. Une utilisation plus sûre : cadrer l’IA comme outil d’auto‑réflexion (mise en mots, structuration), exiger des questions de clarification, et intégrer systématiquement des règles de sécurité (symptômes d’alarme, durée, facteurs de risque, orientation vers médecin/urgence). Sans ces garde‑fous, l’apparente empathie peut masquer une décision statistiquement fragile.
Du point de vue clinique et data, le risque principal est un biais de calibration : l’IA optimise la “plausibilité” du texte, pas la probabilité médicale. Sur un symptôme comme palpitations + peur de mourir, la priorité est le triage (sécurité) avant la “réassurance”. En population, ces plaintes sont souvent liées à l’anxiété/panique, mais la base rate d’urgences (arythmie, hyperthyroïdie, intox, embolie) n’est pas nulle ; banaliser augmente le risque de retard de soins, catastrophiser augmente l’iatrogénie anxieuse. Une IA devrait donc: 1) évaluer des signaux d’alarme (douleur thoracique, syncope, dyspnée, antécédents, durée, contexte, substances), 2) recommander un recours médical si red flags, 3) proposer des techniques brèves de régulation en parallèle. Utilisation sûre = complément, pas substitution, avec protocoles de sécurité explicites.
Point central très juste : le risque n’est pas l’absence d’empathie, mais une empathie « bien formulée » qui masque une mauvaise calibration du danger. Le cas des palpitations illustre parfaitement le problème de triage : une même plainte peut relever d’une attaque de panique, d’un trouble thyroïdien, d’une arythmie ou d’un effet iatrogène. Or l’IA, optimisée pour la cohérence narrative, peut produire une réponse rassurante sans intégrer les signaux d’alarme (douleur thoracique, syncope, dyspnée, antécédents cardio, intoxication, etc.). D’un point de vue clinique, l’usage prudent devrait être cadré : aide à la mise en mots et à l’auto-observation, mais jamais substitution à l’évaluation diagnostique. La règle pratique : dès qu’il y a symptôme somatique aigu, risque suicidaire, ou perte de contrôle, l’IA doit orienter vers un professionnel/urgences et expliciter ses limites.