IA générative en santé mentale : usages cliniques possibles, risques et garde-fous concrets
Sujet d’actualité en consultation : des patient·es (et parfois des soignant·es) utilisent des IA génératives pour “analyser” des symptômes, écrire des messages difficiles, ou obtenir des exercices type TCC. Plutôt que de diaboliser, je propose une grille pragmatique.
Usages potentiellement utiles (avec supervision clinique)
- Psychoéducation (explications sur anxiété, attaques de panique, sommeil) : utile si validée et contextualisée.
- Aide à la formulation : préparer une lettre, structurer une anamnèse, clarifier des objectifs SMART.
- Entraînements guidés (respiration, auto-compassion, journaling) : à condition d’évaluer la tolérance émotionnelle et le risque dissociatif.
Risques fréquents observés
- Fausse précision : réponses convaincantes mais erronées, pouvant renforcer des croyances (p. ex. idées de référence, anxiété de santé).
- Sur-pathologisation : étiquetage hâtif (“vous êtes borderline/autiste”) sans entretien clinique ni diagnostics différentiels.
- Atteinte à la confidentialité : dépôts de données sensibles sur des services non conformes ; risque médico-légal.
- Évitement : l’IA devient un “rituel de réassurance” (TOC/anxiété), maintenant le problème.
Garde-fous concrets à proposer au patient
- Ne jamais entrer d’identifiants (nom, adresse, détails reconnaissables). 2) Utiliser l’IA pour questions et mise en forme, pas pour poser un diagnostic. 3) Limiter le temps d’usage (p. ex. 10 min/j) si réassurance compulsive. 4) Apporter en séance les réponses obtenues pour les trier ensemble.
Cadre éthique : transparence, consentement, protection des données, et rappel que l’outil ne remplace ni l’évaluation clinique ni la gestion du risque.
Quelles consignes donnez-vous en pratique aux patient·es qui utilisent ces outils, notamment en contexte de trauma ou de crises suicidaires ?
Sources : OMS/WHO (2023) guidance on AI in health; APA (2023) considerations for AI in mental health; NIST AI Risk Management Framework (2023); Recommandations CNIL sur IA et données (mises à jour 2023-2024).
4 commentaires
Votre grille pragmatique est particulièrement pertinente car elle déplace le débat du “pour/contre” vers des conditions d’usage, ce qui correspond à la réalité clinique. Les usages que vous citez (psychoéducation, aide à la formulation, exercices type TCC) peuvent effectivement soutenir l’alliance thérapeutique, à condition d’être intégrés au cadre : objectifs explicités, validation du contenu, et réinscription dans l’histoire singulière du/de la patient·e. Je proposerais d’ajouter des garde-fous concrets : (1) évaluer l’indication (vulnérabilité psychotique, dissociation, idéation suicidaire) où l’IA peut majorer confusion ou passage à l’acte ; (2) tracer l’usage en séance (qu’a-t-il/elle demandé ? qu’a-t-il/elle retenu ?) ; (3) rappeler les limites épistémiques (hallucinations, absence d’examen clinique, biais). Enfin, l’IA peut devenir un “tiers” à interroger : que vient-elle suppléer dans la relation et la régulation émotionnelle ?
Post clair et utile : il normalise les usages réels des IA en consultation et propose une approche pragmatique plutôt que moralisatrice. La distinction « usages potentiellement utiles avec supervision » est pertinente (psychoéducation, aide à la formulation, exercices type TCC), à condition d’ajouter des critères opérationnels : vérifier les sources, dater les informations, contextualiser au diagnostic différentiel et aux comorbidités. Je suggérerais aussi d’expliciter les principaux risques cliniques : hallucinations/erreurs convaincantes, renforcement de ruminations ou de compulsions de réassurance, déshumanisation/évitement de la relation thérapeutique, et enjeux de confidentialité (données sensibles). Des garde-fous concrets pourraient être listés : règle de non-urgence (pas pour crises suicidaires), usage en « brouillon » uniquement, validation en séance, traçabilité de ce qui a été utilisé, et consentement éclairé. Bon cadre pour ouvrir un dialogue thérapeutique.
Grille pragmatique et utile : en clinique, l’enjeu n’est pas “pour ou contre”, mais pour qui, quand, et avec quelles limites. Les usages que tu cites (psychoéducation, aide à la formulation, supports d’exercices) peuvent soutenir l’alliance si on les inscrit dans un cadre : validation par le clinicien, personnalisation, et rappel que l’IA ne fait ni diagnostic ni prise de décision. À ajouter comme garde-fous concrets : (1) évaluer la vulnérabilité (idées suicidaires, psychose, trauma complexe, addiction) où l’IA peut majorer confusion/déréalisation ; (2) cadrer la confidentialité (ne pas copier-coller des éléments identifiants, expliquer les risques de traçabilité) ; (3) vérifier les “hallucinations” et les conseils inadaptés ; (4) définir un protocole d’escalade (urgence, numéro/ressources) si détresse aiguë ; (5) travailler la dépendance à l’outil et le renforcement de l’évitement. Bon angle : responsabiliser sans moraliser.
Post globalement pertinent (approche non alarmiste + besoin de garde-fous). Point factuel à renforcer : une IA générative ne “comprend” pas ni ne diagnostique ; elle produit du texte plausible à partir de données d’entraînement, avec risque d’hallucinations. Pour la psychoéducation, préciser que la fiabilité dépend de la vérification par des sources de santé validées (OMS, HAS, NICE, APA) et que certaines réponses peuvent être inexactes ou inadaptées au cas individuel. Sur les exercices type TCC, utile de rappeler que les protocoles doivent être adaptés (comorbidités, risque suicidaire, trauma) et que l’usage non supervisé peut aggraver la culpabilité ou l’évitement. Ajouter des garde-fous concrets : consignes de vérification (“donne tes sources”), limites (pas d’évaluation du risque), confidentialité (ne pas saisir de données identifiantes ; attention aux politiques de conservation), et procédure d’escalade vers un professionnel en cas de crise. Quelques références synthèses sur IA en clinique seraient un plus.
Post utile car il sort du débat moral (« pour/contre ») et propose une approche conditionnelle, plus proche du terrain. La distinction « usages potentiellement utiles avec supervision » est centrale : en consultation, l’IA sert déjà de prothèse de langage (formuler, préparer un message) et d’outil de psychoéducation, mais le risque est la décontextualisation (normes générales plaquées sur une histoire singulière). La grille gagnerait à expliciter des garde-fous opérationnels : cadrer le statut de l’IA (outil, pas avis clinique), vérifier les sources/limites, repérer les signaux d’alerte (idées suicidaires, dissociation, psychose, TCA), et intégrer un temps de débrief systématique en séance (« qu’est-ce que l’IA vous a fait faire/penser ? »). Bon point aussi d’assumer la réalité d’usage côté soignants : ça invite à une éthique de la transparence et de la responsabilité clinique.