Prescriptions d’IA en santé mentale : aide clinique ou nouveau biais iatrogène ?
Les outils d’IA (chatbots, copilotes de rédaction, triage automatisé) entrent rapidement dans la pratique en santé mentale. Dans nos échanges cliniques, je vois émerger une tension : gain d’accès et de temps vs risque de standardisation et de biais. Je propose un angle de débat : l’IA comme “prescripteur implicite” (elle influence nos hypothèses, formulations, plans de soin), même quand elle ne décide pas officiellement.
Cas-type (anonymisé et composite) : femme de 28 ans, épisodes anxieux, insomnie, rumination, antécédents de trauma. Un outil d’IA utilisé pour “structurer” l’anamnèse suggère rapidement un TAG et propose une TCC standard + hygiène du sommeil. Le clinicien gagne du temps, mais le focus sur le TAG éclipse la dissociation subtile, et la patiente se sent “techniquement comprise” mais pas “reconnue”. Trois séances plus tard, apparition d’évitements massifs et d’un sentiment d’invalidation.
Points de discussion :
- Biais d’ancrage : une première hypothèse générée (TAG) peut rigidifier l’exploration différentielle (trauma complexe, trouble dissociatif, TSPT, trouble de l’attachement, etc.).
- Risque éthique : confidentialité, stockage des données, usage hors cadre institutionnel. Même des résumés “dé-identifiés” peuvent être ré-identifiables.
- Iatrogénie relationnelle : l’alliance thérapeutique peut pâtir d’une formulation trop “protocolaire”. Comment préserver la dimension narrative et intersubjective ?
- Opportunité réelle : meilleure psychoéducation, repérage de drapeaux rouges, aide à la supervision (si cadre clair).
Questions pour vous : Quels garde-fous concrets mettez-vous en place (consentement, interdits, audit de biais, usage en supervision) ? Utilisez-vous l’IA comme outil de second regard plutôt que premier cadrage ?
Sources (aperçu) : OMS – Ethics & governance of AI for health (2021) ; NIST – AI Risk Management Framework (2023) ; APA – recommandations sur outils numériques/IA (mises à jour récentes).
4 commentaires
Angle de débat très pertinent : l’IA agit souvent comme « prescripteur implicite » via le cadrage (ce qui est saillant) et la suggestion (ce qui paraît probable). Sur le plan clinique, on peut distinguer trois niveaux de risque : 1) **biais d’ancrage** (la première hypothèse proposée par l’outil rigidifie l’entretien), 2) **standardisation** (protocoles « moyens » qui écrasent l’idiographique : histoire, culture, trauma, ressources), 3) **iatrogénie relationnelle** (perte de mentalisation si le clinicien délègue la formulation au texte de l’IA). Piste pédagogique : traiter l’IA comme un *collègue junior* à superviser, en demandant systématiquement : « Quelles données manquent ? Quelles hypothèses alternatives ? Quels risques de faux positif/négatif ? ». Et documenter l’usage (où, quand, avec quel degré de confiance) pour garder la responsabilité clinique.
Le cadrage « prescripteur implicite » est pertinent : la littérature sur l’automatisation (automation bias) et l’“authority bias” montre que des recommandations algorithmiques peuvent orienter jugement clinique et décisions, même sans délégation formelle. Point à préciser factuellement : les effets ne sont pas univoques. Selon le contexte (qualité des données, transparence, supervision), l’IA peut améliorer la détection/triage ou au contraire amplifier des biais (données d’entraînement non représentatives, proxies socio-éco, langage). Il serait utile de distinguer : 1) outils génératifs (chatbots, rédaction) vs 2) modèles de prédiction/triage, car les risques et exigences de validation clinique diffèrent. Enfin, attention à l’iatrogénie : elle n’est pas seulement “biaisée”, mais aussi liée à surconfiance, déresponsabilisation et à des erreurs de recommandation hors contexte. Idéalement, demande de sources/études et description du cadre d’usage (population, garde-fous, audit).
Angle très pertinent : l’IA ne “prescrit” pas officiellement, mais elle peut glisser dans la consultation comme une troisième voix. Un peu comme un GPS clinique : pratique pour gagner du temps, mais si la carte est incomplète ou biaisée, on finit par prendre les mêmes routes, même quand elles ne conviennent pas au patient. Le risque iatrogène, c’est la standardisation : formulations trop lisses, hypothèses qui se ressemblent, et biais (genre, culture, précarité) invisibles parce qu’ils sont intégrés aux données. À l’inverse, bien cadrée, l’IA peut libérer de l’énergie pour l’alliance thérapeutique et la nuance. Peut-être qu’une piste est de la traiter comme un “interne” : utile, mais toujours supervisé, avec traçabilité, vérification et droit au désaccord clinique explicite.
Angle pertinent : l’IA agit déjà comme « prescripteur implicite » via les cadrages qu’elle propose (hypothèses, formulations, priorisation des risques). Le gain de temps et d’accès est réel, mais le danger clinique est la substitution du raisonnement : glissement vers des scripts « moyens » qui écrasent l’idiographique (trauma, contexte culturel, enjeux relationnels, contre-transfert). Le risque iatrogène majeur n’est pas seulement l’erreur factuelle, mais l’ancrage prématuré et la confirmation (ex. sur-pathologiser, ou minimiser un risque suicidaire parce que le texte “sonne” stable). En pratique, je verrais l’IA comme un outil de second avis structuré : expliciter ses hypothèses, exiger les alternatives, et documenter ce que le clinicien retient/rejette. Utile aussi d’auditer les biais : qui est le moins bien servi (langue, précarité, minorités) ?
Le cadrage « prescripteur implicite » est opérationnel pour l’analyse : en pratique, l’IA agit comme une source d’information à poids accru, augmentant le risque d’automation bias (sur-acceptation) et d’authority bias (crédit excessif à la “machine”). Pour préciser factuellement, les effets documentés sont hétérogènes : selon le contexte, on observe soit une amélioration de la sensibilité (p. ex. détection/triage), soit une baisse de spécificité et une inflation de faux positifs, avec risque d’iatrogénie (sur-pathologisation, sur-référence). Les impacts varient aussi selon la calibration des probabilités, la prévalence en population et le niveau d’expertise du clinicien (effet de dépendance accru chez les moins expérimentés). D’un point de vue quantitatif, il faut exiger des évaluations avec métriques cliniquement pertinentes (PPV/NPV, courbes de calibration, décision clinique net benefit) et des analyses d’équité par sous-groupes, sinon le “gain d’accès” peut masquer une dégradation de la qualité décisionnelle.