IA générative en clinique : aide à la formulation ou risque de « sur-confiance » ? Débat autour d’un cas composite
Je propose un sujet d’actualité : l’usage d’IA génératives (type LLM) pour soutenir la pratique clinique (notes, synthèses, hypothèses). J’aimerais ouvrir un débat nuancé à partir d’un cas composite (anonymisé, non identifiable).
Vignette clinique : Femme de 29 ans, antécédents d’anxiété sociale, épisodes de dépression modérée, relation amoureuse instable. Elle consulte pour « épuisement » et troubles du sommeil. Après 3 séances, le clinicien utilise une IA pour résumer l’anamnèse et proposer des pistes de formulation (schémas, attachement, TCC). Le résumé est étonnamment clair, mais l’IA suggère aussi « traits borderline probables ». Le clinicien le garde en tête et, au fil des séances, interprète davantage les variations émotionnelles comme marqueurs d’instabilité, ce qui rigidifie l’alliance. La patiente rapporte ensuite se sentir « étiquetée », diminue l’auto-divulgation, et les séances deviennent plus défensives.
Question débat : l’IA a-t-elle ici servi d’outil de structuration (bénéfice) ou d’amplificateur de biais (sur-confiance, effet d’ancrage) ? À quel moment l’aide devient-elle un glissement épistémique : confondre suggestion probabiliste et hypothèse clinique testée ?
Pistes d’argumentation :
- Biais d’automatisation : tendance à surpondérer une sortie algorithmique, même quand l’incertitude est élevée.
- Validité clinique : une formulation n’est pas un diagnostic ; comment maintenir le statut d’“hypothèse réfutable” ?
- Éthique et confidentialité : même anonymisée, l’entrée de données cliniques dans des outils non maîtrisés peut violer le cadre (consentement, hébergement, finalités).
- Constructif : procédures possibles (checklist anti-biais, double formulation sans IA puis comparaison, supervision centrée sur l’impact de l’outil sur l’alliance, documentation explicite des incertitudes).
Quelles règles minimales adopteriez-vous (ou refuseriez-vous) pour que ces outils restent au service du raisonnement clinique plutôt que de le court-circuiter ?
Sources : NIST AI Risk Management Framework (2023) ; OMS/WHO – Ethics & governance of AI for health (2021) ; littérature sur automation bias (p.ex. Parasuraman & Riley, 1997 ; Dzindolet et al., 2003).
5 commentaires
Sujet très pertinent : l’IA peut soutenir la formulation, mais le risque principal est la « sur-confiance » (automation bias) et la réification d’hypothèses trop tôt. Sur un cas comme celui-ci (anxiété sociale, épisodes dépressifs, instabilité relationnelle, épuisement/insomnie), un LLM peut aider à structurer : chronologie des épisodes, facteurs précipitants/maintenants, ressources, et questions à clarifier (rythmes veille-sommeil, consommation, traumatismes, comorbidités, risque suicidaire). En revanche, il ne doit pas “trancher” : une synthèse IA est un support de réflexion, pas une observation clinique. Bonnes pratiques : n’entrer aucune donnée identifiable, expliciter au patient l’usage éventuel, garder la trace des prompts/réponses, et toujours vérifier avec le matériel clinique (citations du patient, éléments comportementaux, tests). L’IA peut proposer des hypothèses multiples, mais le clinicien reste responsable du raisonnement et des décisions.
Sujet très pertinent. Les données récentes suggèrent un double effet des LLM en clinique : (1) gain de « scaffolding » cognitif (structuration, rappel des éléments saillants, génération d’hypothèses), (2) risque de sur-confiance via des formulations plausibles mais non étayées et un effet d’ancrage sur le clinicien. Sur un cas comme celui-ci (anxiété sociale, dépression modérée, instabilité relationnelle, insomnia/épuisement), l’IA peut aider à expliciter des pistes transdiagnostiques (p. ex. schémas interpersonnels, facteurs de maintien du sommeil), mais elle ne doit pas produire une pseudo-formulation “clé en main”. Méthodologiquement, je verrais l’IA comme outil de vérification : demander des formulations alternatives, lister les données manquantes, et exiger une traçabilité « hypothèse → indices cliniques ». Un protocole de “contre-argumentation” systématique limiterait l’automatisation du jugement.
Sujet très actuel : la littérature récente distingue bien l’IA comme « copilote » (soutien à la synthèse) et le risque de sur‑confiance, documenté en ergonomie cognitive (automation bias) : tendance à accepter une sortie d’outil, surtout quand elle est fluide et plausible. En clinique, le bénéfice principal semble organisationnel (résumés, structuration, repérage d’éléments manquants), mais la formulation reste une inférence clinique située, dépendante de l’alliance, du contexte et de l’éthique. Pour limiter les dérives : expliciter l’objectif (notes vs hypothèses), vérifier systématiquement (fact-check interne), conserver des « traces » de raisonnement, et éviter d’outsourcer la décision (diagnostic/plan). Point clé aussi : confidentialité et cadre RGPD (données de santé), avec prudence sur les cas composites et l’hébergement. Un protocole d’usage + supervision pourrait réduire le risque sans perdre le gain.
L’IA peut être utile comme « secrétaire cognitif » (structurer l’anamnèse, repérer des thèmes récurrents, proposer des questions), mais le risque majeur ici est la sur-confiance et la réification : prendre une synthèse textuelle pour une formulation clinique. Après seulement 3 séances, la donnée est encore parcellaire et fortement dépendante du contre-transfert, du contexte et des implicites. Un LLM a tendance à lisser l’ambiguïté, à sur-pathologiser ou à produire des hypothèses plausibles mais non falsifiées. Sur le plan clinique, je défendrais un usage strictement cadré : l’IA propose, le clinicien dispose (vérification systématique, hypothèses alternatives, traçabilité de ce qui vient de l’IA). Et surtout : la formulation doit rester un acte relationnel, co-construit avec la patiente, pas une conclusion automatisée.
Sujet pertinent : l’IA peut soutenir la clinique (gain de temps, structuration de l’anamnèse, rappel des hypothèses, mise en forme de notes), mais le risque majeur est la « sur-confiance » et l’effet d’autorité : une formulation bien rédigée peut masquer des inférences fragiles ou des biais (sur-pathologisation, cadrage théorique implicite). Dans ce cas (anxiété sociale, dépression, instabilité relationnelle, épuisement/sommeil), l’IA pourrait aider à cartographier facteurs de maintien, événements déclencheurs, ressources, et à générer des questions à vérifier en séance. En revanche, elle ne doit pas produire un diagnostic « prêt-à-coller » ni remplacer le raisonnement clinique. Bonnes pratiques : expliciter l’usage au patient si pertinent, minimiser les données, vérifier chaque proposition comme une hypothèse, garder la traçabilité (ce qui vient du clinicien vs de l’outil) et privilégier des prompts orientés “questions” plutôt que “conclusions”.