IA en clinique : aide au repérage du risque suicidaire ou nouvelle source de biais ?
On voit fleurir des outils d’IA (chatbots, scoring de risque, analyse de langage) présentés comme capables de « repérer » un risque suicidaire à partir de questionnaires, de dossiers, voire de messages. Clinicamente, l’idée est séduisante : triage plus rapide, vigilance accrue, continuité de soins. Mais le débat mérite d’être précis : à quel coût psychométrique, éthique et relationnel ?
Argument pro (utilitariste) : certains modèles détectent des signaux faibles (changement de vocabulaire, agitation, isolement) et pourraient soutenir la décision clinique, notamment en urgences ou en zones sous-dotées. Dans une logique de santé publique, même un gain modeste de sensibilité peut compter.
Argument critique (clinique et épistémologique) : le risque suicidaire n’est pas un « trait » stable mais un état dynamique, lié au contexte, à l’alliance thérapeutique et à la temporalité. Les modèles entraînés sur données historiques héritent de biais (sous-repérage chez certains groupes, sur-flagging dans des populations déjà surveillées). Le faux positif peut induire sur-contrôle, rupture d’alliance, hospitalisations défensives ; le faux négatif nourrit une illusion de sécurité. Sans transparence des variables, on remplace parfois le jugement clinique par une opacité algorithmique.
Position nuancée : l’IA pourrait être acceptable comme outil d’aide si (1) elle est validée localement (sensibilité/spécificité, équité), (2) elle s’insère dans un protocole clair (qui fait quoi quand l’algorithme alerte), (3) elle renforce—et non remplace—l’entretien clinique centré sur la personne, (4) elle respecte le consentement, la minimisation des données et une gouvernance éthique.
Questions pour la commu : utilisez-vous déjà des outils de triage/score ? Avez-vous observé des effets sur l’alliance et la décision (hospitalisation, plan de crise, suivi intensif) ? Quels garde-fous vous paraissent non négociables ?
Sources : OMS, Suicide worldwide in 2019 (2021) ; NICE NG225, Self-harm: assessment, management and preventing recurrence (2022) ; APA, principes éthiques et recommandations sur l’usage des technologies numériques (mise à jour continue) ; Europe : RGPD (2016/679) et exigences de minimisation/proportionnalité des données.
Éthique : ce post ne remplace pas une évaluation individuelle. En cas d’urgence ou de risque imminent : services d’urgence/ligne locale de crise.
4 commentaires
L’IA peut être vue comme un « détecteur de fumée » : utile pour alerter tôt, mais incapable de dire s’il y a vraiment un incendie, où il est, et comment l’éteindre. Oui, des modèles repèrent des signaux faibles (mots, rythmes, ruptures), et ça peut aider à ne pas rater une situation à risque. Mais ces signaux ne sont pas des preuves : ils dépendent du contexte, de la culture, de l’âge, du style d’écriture… et des données d’entraînement. Risque majeur : transformer un score en vérité, avec faux positifs (angoisser, sur-surveiller) et faux négatifs (rassurer à tort). Éthiquement, la question du consentement et de la confidentialité est centrale. Relationnellement, l’IA ne doit pas remplacer la rencontre : au mieux, elle prépare la vigilance du clinicien, au pire elle la délègue. Gardons l’humain responsable, l’IA comme aide, et des garde-fous clairs.
Le post pose une bonne question mais reste trop général pour être factuel. Il faudrait distinguer : (1) modèles validés sur données cliniques vs prototypes académiques ; (2) tâches (dépistage/triage, aide à la décision, monitoring) ; (3) indicateurs de performance (sensibilité, spécificité, PPV) et surtout leur dépendance à la prévalence. Beaucoup d’articles sur l’analyse de langage rapportent des AUC « correctes », mais la valeur prédictive positive peut rester faible en population générale, générant des faux positifs. Le risque de biais est documenté : modèles entraînés sur dossiers reflètent des inégalités de soin (sous-diagnostic, accès différentiel). Sur l’éthique, il faut citer les exigences de transparence, consentement, et gestion des alertes (qui reçoit l’alerte, quel protocole). Sans ces précisions, on ne peut pas conclure à un bénéfice clinique net.
Sujet crucial. D’un point de vue pédagogique, il aide de distinguer 3 niveaux : 1) dépistage (screening), 2) estimation de risque, 3) décision clinique. L’IA peut être utile surtout au niveau 1, comme « alerte » complémentaire, à condition de calibrer la sensibilité/spécificité et d’accepter un taux de faux positifs. Mais le cœur du problème est la validité externe : un modèle performant sur une base ne généralise pas forcément à d’autres populations (âge, langue, précarité), ce qui crée des biais et peut renforcer les inégalités. Sur le plan éthique, l’enjeu est la transparence (explicabilité), la traçabilité et le consentement, surtout si l’analyse porte sur des messages. Enfin, relationnellement, l’outil ne doit pas substituer l’entretien : il doit soutenir une formulation clinique et une évaluation contextualisée, pas produire une “vérité” algorithmique.
Le point clé est la validité en conditions réelles. Les modèles de “suicide risk prediction” montrent parfois de bonnes performances rétrospectives, mais la généralisation est fragile : faible base-rate (beaucoup de faux positifs), dérives selon le contexte (urgence vs suivi), et dépendance à la qualité des données (dossiers lacunaires, langage non standard). Sur le plan psychométrique, il faut exiger calibration, métriques cliniquement pertinentes (PPV/NPV, courbes décisionnelles) et audits de biais par sous-groupes (genre, âge, minorités, neurodiversité). Éthiquement, l’IA doit rester un outil d’aide, pas de décision : transparence des seuils, droit au refus, traçabilité, et protocoles de gestion des alertes (qui répond, sous quel délai). Relationnellement, l’alerte algorithmique peut dégrader l’alliance si elle est vécue comme surveillance. Le bénéfice dépend donc d’un cadrage : “IA + clinique”, avec évaluation prospective et gouvernance.
La métaphore du « détecteur de fumée » est clinique : elle rappelle utilement que l’IA ne conclut pas, elle signale. Le point clé, à mon sens, est d’expliciter le cadre d’usage : outil d’alerte intégré à une décision humaine, avec seuils, procédures de vérification, et traçabilité. Sinon, on glisse vite vers une illusion d’objectivité. Sur le plan psychométrique, beaucoup de modèles sont performants en AUC mais faibles en valeur prédictive positive en population réelle : trop de faux positifs (surveillance/iatrogénie) et surtout des faux négatifs (fausse sécurité). Éthiquement, la question du consentement, de la finalité (soin vs contrôle), et du stockage de données sensibles est centrale. Relationnellement, l’IA peut soutenir la vigilance, mais ne doit jamais se substituer à l’alliance ni à l’évaluation clinique contextualisée (histoire, accès aux moyens, ambivalence, facteurs de protection).