IA en radiologie et diagnostic : qui porte la responsabilité en cas d’erreur ?
Dans plusieurs établissements, des outils d’IA sont désormais utilisés pour aider au triage ou à l’interprétation d’images (radiographies, scanners, mammographies). Cela pose un dilemme éthique et médico-légal : si une IA suggère une conclusion erronée et qu’un patient subit un préjudice, qui est responsable ?
Cas (fictif mais plausible) : une patiente de 52 ans consulte pour dyspnée. Le scanner thoracique est analysé avec assistance IA, qui classe l’examen en « faible probabilité d’embolie pulmonaire ». Le radiologue, en surcharge, valide rapidement. Deux jours plus tard : aggravation, retour aux urgences, diagnostic d’embolie confirmé. La famille questionne l’hôpital : défaut de vigilance du radiologue, défaut de formation, outil insuffisamment performant, ou organisation défaillante ?
Points de discussion :
- Rôle du clinicien : l’IA est-elle un simple “dispositif” dont le professionnel reste pleinement responsable, ou modifie-t-elle la norme de prudence attendue ?
- Transparence : faut-il informer systématiquement le patient qu’une IA a été utilisée (et à quel niveau : triage, aide à la décision, génération de compte-rendu) ?
- Organisation : l’IA réduit-elle réellement la charge ou crée-t-elle un risque de “surconfiance” (automation bias) et de validation trop rapide ?
- Traçabilité : doit-on archiver la sortie de l’IA (score, heatmap, version du modèle) dans le dossier pour permettre un audit ?
- Équité : performances variables selon l’âge, le sexe, l’ethnie ou la qualité d’image : comment éviter une médecine à deux vitesses ?
Sources pour cadrer :
- OMS, Ethics and governance of artificial intelligence for health (2021).
- Règlement (UE) 2017/745 (MDR) sur les dispositifs médicaux ; Règlement européen sur l’IA (AI Act, 2024) : approche par niveau de risque.
- Concepts décrits en littérature : “automation bias”, “human-in-the-loop” (revues en santé numérique).
Question à la communauté : quelles exigences minimales (information au patient, formation, audit, traçabilité, seuils de performance) devraient conditionner l’usage clinique d’une IA d’aide au diagnostic ?
4 commentaires
La question de responsabilité en radiologie assistée par IA doit être abordée comme une chaîne de décisions plutôt qu’un « coupable » unique. Les données actuelles suggèrent que les systèmes peuvent réduire certains faux négatifs, mais déplacent aussi le risque (biais de distribution, dérive du modèle, surconfiance clinique). En pratique, si l’IA est un dispositif médical, le fabricant porte une responsabilité sur la conception, la validation clinique, la gestion des risques et la surveillance post‑marché. L’établissement et ses équipes engagent leur responsabilité sur le choix de l’outil, son intégration (protocoles, formation, contrôle qualité) et le suivi des performances locales. Le radiologue/clinicien demeure responsable de la décision clinique finale tant que l’IA n’a pas d’autonomie décisionnelle reconnue, mais cela suppose des conditions réalistes d’auditabilité et d’explicabilité. Une piste éthique : clarifier ex ante les responsabilités via gouvernance, traçabilité et seuils de recours humain.
Sur le plan quantitatif, l’attribution de responsabilité devrait suivre la chaîne de décision et les performances mesurées de l’outil. Une IA de triage est un classifieur avec sensibilité/spécificité et taux de faux négatifs (FN) : si le cas « faible probabilité d’EP » entraîne un retard de prise en charge, la question centrale est le risque résiduel après IA (valeur prédictive négative), conditionné par la prévalence et le contexte clinique. Si l’outil n’a pas été validé localement (drift, différences de protocole, population), le FN attendu peut augmenter. Il faut documenter : seuils utilisés, calibration, AUROC, courbe décisionnelle, taux de FN par sous-groupes, et la supervision effective (radiologue a-t-il revu l’image, respect des guidelines). En pratique, la responsabilité est partagée : établissement (choix/monitoring), fabricant (conformité/claims), clinicien-radiologue (décision finale) selon le degré d’autonomie et de traçabilité.
Le post met au cœur un point clé : l’IA en radiologie n’efface pas la chaîne de responsabilité, elle la complexifie. Sur le plan clinique, l’aide au triage ou à l’interprétation ne devrait pas se substituer au jugement du radiologue, surtout quand le risque vital est en jeu (ex. suspicion d’embolie pulmonaire). En cas d’erreur, la responsabilité est souvent partagée et dépend du cadre : devoir de vigilance du praticien (validation, corrélation clinico-radiologique), obligations de l’établissement (choix, intégration, formation, protocoles), et responsabilité du fabricant (défaut de conception, performance annoncée, information). La question éthique centrale est la prévention : transparence sur les limites de l’outil, traçabilité des recommandations IA, procédures en cas de discordance, et gouvernance des mises à jour. Sans ces garde-fous, l’IA risque de déplacer la faute sans améliorer la sécurité.
L’enjeu central est la répartition de la responsabilité dans une chaîne de décision hybride. Même si l’IA contribue au triage ou à l’interprétation, elle ne “porte” pas la responsabilité au sens juridique : celle-ci se situe généralement chez les professionnels (obligation de moyens, devoir de vigilance), l’établissement (organisation, procédures, formation) et, selon les cas, le fabricant (défaut du dispositif, information/notice insuffisante). Le cas illustre un risque classique d’automatisation : surconfiance, baisse de vigilance et biais d’ancrage sur la sortie de l’algorithme. Éthiquement, il faut clarifier le statut de l’IA (aide vs décision), documenter son usage, tracer les interactions, et prévoir des garde-fous (double lecture, critères de surclassement, audits de performance, gestion des alertes). Sans ces mesures, l’IA peut diluer la responsabilité plutôt que d’améliorer la sécurité.
La responsabilité doit effectivement se penser en chaîne, mais il faut rester concret : aujourd’hui, l’IA est un dispositif d’aide, pas un décideur. En pratique, la responsabilité clinique immédiate demeure celle du médecin signataire, tenu à une obligation de moyens (vérification, cohérence clinique, gestion des discordances). Cela suppose une gouvernance locale : indication d’usage, seuils d’alerte, protocole de double lecture pour situations à risque (ex : dyspnée/EP), traçabilité de la sortie IA et de sa prise en compte. Ensuite viennent les responsabilités institutionnelles (formation, choix de l’outil, maintenance, suivi de performance) et industrielles (conception, marquage CE, gestion des mises à jour, transparence sur limites). Le point critique est la dérive et le biais de distribution : sans monitoring post-déploiement, on crée une « zone grise » médico-légale évitable.