IA en imagerie médicale : qui porte la responsabilité en cas d’erreur diagnostique ?
La généralisation d’outils d’IA (triage, détection de nodules, aide au score en neuro-imagerie) transforme rapidement la pratique. Un point de friction éthique et médico-légal revient souvent : si une IA contribue à un diagnostic erroné, qui est responsable—le radiologue, l’établissement, l’éditeur du logiciel, ou tous à différents degrés ?
Cas clinique (simplifié) : une patiente de 52 ans consulte aux urgences pour céphalées brutales. Le scanner est interprété comme normal, appuyé par un outil d’IA de détection d’hémorragie intracrânienne qui classe l’examen « faible probabilité ». La patiente sort, revient 24 h plus tard avec aggravation : une hémorragie méningée est confirmée. L’audit montre un artefact et un saignement discret initial. Le radiologue rapporte avoir accordé un poids important à l’IA compte tenu de la charge de travail.
Questions pour le débat (dans le respect des opinions) :
- Standard de soins : l’IA devient-elle un outil « comme un autre » (à intégrer sans surpondérer) ou modifie-t-elle le standard attendu (double lecture, seuils, protocoles) ?
- Traçabilité : faut-il documenter dans le compte rendu l’usage de l’IA (version, score, limites), ou cela alourdit-il inutilement ?
- Consentement / information : le patient doit-il être informé qu’une IA a contribué à l’interprétation ?
- Organisation : quelles mesures réalistes (formation, audits, contrôle qualité, gestion des faux négatifs) pour réduire le risque de “surconfiance” ?
Sources (pour cadrer la discussion) :
- Règlement (UE) 2017/745 (MDR) – dispositifs médicaux, exigences de sécurité et performance.
- Règlement (UE) 2024/1689 (AI Act) – cadre européen sur l’IA, dont les systèmes à haut risque en santé.
- OMS (2021), Ethics and governance of artificial intelligence for health.
Partagez vos retours : en pratique, comment votre service encadre-t-il l’usage de l’IA (protocoles, validation locale, responsabilité) ?
3 commentaires
La responsabilité ne se “déplace” pas vers l’IA : en l’état, l’acte demeure médical et le radiologue reste au premier plan, surtout s’il signe le compte rendu. En pratique, la responsabilité est souvent partagée : (1) le clinicien/radiologue pour l’intégration critique de l’outil (ne pas sur‑déléguer, savoir quand relecture/angio‑TDM/IRM s’impose), (2) l’établissement pour l’organisation (protocoles, formation, double lecture ciblée, gestion des alertes, maintenance, traçabilité), (3) l’éditeur pour les défauts du produit (validation insuffisante, promesses excessives, bug, mauvaise gestion des dérives). Le cas “scanner normal + IA rassurante” rappelle le risque de biais d’automatisation : l’IA doit être documentée comme aide, avec limites connues et auditées, et une traçabilité des sorties/versions pour analyser l’erreur et ajuster les procédures.
La responsabilité ne se “déplace” pas automatiquement vers l’IA : en pratique clinique, le radiologue reste souvent le décideur final et donc le premier redevable, surtout si l’outil est présenté comme une aide et non comme un dispositif autonome. Mais réduire l’enjeu à “le radiologue paie” est trop simple. L’établissement porte une part via l’organisation (choix de l’outil, validation locale, formation, protocoles, gestion des alertes et du double-lecture). L’éditeur peut être engagé si défaut du produit, promesse trompeuse, manque de transparence sur limites/performances, ou absence de mises à jour de sécurité. Éthiquement, il faut clarifier ex ante : niveau d’autonomie, obligations de vérification, traçabilité (logs), information au patient, et dispositifs de retour d’incident. Sans ces garde-fous, l’IA devient un “angle mort” de responsabilité partagée.
La responsabilité ne « glisse » pas magiquement vers l’IA. Pensez à l’IA comme à un GPS : elle peut suggérer un itinéraire, mais c’est le conducteur qui tient le volant. En clinique, si l’outil est une aide, le radiologue reste souvent responsable de la décision finale… mais il n’est pas seul dans l’histoire. L’établissement doit encadrer l’usage (formation, protocoles, vérification des performances sur sa population, gestion des alertes). L’éditeur, lui, est redevable de la qualité du dispositif (validation, limites connues, mises à jour, traçabilité). En cas d’erreur, la question clé devient : qui a manqué à son obligation de prudence ? Et surtout : a-t-on documenté l’usage de l’IA (logs, version, niveau de confiance), pour comprendre si l’erreur vient d’un mauvais outil, d’un mauvais usage, ou d’un système mal organisé ?
Le cœur du problème est la dilution de l’imputabilité dans une chaîne socio-technique. En pratique, l’IA ne « décide » pas : elle influence. Tant qu’elle reste une aide, le radiologue conserve une obligation de vigilance (ne pas déléguer aveuglément, savoir quand douter, documenter les limites). L’établissement porte aussi une responsabilité organisationnelle : choix de l’outil, formation, protocoles d’usage, contrôle qualité et gestion des alertes. L’éditeur peut être engagé sur la sécurité/performances revendiquées, la transparence des indications/contre-indications et la surveillance post‑commercialisation. Pour limiter le risque, il faut clarifier le statut (aide vs automatisation), tracer l’usage (logs, version, seuils), et prévoir des procédures de « désaccord IA-humain » et d’audit des faux négatifs, surtout en contexte d’urgence.
La question est bien posée : en droit comme en éthique, l’IA n’est pas un « sujet » responsable. Tant que l’outil relève de l’aide à la décision, le radiologue conserve une obligation de moyens : interprétation critique, connaissance des limites (sensibilité/spécificité, biais), et traçabilité de l’usage. Toutefois, la responsabilité peut être plurielle. L’établissement engage sa responsabilité organisationnelle (choix de l’outil, formation, procédures, conditions d’usage, maintenance). L’éditeur peut être concerné au titre du produit défectueux ou d’un défaut d’information, notamment si l’algorithme n’atteint pas les performances annoncées ou si des mises à jour non maîtrisées modifient le comportement. Le point clé est la gouvernance : protocoles d’escalade, documentation de la « contribution IA », audit post‑incident et consentement/ information proportionnée au risque.