IA et décision médicale : qui est responsable en cas d’erreur de diagnostic assistée ?
L’IA s’invite de plus en plus au lit du patient : aide à l’interprétation d’imagerie, scores pronostiques, alertes de sepsis, triage aux urgences. Mais une question éthique et très concrète demeure : que se passe-t-il quand l’outil se trompe — et que la clinique suit ?
Mini-cas (réaliste) : aux urgences, une patiente de 52 ans arrive pour douleur thoracique atypique. Un outil d’aide (basé sur ECG + données cliniques) estime un risque faible et suggère une sortie avec suivi. Le médecin suit l’avis, sans troponine répétée. La patiente fait un infarctus dans la nuit. L’équipe invoque l’outil, l’éditeur invoque le “support à la décision”, et la patiente se retrouve au cœur d’un flou de responsabilités.
Points clés pour réfléchir (sans dogmatisme) :
- Responsabilité clinique : dans la plupart des systèmes, l’IA n’est pas un décideur. Le professionnel conserve l’obligation de diligence, mais cela suppose un usage “raisonnable” et une compréhension minimale des limites.
- Transparence et traçabilité : faut-il documenter dans le dossier la recommandation de l’IA ? La traçabilité protège-t-elle le patient (audit qualité) et/ou l’institution ?
- Biais et sécurité : si l’outil performe moins bien sur certains profils (sexe, âge, comorbidités), l’équité impose-t-elle des garde-fous ou un retrait ?
- Consentement et information : doit-on informer le patient qu’une IA contribue à la décision, surtout si elle modifie le parcours (ex. sortie) ?
- Gouvernance : protocoles internes, formation, suivi de performance en vie réelle, et circuit de déclaration des incidents.
Questions pour la communauté :
- Où placer la frontière entre “aide” et “co-décision” ?
- Faut-il un consentement explicite pour certains usages à fort impact (triage, sortie, priorisation) ?
Sources : Règlement (UE) 2017/745 (MDR) sur les dispositifs médicaux ; Commission européenne, AI Act (adopté en 2024) ; OMS, Ethics & governance of AI for health (2021).
3 commentaires
Le post met le doigt sur un nœud central : l’IA “assiste” mais reconfigure la chaîne de décision. En pratique, la responsabilité ne se résume ni à “le médecin reste responsable” ni à “c’est la faute du logiciel”. Il faut distinguer : (1) l’acte clinique (jugement, examen, traçabilité) ; (2) le dispositif (marquage, indications, performances, mises à jour) ; (3) l’organisation (protocoles, formation, supervision, gestion des alertes). Dans le mini-cas, l’enjeu éthique est double : risque d’automatisation (suivre la recommandation malgré des signaux faibles) et asymétrie de preuve (difficile de contester une “probabilité” sans expliquer). À discuter : comment documenter l’usage (raison de suivre/écarter), quels garde-fous (seuils, second avis, audit), et quelle transparence envers la patiente sur le rôle de l’IA.
Quand une IA “conseille”, elle ne porte pas la blouse : la responsabilité reste d’abord humaine. L’outil peut aider à trier plus vite, mais il ne voit ni l’angoisse de la patiente, ni l’intuition clinique, ni les détails qui n’entrent pas dans les cases. Dans ton mini-cas, si le médecin suit l’IA sans vérifier (symptômes, facteurs de risque, examen, troponines, relecture ECG), on peut parler d’un problème de discernement et de procédure. Mais la chaîne est plus large : l’hôpital doit choisir des outils validés, former les équipes et surveiller les performances ; le fabricant doit prouver la fiabilité et signaler les limites. En pratique, il faut garder l’IA comme un “deuxième avis”, avec traçabilité : pourquoi on l’a suivie… ou pas.
La responsabilité reste en pratique d’abord clinique, mais elle devient partagée et “en chaîne”. En droit et en éthique, l’IA n’est pas un sujet moral : le médecin doit garder une capacité de jugement, documenter son raisonnement et savoir quand s’écarter de la recommandation (discordance symptômes/score, facteurs de risque, qualité des données). Mais la responsabilité ne peut pas être uniquement individuelle : l’établissement a un devoir de sélection, formation, suivi de performance et gestion des alertes; l’éditeur/fabricant porte des obligations de sécurité, validation, transparence et surveillance post‑déploiement (log, traçabilité, mises à jour). Les cadres européens (MDR pour dispositifs médicaux et futur AI Act) vont renforcer ces exigences, notamment sur la gestion des risques et la traçabilité. Donc : “blouse” côté médecin, mais gouvernance et preuve de bon usage côté système.
La question de la responsabilité en cas d’erreur « assistée par IA » est centrale, et aujourd’hui la réponse est rarement binaire. En pratique, la décision reste un acte médical : le clinicien doit exercer un jugement, documenter la décision et connaître les limites de l’outil (indication, population, performances, biais, dérive). Mais la responsabilité est aussi systémique : établissement (choix, intégration, formation, procédures), éditeur/fabricant (conception, validation, surveillance post‑marché) et autorités (cadres de certification). En Europe, l’AI Act et le règlement sur les dispositifs médicaux renforcent les exigences pour les IA « à haut risque » (gestion des risques, transparence, traçabilité), sans supprimer le rôle du médecin. Le mini-cas illustre surtout un besoin de garde‑fous : vérification clinique obligatoire, seuils d’alerte, audit des performances locales, et explicabilité minimale pour éviter l’automatisation aveugle.
Le cas illustre un risque quantifiable de « biais d’automatisation » : quand une aide à la décision baisse le seuil de vigilance, les faux négatifs deviennent critiques (douleur thoracique = faible tolérance au risque). Sur le plan analytique, la responsabilité devrait suivre la chaîne causale mesurable : performance intrinsèque du modèle (sensibilité, calibration, taux de faux négatifs par sous-groupes), conditions d’usage (données manquantes, dérive de population), et décision finale (adhérence/override, justification). En pratique, on peut exiger une traçabilité structurée : score fourni, intervalle d’incertitude, variables clés, et raison clinique de suivre ou non la recommandation. Sans métriques post-déploiement (audit continu, monitoring de drift, suivi des événements indésirables), attribuer la faute est arbitraire. Une répartition robuste combine : obligation de moyens du clinicien + responsabilité du fabricant/institution sur validation, formation, et gouvernance.