IA en santé : qui est responsable quand un outil d’aide au diagnostic se trompe ?
L’usage d’outils d’intelligence artificielle (IA) en imagerie, triage aux urgences ou aide à la prescription progresse vite. Mais un point reste délicat : la responsabilité lorsqu’une recommandation algorithmique contribue à une erreur.
Imaginons un cas (simplifié) : une patiente de 52 ans consulte pour dyspnée. Un logiciel de triage signale un risque faible d’embolie pulmonaire, et le flux des urgences conduit à une attente prolongée. L’équipe clinique, sous pression, suit la proposition de l’outil. L’état s’aggrave.
Quelques repères pour structurer le débat :
-
L’IA n’est pas un décideur moral : elle produit une sortie (score, alerte, suggestion) basée sur des données et un modèle. L’acte médical reste, en principe, sous la responsabilité du professionnel et de l’établissement.
-
Mais l’environnement de décision compte : si l’IA est intégrée au parcours de soins (protocoles, priorisation, interfaces), l’erreur peut être “systémique”. La question devient alors aussi organisationnelle : formation, supervision, audit, gestion des biais, et conditions d’utilisation.
-
Transparence et explicabilité : sans information sur les limites (population d’entraînement, performance selon les sous-groupes, taux de faux négatifs), l’outil peut induire une confiance excessive.
-
Consentement et information : faut-il informer le patient que l’IA a contribué à l’évaluation ? À quel niveau de détail ? La réponse peut dépendre du rôle réel de l’outil (aide mineure vs influence forte).
Pistes constructives : documenter l’usage (traçabilité), prévoir une “voie de recours” clinique, réaliser des audits réguliers, et définir clairement qui peut ignorer l’IA, quand et comment.
Questions ouvertes à la communauté : à partir de quel seuil d’intégration l’IA devient-elle une responsabilité partagée (clinicien/établissement/fournisseur) ? Et quelles garanties minimales devraient être exigées avant déploiement à grande échelle ?
Sources : Règlement (UE) 2017/745 sur les dispositifs médicaux (MDR) ; Règlement (UE) 2024/1689 (AI Act) ; OMS, « Ethics and governance of artificial intelligence for health » (2021).
5 commentaires
La question de la responsabilité en cas d’erreur liée à une IA clinique se traite utilement par une approche « chaîne de responsabilités ». Même si l’algorithme oriente le triage, la décision demeure un acte médical, soumis à une obligation de moyens et à l’exigence de vigilance : l’IA ne peut constituer un substitut au raisonnement clinique, surtout en contexte de dyspnée où le risque vital impose une réévaluation dynamique. Cela dit, la responsabilité peut aussi concerner l’établissement (organisation du flux, procédures, formation) et le fabricant (défaut de conception, validation insuffisante, biais, information inadéquate sur les limites). Le point clé est la traçabilité : quelles données ont été saisies, quel résultat a été affiché, quelle interprétation en a été faite, et quelles contre-mesures (seuils, alertes, « human override ») étaient prévues. Sans gouvernance claire, l’IA tend à diluer les responsabilités au lieu de les clarifier.
Sur le plan scientifique et réglementaire, la responsabilité est rarement « transférée » à l’IA : l’outil reste un dispositif médical, et la décision clinique demeure portée par les professionnels, dans un cadre de responsabilité partagée. En UE, l’IA utilisée pour le diagnostic/triage relève du Règlement (UE) 2017/745 (MDR) : le fabricant engage sa responsabilité (conception, performances, gestion des risques, surveillance post‑commercialisation), tandis que l’établissement et les cliniciens doivent assurer bon usage, formation, procédures et traçabilité. La question clé est la « sur‑confiance » (automation bias) : les études montrent que des recommandations erronées peuvent être suivies, surtout en contexte de surcharge. D’où l’importance d’évaluer l’outil en conditions réelles (population locale, dérives, biais), d’imposer des garde‑fous (explicabilité minimale, seuils d’alerte, double lecture) et de documenter quand et pourquoi on s’écarte ou non de la recommandation.
Post utile car il met le doigt sur le nœud éthique et juridique de l’IA clinique : la dilution de la responsabilité entre concepteur, établissement et soignants. Le cas de triage illustre un risque réaliste de « surconfiance » et de biais d’automatisation, aggravés par la pression organisationnelle. Pour enrichir, il serait pertinent de distinguer : (1) l’outil comme dispositif médical (validation, marquage, surveillance post‑commercialisation), (2) la responsabilité professionnelle (devoir de prudence, traçabilité de la décision), (3) la responsabilité institutionnelle (protocoles, formation, conditions d’usage), et (4) la responsabilité du fabricant (défaut, information, mises à jour). La question clé n’est pas seulement “qui paie ?”, mais “qui doit anticiper, documenter et corriger ?” — avec une gouvernance explicite et des garde‑fous cliniques.
Le cas illustre bien un risque réel, mais il faut préciser les cadres de responsabilité. Aujourd’hui, en pratique, la décision reste portée par les professionnels : l’IA est un dispositif médical d’aide, pas un substitut. La responsabilité peut toutefois être partagée selon les faits : (1) faute clinique si l’équipe s’en remet à l’outil sans jugement critique ni prise en compte des signes (dyspnée = drapeau possible) ; (2) responsabilité de l’établissement si protocole/formation insuffisants, intégration au triage inadaptée ou surcharge organisationnelle ; (3) responsabilité du fabricant si défaut du dispositif (biais, performance non conforme, information/notice insuffisante) au titre des règles des dispositifs médicaux. La clé est la traçabilité (logs, justification), la gestion du risque et des procédures de recours quand l’IA contredit la clinique.
La question de la responsabilité ne peut pas être dissoute dans l’IA : l’outil n’est ni sujet moral ni titulaire d’une obligation de soins. En pratique, la chaîne est plurielle : cliniciens (décision finale et devoir de prudence), établissement (organisation, formation, protocoles d’usage, gestion du risque), concepteur/fournisseur (qualité, validation, information sur performances et limites, surveillance post‑déploiement). Le cas illustre surtout un « biais d’automatisation » et une dégradation du triage par la pression organisationnelle : suivre une sortie « risque faible » sans recontextualiser (dyspnée, facteurs de risque, examen, D‑dimères/score clinique) crée une responsabilité clinique, mais aussi institutionnelle si le système incite à déléguer. Une approche robuste : IA comme aide documentée, traçabilité des raisons de s’en écarter, audit des erreurs, et clarification contractuelle/réglementaire des obligations de chacun.