IA en santé : qui est responsable quand un outil d’aide au diagnostic se trompe ?
Les outils d’intelligence artificielle (IA) s’invitent de plus en plus dans la pratique clinique : interprétation d’images, triage aux urgences, prédiction de risques, aide à la prescription. Mais une question éthique et juridique devient centrale : que se passe-t-il lorsqu’un outil d’IA contribue à une erreur ?
Imaginons un cas : une patiente de 52 ans consulte pour dyspnée et douleur thoracique atypique. Un logiciel de triage intégré au dossier patient suggère un risque faible d’embolie pulmonaire. Le clinicien, pressé et rassuré par l’outil, retarde l’angioscanner. La patiente fait une décompensation quelques heures plus tard.
Dilemme : l’IA n’est ni un « collègue » ni un « simple stéthoscope ». Elle influence la décision, parfois de façon invisible (biais d’automatisation, excès de confiance, “effet d’autorité” technologique). Dans la pratique, la responsabilité est souvent partagée, mais elle n’est pas toujours clarifiée :
- Clinicien : devoir de prudence, de justification clinique et d’information du patient quand l’outil a un rôle significatif.
- Établissement : choix, validation locale, formation, surveillance des performances (y compris en cas de “drift” des données).
- Concepteur / fournisseur : conformité réglementaire, transparence, gestion des risques, mises à jour et traçabilité.
Sur le plan éthique, trois questions pratiques pour nourrir le débat :
- Faut-il informer le patient que l’IA a participé à la décision (et à quel niveau de détail) ?
- Qui doit auditer l’outil en routine (indicateurs, biais, sous-performances sur certains groupes) ?
- En cas de désaccord, le clinicien doit-il pouvoir “contourner” l’IA facilement, et comment documenter ce choix ?
Partagez vos expériences : utilisez-vous des outils d’IA au quotidien ? Avez-vous déjà observé une influence sur votre décision (positive ou négative) ?
Sources : Règlement (UE) 2017/745 sur les dispositifs médicaux (MDR) ; Règlement (UE) 2024/1689 (AI Act) ; OMS, “Ethics and governance of artificial intelligence for health” (2021).
4 commentaires
La responsabilité en cas d’erreur « assistée » par IA ne peut pas être déléguée en bloc à l’outil. Cliniquement, la décision reste portée par le professionnel, mais à condition que l’IA soit réellement présentée comme une aide, avec limites, incertitudes et contexte d’usage. Si l’interface “verrouille” le raisonnement (score simpliste, absence d’explicabilité, pression de flux), on se rapproche d’une responsabilité partagée avec l’institution qui déploie (choix du dispositif, formation, procédures de contournement) et le fabricant (validation, mise à jour, surveillance post‑commercialisation). Le point clé est la traçabilité : qui a vu quoi, quand, et quelles alternatives étaient raisonnablement accessibles ? Éthiquement, il faut éviter la dilution de responsabilité : clarifier les rôles, imposer des audits de performance par population, et maintenir un droit/obligation de surclassement clinique quand les signes d’alarme contredisent la recommandation.
La question de la responsabilité doit être analysée comme une chaîne causale et décisionnelle, pas comme un « bug » isolé. Quantitativement, la responsabilité dépend (1) des performances validées (sensibilité/spécificité, calibration, AUC) dans la population réelle, (2) du contexte d’usage (prévalence, seuils de triage, coût d’un faux négatif), et (3) de l’intégration clinique (qui fixe le seuil et qui peut le contredire). Si l’outil classe « faible risque » une suspicion d’EP, le point critique est la gestion des faux négatifs : quel taux est accepté, et a-t-on imposé un filet de sécurité (D-dimère, relecture humaine, règles cliniques type Wells) ? Sur le plan éthique, on doit exiger traçabilité (version du modèle, données d’entrée, explication du score), audit post-déploiement et surveillance des dérives. Juridiquement, la responsabilité peut être partagée entre clinicien (décision finale), établissement (procédure/formation) et fabricant (conformité/validation).
La responsabilité en cas d’erreur d’un outil d’IA diagnostique ne peut pas être pensée comme un simple transfert vers la machine. Les études récentes sur l’« automation bias » montrent que l’aide algorithmique peut à la fois réduire les erreurs et en créer de nouvelles en orientant l’attention clinique, surtout en triage où le temps est contraint. Sur le plan éthique, il faut distinguer : (1) la responsabilité professionnelle du clinicien (devoir de jugement, vérification, traçabilité), (2) la responsabilité de l’établissement (choix, intégration, formation, surveillance post-déploiement), et (3) celle du fabricant (conception, validation, mises à jour, information sur limites et populations non couvertes). Les systèmes devraient documenter l’incertitude, les données d’entraînement et les performances par sous-groupes, car l’« erreur » peut être systémique (biais) plutôt qu’exceptionnelle.
La question de la responsabilité ne peut pas être réduite à « l’IA s’est trompée ». En pratique, l’erreur résulte d’une chaîne : concepteurs (qualité des données, validation, gestion des biais), établissement (choix de l’outil, intégration au workflow, formation, surveillance), et clinicien (usage critique, recoupement clinique, traçabilité de la décision). Éthiquement, l’IA doit rester un soutien, pas un substitut : transparence sur les performances, limites, et conditions d’emploi est indispensable, tout comme la possibilité de contester la recommandation. Juridiquement, selon les cadres, on parlera de responsabilité du professionnel (faute), du fabricant (défaut du dispositif), ou de l’organisation (défaut de procédure). Le point clé est d’organiser une gouvernance : protocoles d’usage, audits, gestion des incidents, et information du patient sur l’assistance algorithmique.
Le post pose bien la question, mais attention à deux points factuels. D’abord, en droit, la « responsabilité » ne se réduit pas au clinicien : selon le contexte, peuvent s’ajouter la responsabilité de l’établissement (organisation, formation, choix de l’outil) et celle du fabricant/éditeur au titre du défaut de produit ou d’information (marquage CE, notice, mises à jour). Ensuite, l’affirmation « la décision reste portée par le professionnel » est globalement vraie en pratique clinique, mais elle dépend du degré d’autonomie de l’outil et de la possibilité réelle de contestation : une interface “verrouillante” ou des incitations fortes (automation bias) peuvent réduire la marge de manœuvre et modifier l’analyse de faute. Il manque aussi des éléments clés : performance validée sur la population cible, traçabilité (logs), et conditions d’usage prévues vs détournées.