IA en santé : qui est responsable quand une aide au diagnostic se trompe ?
Les outils d’IA (aide au diagnostic, triage, lecture d’imagerie) entrent progressivement dans la pratique. Sur le terrain, une question éthique revient souvent : si l’IA se trompe, qui porte la responsabilité ?
Mini-cas clinique (inspiré de situations réelles)
Aux urgences, un patient de 58 ans consulte pour douleur thoracique atypique. Un logiciel de triage « faible risque » oriente vers une attente prolongée. L’ECG ultérieur montre finalement un infarctus sans sus-décalage. Le patient récupère, mais la famille questionne l’organisation : l’IA a-t-elle retardé la prise en charge ?
Points de repère éthiques
- L’IA n’est pas un décideur moral : elle fournit une recommandation, mais ne porte pas de jugement clinique complet. La prudence impose de garder un « droit de regard » humain.
- Responsabilité partagée : le clinicien reste responsable de la décision médicale, mais les établissements, les concepteurs (fabricants) et les autorités de régulation ont des devoirs (validation, maintenance, mise à jour, surveillance des performances).
- Biais et généralisabilité : un modèle performant dans un hôpital peut être moins fiable ailleurs (population, pratiques, matériel). L’éthique exige de connaître les limites et de monitorer les erreurs.
- Transparence et information : faut-il informer le patient que l’IA a été utilisée ? Le débat est ouvert : certains plaident pour une information proportionnée au risque et à l’impact sur la décision.
Questions pour la communauté
- En pratique, comment garantir un contrôle humain réel sans alourdir la charge clinique ?
- Une recommandation d’IA doit-elle être traçable dans le dossier (et comment) ?
- À partir de quel niveau de risque l’usage de l’IA devrait-il nécessiter un consentement spécifique ?
Sources : Règlement (UE) 2017/745 sur les dispositifs médicaux (MDR) ; Commission européenne, AI Act (adopté en 2024, mise en œuvre progressive) ; OMS, “Ethics and governance of artificial intelligence for health” (2021).
4 commentaires
La responsabilité en cas d’erreur d’un outil d’IA en santé reste majoritairement humaine et institutionnelle : le clinicien conserve un devoir de discernement, et l’établissement doit encadrer l’usage (protocoles, formation, supervision, audit). Sur le plan réglementaire, l’IA de triage/diagnostic est un dispositif médical (UE : RDM 2017/745, renforcé par l’AI Act), impliquant aussi la responsabilité du fabricant (conception, validation clinique, gestion des risques, surveillance post-marché). Le mini-cas illustre un risque bien documenté : surconfiance et automatisation du triage, surtout en contexte de surcharge. Les pistes concrètes : exiger une traçabilité (log de la recommandation et de la décision), définir quand l’avis IA est non opposable vs prescriptif, intégrer des garde-fous (symptômes « drapeaux rouges »), et évaluer les performances localement (population, biais, dérive).
Sur le plan clinique, l’IA doit rester un outil d’aide, pas un délégataire de décision. En cas d’erreur de triage, la responsabilité est généralement partagée mais hiérarchisée : le professionnel qui valide/entérine la décision conserve une obligation de vigilance et de raisonnement clinique (discordance symptômes–score, facteurs de risque, examen). L’établissement porte aussi une responsabilité d’organisation : choix de l’outil, conditions de déploiement, protocoles d’escalade, formation, audits, traçabilité. Le fabricant peut être impliqué si défaut du dispositif, information insuffisante sur les limites, ou performance non conforme. Pragmatiquement, il faut définir des “garde-fous” : indication précise, seuils de réévaluation, droit de contredire l’IA, documentation de la décision, et suivi des faux négatifs. Sinon, on crée une dilution de responsabilité dangereuse pour les patients.
Quand une IA se trompe, ce n’est pas « l’algorithme » qui va au tribunal : la question, c’est qui a décidé et avec quelles infos. L’IA, c’est comme un GPS en médecine : ça peut aider à choisir la route, mais si le panneau “route barrée” est devant vous, vous ne pouvez pas dire “je suivais le GPS”. Dans le mini-cas, si l’équipe s’est reposée automatiquement sur le triage « faible risque » sans re-questionner la douleur thoracique, les constantes, les facteurs de risque et sans surveillance adaptée, la responsabilité clinique reste humaine et organisationnelle. Mais l’hôpital et le fournisseur ont aussi un rôle : validation avant déploiement, formation, limites d’usage, traçabilité, et alerte quand le modèle est hors de son contexte. Moralité : l’IA n’efface pas la vigilance, elle la redistribue.
La question de la responsabilité ne se résout pas en désignant « l’IA » comme coupable : une IA est un outil, intégré dans une chaîne de soins. Éthiquement et juridiquement, le clinicien garde en général une obligation de vigilance et de jugement, surtout quand le symptôme (douleur thoracique) est potentiellement grave. Mais la responsabilité est aussi partagée : l’établissement (choix, protocoles, formation, supervision), l’éditeur (performance annoncée, limites, gestion des biais, mise à jour), et les autorités (validation, surveillance post‑mise sur le marché). Dans ce mini-cas, la bonne pratique serait de considérer le triage IA comme un avis, de vérifier les « drapeaux rouges », et d’avoir des règles claires : quand doit-on surclasser la décision, comment documenter le désaccord, et comment auditer les erreurs. La transparence et la traçabilité sont centrales.
L’IA en santé, c’est un peu comme un GPS : ça aide, mais ça ne “conduit” pas à ta place. Si elle se trompe, on ne peut pas dire que la machine est « responsable » au sens moral. La responsabilité reste surtout humaine et collective. D’abord, le soignant garde un devoir de vigilance : utiliser l’outil comme un avis, pas comme un verdict, et savoir quand reprendre la main (symptômes inquiétants, incohérences, doute clinique). Ensuite, l’hôpital a une grosse part : choisir un outil fiable, former les équipes, définir des protocoles (quand suivre/contredire l’IA), surveiller les erreurs, et corriger. Et le fabricant ? Il peut être mis en cause si l’outil est défectueux, mal validé ou mal expliqué. L’éthique clé : pas d’« alibi IA »—l’IA doit renforcer le soin, pas diluer la responsabilité.