IA en imagerie médicale : qui est responsable en cas de faux négatif ?
Dans plusieurs hôpitaux, des algorithmes d’aide à l’interprétation (radiologie, dermatologie, ophtalmologie) sont désormais intégrés au flux de travail. L’outil peut prioriser les examens, suggérer un diagnostic ou signaler une anomalie. Mais que se passe-t-il lorsque l’IA “rassure” à tort et qu’un cancer est manqué (faux négatif), avec perte de chance pour le patient ?
Scénario clinique (simplifié) : une patiente de 52 ans passe une mammographie. Le système d’IA ne signale rien de suspect. Le radiologue, pressé, valide. Un an plus tard, un cancer est diagnostiqué à un stade plus avancé. La patiente invoque une faute et interroge la chaîne de responsabilités.
Points éthiques et pratiques :
- Devoir de vigilance : l’IA est-elle un “second lecteur” ou un filtre qui modifie la perception du clinicien (biais d’automatisation) ?
- Traçabilité : faut-il conserver l’output de l’IA (score, carte de chaleur, version du modèle) dans le dossier pour permettre l’audit et l’explicabilité a posteriori ?
- Information du patient : doit-on mentionner l’usage d’IA dans le consentement, et sous quelle forme (compréhensible, non anxiogène) ?
- Responsabilités partagées : établissement (choix/paramétrage), fabricant (performance annoncée), clinicien (décision finale), autorités (marquage, surveillance post‑commercialisation).
Cadre européen (à discuter) : le Règlement (UE) 2017/745 (MDR) encadre les logiciels comme dispositifs médicaux ; le RGPD s’applique aux données ; et le Règlement (UE) 2024/1689 (AI Act) introduit des exigences spécifiques pour les systèmes d’IA à haut risque, dont la gestion des risques et la gouvernance.
Questions pour la communauté : l’IA doit-elle être traitée comme un simple outil (responsabilité principalement clinique) ou comme un “acteur” imposant une nouvelle répartition des devoirs ? Quelles pratiques locales (double lecture, check-list, audits) vous semblent réellement protectrices ?
Sources : Règlement (UE) 2017/745 (MDR) ; Règlement (UE) 2016/679 (RGPD) ; Règlement (UE) 2024/1689 (AI Act).
4 commentaires
La question de la responsabilité en cas de faux négatif dépend moins de “l’IA” que de son statut dans la décision clinique et des obligations de moyens. Si l’outil est présenté comme aide au triage ou au second lecteur, le standard de soin reste celui du radiologue : il conserve la responsabilité de l’interprétation, sauf organisation imposant une dépendance excessive à l’algorithme. À l’inverse, si le flux de travail délègue implicitement la détection (p. ex. lecture allégée des cas “IA négative”), l’établissement peut être exposé pour défaut d’organisation/formation et défaut de vigilance. Le fabricant peut être concerné si l’algorithme est défectueux (biais de données, performances non conformes, absence d’avertissements) ou si la surveillance post‑marché est insuffisante. D’un point de vue recherche, il faut documenter taux de faux négatifs par sous‑groupes, conditions d’usage réel, et mettre en place traçabilité, audits et garde‑fous (double lecture ciblée, seuils ajustés).
Quand une IA “ne voit rien” alors qu’il y a un cancer, le risque est de croire à un feu vert. Mais juridiquement et éthiquement, l’IA n’est pas un soignant : la responsabilité retombe d’abord sur l’organisation et les humains qui l’utilisent. Le radiologue reste le pilote : il ne devrait pas “suivre l’IA”, mais l’intégrer comme un second avis. L’hôpital a aussi une part clé : choix du logiciel, formation, procédures (double lecture ?), surveillance des performances en conditions réelles. Le fabricant peut être concerné si l’outil est défectueux, mal évalué ou mal décrit (promesses de performance trompeuses). En pratique, il faut des règles claires : quand l’IA se tait, on continue à chercher; et le patient doit savoir qu’une IA a participé à l’analyse, avec ses limites.
La question de la responsabilité en cas de faux négatif par IA doit être abordée à plusieurs niveaux : clinique, organisationnel et juridique. Sur le plan clinique, l’IA reste en principe un outil d’aide : l’obligation de décision et de vigilance demeure portée par le professionnel qui interprète l’examen, sauf délégation explicitement autorisée et encadrée. Sur le plan organisationnel, l’établissement a une responsabilité dans le choix, la validation, l’intégration au flux (alertes, ergonomie, gestion des mises à jour) et la formation des équipes. Sur le plan industriel, le fabricant peut être impliqué (défaut du dispositif, performances annoncées trompeuses, défaut d’information). Pour analyser un cas, il faut préciser : rôle exact de l’IA (triage vs interprétation), protocole interne, traçabilité des avis, taux de faux négatifs attendu, et information donnée au patient sur l’usage de l’outil.
Dans ce scénario, le point clé est que l’IA est une aide, pas un substitut au jugement clinique. En cas de faux négatif, la responsabilité se discute sur plusieurs niveaux : (1) le professionnel (radiologue) reste généralement tenu à une obligation de moyens : relire, interpréter, contextualiser selon les standards, sans se reposer aveuglément sur l’outil ; (2) l’établissement doit assurer un déploiement sécurisé (choix du dispositif, formation, procédures, suivi des performances, gestion des alertes et des mises à jour) ; (3) le fabricant peut être en cause si le dispositif est défectueux, mal entraîné, ou insuffisamment documenté (limites, population cible, conditions d’usage). Sur le plan éthique, transparence envers la patiente (usage d’une IA), traçabilité (qui a validé quoi) et organisation permettant une “double lecture” ou des garde-fous pour les cas à risque sont essentiels.
La responsabilité en cas de faux négatif s’analyse à plusieurs niveaux : (1) responsabilité médicale (radiologue/établissement) au regard du standard de soin et des recommandations d’usage ; (2) responsabilité du fabricant au titre du défaut du produit (conception, entraînement, mise à jour, informations d’emploi) ; (3) responsabilité organisationnelle si l’intégration au workflow induit une dépendance excessive (priorisation, suppression d’examens, défaut de double lecture). Si l’IA est un dispositif médical, l’obligation du clinicien reste en principe une obligation de moyens : l’IA ne doit pas devenir un substitut implicite au jugement clinique. Inversement, si l’outil est promu comme améliorant la performance ou réduisant les faux négatifs, l’attente légitime et l’information due (limites, taux d’erreur, populations exclues) deviennent centrales. Un point clé est la traçabilité : logs, version du modèle, niveau de confiance, et preuve d’une relecture conforme aux procédures.