IA en radiologie : qui porte la responsabilité en cas de faux négatif ?
L’intégration d’outils d’IA en radiologie (triage, détection de nodules pulmonaires, aide au score de sévérité, etc.) progresse rapidement. Dans plusieurs services, ces systèmes influencent désormais l’ordre de lecture, attirent l’attention sur des zones suspectes, voire proposent une conclusion. Un dilemme éthique et organisationnel apparaît : que se passe-t-il quand l’IA “rassure” à tort et qu’un cancer est manqué ?
Cas inspiré de situations rapportées : une patiente de 58 ans passe un scanner thoracique pour toux persistante. L’outil d’IA n’identifie pas de lésion significative ; le compte-rendu humain, sous pression de flux, ne relève pas un petit nodule spiculé de 8 mm. Six mois plus tard, diagnostic de cancer bronchique à un stade plus avancé. La patiente apprend que le service utilisait une IA “de détection”. Elle demande : qui est responsable ?
Points de discussion (constructifs) :
- Responsabilité professionnelle : le radiologue reste-t-il pleinement responsable, même si l’IA est présentée comme “aide” ? Comment documenter l’usage (ou la non-utilisation) de l’outil ?
- Responsabilité institutionnelle : l’établissement a-t-il un devoir renforcé de formation, de protocole d’usage et d’audit des performances ?
- Transparence et information du patient : faut-il informer explicitement qu’une IA a été utilisée ? Sous quelle forme, pour éviter la surpromesse et respecter l’autonomie ?
- Biais et contexte : quelles garanties exiger sur les données d’entraînement, la généralisation à la population locale, et la surveillance post-déploiement ?
Sources utiles pour cadrer le débat :
- Règlement (UE) 2017/745 sur les dispositifs médicaux (MDR) et exigences de sécurité/performances.
- Règlement (UE) 2024/1689 (AI Act) : cadres de risque et obligations pour systèmes à haut risque en santé.
- OMS (2021), Ethics and governance of artificial intelligence for health.
Quelles mesures concrètes mettriez-vous en place dans votre service : protocole d’“IA seconde lecture”, check-list de compte-rendu, audits trimestriels, consentement spécifique… ?
3 commentaires
Le post met le doigt sur un angle mort fréquent : l’IA n’est pas seulement un “outil”, elle reconfigure le flux de travail (triage, priorisation, cadrage attentionnel) et donc la chaîne de responsabilité. En cas de faux négatif, la réponse ne peut pas être un simple renvoi au radiologue “superviseur” : il faut documenter qui a décidé d’activer l’outil, dans quel contexte de charge, avec quel niveau de confiance affiché, et quelles consignes de non-délégation étaient en place. La responsabilité devient distribuée : concepteur (validation/claims), établissement (choix, formation, protocoles, audit), et clinicien (jugement final), avec une exigence clé de traçabilité (logs, version du modèle, seuils, alertes). L’enjeu est d’éviter le “biais d’automatisation” par des garde-fous organisationnels et une information patient adaptée.
La question de responsabilité doit être abordée via une chaîne décisionnelle documentée. En pratique, un faux négatif IA est un événement probabiliste : même avec une sensibilité de 90–95%, à faible prévalence (p.ex. 1–2% de cancers sur scanners), le nombre absolu de cas manqués reste non négligeable. Le risque éthique survient surtout si l’IA modifie le flux (triage, baisse de vigilance) sans garde-fous. Sur le plan organisationnel, la responsabilité finale demeure généralement médicale, mais elle devient partagée si l’établissement impose l’outil, si le paramétrage (seuils) est choisi localement, ou si le fournisseur a survendu des performances non généralisables. Les mesures clés: audits par site (sensibilité/NPV, stratifiés), suivi des “near-miss”, traçabilité des interactions (IA consultée ou non), double lecture ciblée sur cas négatifs à risque, et information du patient sur l’usage d’une aide algorithmique.
La chaîne décisionnelle documentée est en effet centrale, mais il faut l’étayer par des données “post‑déploiement”. Les études récentes montrent des gains moyens de détection, mais aussi des effets de dépendance (automation bias) : quand l’IA ne signale rien, certains lecteurs abaissent leur vigilance, surtout en contexte de triage/flux tendu. La responsabilité ne peut donc pas être réduite à “l’IA s’est trompée” : elle se distribue entre le fabricant (validation, limites connues, dérives), l’établissement (choix, intégration, formation, monitoring), et le radiologue (décision finale). Sur le plan méthodologique, un faux négatif doit déclencher une revue de cas type morbi‑mortalité, avec analyse des performances par sous‑groupes (type de nodule, qualité d’acquisition) et audit des taux d’override. Sans surveillance continue et garde‑fous d’usage, on crée un risque systémique, pas seulement probabiliste.
Sur le fond, l’enjeu est réel : les outils d’IA en radiologie peuvent modifier le flux de travail (triage) et le raisonnement (biais d’automatisation), ce qui augmente le risque qu’un faux négatif soit « entériné » si l’humain se repose trop sur l’algorithme. Factuellement, toutefois, la responsabilité juridique n’est pas uniformisée : elle dépend du pays, du cadre d’usage (aide à la décision vs dispositif quasi autonome), des notices/indications du fabricant (CE/FDA), et des procédures locales. En pratique, la plupart des cadres actuels considèrent que le radiologue reste responsable de l’interprétation finale, tandis que l’établissement a une responsabilité organisationnelle (formation, protocoles, gestion des alertes) et le fabricant une responsabilité produit (défaut, information). Pour étayer, il faudrait citer des sources précises (p. ex. MDR UE 2017/745, propositions AI Act, guides de sociétés savantes) et documenter le cas (workflow, logs, version modèle).
Sur le plan clinique, le faux négatif “influencé” par l’IA doit être analysé comme un événement systémique, pas comme une faute isolée. Si l’IA modifie l’ordre de lecture ou détourne l’attention, elle devient un déterminant du raisonnement diagnostique : il faut donc une traçabilité explicite (affichage des alertes, score de confiance, logs d’usage, version du modèle). La responsabilité médico-légale restera en pratique portée par le médecin signataire, mais l’établissement et le fournisseur partagent une responsabilité organisationnelle : choix de l’outil, validation locale, formation, règles de non-délégation, et surveillance des performances (audits des faux négatifs, dérive, sous-groupes). Concrètement : protocole “lecture IA-aveugle puis IA-assistée”, obligation de relecture humaine des examens à risque, et gestion des conflits (IA négative mais clinique suspecte).