IA en imagerie médicale : comment concilier performance, consentement et responsabilité en cas d’erreur ?
Plusieurs hôpitaux déploient ou testent des outils d’IA d’aide au diagnostic en radiologie (triage, détection d’hémorragie intracrânienne, nodules pulmonaires, fractures, etc.). Les résultats publiés montrent parfois des gains de sensibilité ou de délais, mais la mise en pratique soulève des questions éthiques très concrètes.
Cas (inspiré de situations rapportées) : une IA signale « faible probabilité d’AVC hémorragique » sur un scanner aux urgences. Le radiologue, en contexte de surcharge, valide rapidement. Le patient est anticoagulé ; quelques heures plus tard, une relecture met en évidence une petite hémorragie initialement visible. L’IA avait été entraînée majoritairement sur des images de meilleure qualité et sur une population différente.
Points de discussion :
- Consentement et information : doit-on informer systématiquement le patient qu’une IA intervient dans l’interprétation ? Est-ce un « outil interne » ou un élément matériel de la décision médicale ?
- Responsabilité : en cas d’erreur, quelle part revient au clinicien, à l’établissement (choix de l’outil, protocole d’usage), au fabricant (marquage CE/validation), voire à la gouvernance des données ?
- Biais et généralisabilité : comment exiger des preuves de performance sur des sous-groupes (âge, comorbidités, qualité d’image, centres différents) avant déploiement ?
- Traçabilité et transparence : faut-il documenter dans le compte-rendu l’usage de l’IA (version, score, seuil), comme on le fait pour d’autres dispositifs médicaux ?
- Organisation : l’IA doit-elle servir de « second lecteur », de triage, ou de filet de sécurité ? Quel protocole en cas de discordance IA/radiologue ?
Sources pour cadrer :
- Règlement (UE) 2017/745 (MDR) sur les dispositifs médicaux ; Règlement (UE) 2016/679 (RGPD).
- Commission européenne, AI Act (adopté en 2024 ; mise en œuvre progressive) : systèmes d’IA à haut risque en santé.
- OMS, Ethics & governance of artificial intelligence for health (2021).
Quelles règles minimales vous paraissent indispensables avant d’intégrer une IA en routine (information patient, double lecture, audit de performance, registre d’incidents) ?
3 commentaires
L’IA en radiologie, c’est un peu comme un GPS : très utile pour aller plus vite, mais dangereux si on coupe le cerveau et qu’on suit aveuglément. La performance (sensibilité, délais) est importante, mais elle ne suffit pas : il faut comprendre quand l’outil se trompe, sur quels patients il a été entraîné, et comment il se comporte en “vraie vie” (urgences, fatigue, surcharge). Sur le consentement : le patient doit savoir si une IA participe au triage ou à l’aide au diagnostic, et à quoi servent ses données. Pas besoin d’un roman, mais une information claire, accessible, avec la possibilité de poser des questions. Sur la responsabilité : si l’IA minimise un risque et que le radiologue se repose dessus, l’erreur devient “collective”. Il faut des règles écrites : qui décide, comment on documente la décision, et des garde-fous (double lecture dans les cas critiques, audit des erreurs, formation). L’IA doit rester un copilote, pas le pilote.
Bonne analogie du « GPS », mais le cœur du sujet est d’éviter l’automatisation de la confiance. En imagerie d’urgence, une mention « faible probabilité » peut induire un biais d’ancrage, surtout en surcharge : la question n’est pas seulement la performance moyenne, mais les erreurs rares et graves, et leur détectabilité en situation réelle. À mettre au premier plan : 1) transparence d’usage (outil de triage vs d’aide à l’interprétation, seuils, limites connues) ; 2) gouvernance clinique (protocoles de relecture, double lecture ciblée, audit des faux négatifs, suivi post-déploiement) ; 3) consentement et information proportionnés au risque (information générale + signalement quand l’IA influence la décision) ; 4) responsabilité partagée mais traçable (logs, justification, règles d’escalade). Sans ces garde-fous, la « vitesse » se paie en erreurs silencieuses.
Le cas illustre bien le “glissement d’autorité” : en surcharge, une mention « faible probabilité » peut devenir un quasi-feu vert, alors que l’IA n’est qu’un outil d’aide. Trois axes à articuler. 1) Performance : exiger des preuves en conditions réelles (population locale, prévalence, biais, drift), avec seuils et incertitudes explicités, et une traçabilité de l’usage (qui a vu quoi, quand). 2) Consentement/information : au minimum une information loyale sur l’usage d’IA, ses limites et le traitement des données, avec options de refus quand c’est compatible avec l’urgence. 3) Responsabilité : clarifier ex ante la chaîne (éditeur–établissement–professionnel), définir des procédures en cas de discordance IA/clinique, et intégrer l’IA dans une gouvernance qualité (audit, retours d’incidents, formation).
Sur le terrain, la performance “moyenne” des IA compte moins que leur comportement dans les cas limites et en situation de surcharge. Ici, le risque est le biais d’automatisation : un score “faible probabilité” peut anesthésier la vigilance, surtout si l’outil est intégré au flux (triage, priorisation) et perçu comme validé. Il faut cadrer l’usage : l’IA doit rester une aide, avec affichage d’incertitude, explications minimales, et traçabilité (qui a vu quoi, quand, et sur quelle version). Côté consentement, l’enjeu pratique est l’information loyale : usage d’un dispositif d’aide, ses limites, et alternatives. Enfin, responsabilité : clarifier contractuellement et dans les procédures que la décision clinique reste portée par le médecin, tout en imposant à l’établissement et au fournisseur une obligation de surveillance post-déploiement, d’audit des erreurs et de retrait rapide en cas de dérive.
L’analogie du GPS est parlante, mais en imagerie l’enjeu est plus aigu car l’erreur peut être immédiatement délétère. Les études récentes montrent des bénéfices surtout en triage et priorisation (ex. hémorragie intracrânienne), mais avec des performances hétérogènes selon le site, le protocole, la qualité d’image et les populations (risque de “dataset shift”). D’où trois points pratiques : 1) consentement et information : préciser que l’IA est une aide, ses limites et les usages secondaires des données ; 2) gouvernance : validation locale, suivi en vie réelle, journalisation des alertes, et procédures de “downgrade” si dérive ; 3) responsabilité : éviter l’ambiguïté en clarifiant rôles (éditeur, établissement, clinicien) et en formant à la calibration/aux faux négatifs. Sans garde-fous, la surcharge favorise l’automatisation et l’“automation bias”.