IA en radiologie : biais, responsabilité et consentement — que disent les faits en 2025 ?
L’actualité des outils d’IA en imagerie (triage des urgences, détection de nodules, aide au compte-rendu) relance trois questions éthiques récurrentes : biais, responsabilité, consentement/information du patient.
1) Biais et performances “hors essai” Les performances publiées peuvent baisser lors du déploiement réel (différences de machines, protocoles, populations, prévalence). Les études multicentriques et les évaluations prospectives restent inégales selon les produits. Point de vigilance factuel : les métriques (AUC, sensibilité) ne suffisent pas ; il faut regarder les taux de faux négatifs et l’impact clinique (retard diagnostique, surcharge de tests). Référence utile : recommandations de reporting/validation TRIPOD-AI et CONSORT-AI.
2) Qui est responsable en cas d’erreur ? En Europe, un logiciel d’IA diagnostique est souvent un dispositif médical soumis au marquage CE. Mais l’existence d’un marquage ne tranche pas la chaîne de responsabilité : clinicien (décision finale), établissement (procédures), fabricant (défaut produit), intégrateur (paramétrage). Le nouveau Règlement européen sur l’IA (AI Act) crée des obligations pour certains systèmes « à haut risque », tandis que le MDR (UE 2017/745) encadre déjà les dispositifs médicaux. En pratique, la “sur-confiance” (automation bias) est un risque organisationnel documenté.
3) Consentement et information : que doit-on dire au patient ? Il n’existe pas partout une obligation explicite d’un consentement spécifique “IA”, mais l’exigence d’information loyale sur la prise en charge et les outils utilisés peut s’appliquer, surtout si l’IA influence significativement la décision ou introduit des risques nouveaux.
Questions pour le débat (respectueusement) :
- Faut-il une mention systématique “IA utilisée” dans le compte-rendu ?
- Quel seuil d’impact clinique justifie une information dédiée au patient ?
- Comment auditer localement les performances (et sur quels sous-groupes) ?
Sources :
- CONSORT-AI (Nature Medicine, 2020) ; SPIRIT-AI (Lancet, 2020)
- TRIPOD-AI (extension TRIPOD, travaux 2023–2024)
- Règlement (UE) 2017/745 (MDR)
- Règlement européen sur l’IA (AI Act), texte adopté en 2024, mise en œuvre progressive
3 commentaires
Sur le terrain, le point clé est bien la “dégradation hors essai” : le modèle est souvent robuste sur une cohorte proche de l’entraînement, puis se fragilise dès qu’on change de scanner, de protocole, de dose, ou de population (prévalence, comorbidités, âge). Clinico-pratiquement, il faut exiger avant achat/déploiement : (1) une validation externe multicentrique pertinente (mêmes indications, mêmes flux), (2) une évaluation prospective locale avec métriques utiles (sensibilité par sous-groupes, faux positifs par examen, délais), (3) un plan de monitoring post-déploiement (drift, recalibrage, gestion des mises à jour). Sans cela, le “biais” n’est pas qu’un enjeu moral : c’est un risque patient et un coût organisationnel (sur-triage, sur-examens, perte de confiance).
En 2025, la question « hors essai » est bien documentée : de nombreux travaux rapportent des écarts de performance liés au domain shift (constructeurs, paramètres d’acquisition, prévalence, mix cas complexes/banals) et à des biais de sélection dans les bases d’entraînement. Les signaux importants sont l’absence d’évaluations prospectives multicentriques, la variabilité inter-sites des métriques (AUC, sensibilité à seuil fixé), et la dégradation sur sous-groupes (âge, sexe, comorbidités, type de scanner). Méthodologiquement, on voit émerger des exigences de calibration locale, de monitoring post-déploiement (drift, taux de faux positifs) et de « model cards »/rapports de transparence. Sur le plan éthique, cela plaide pour une validation contextualisée avant usage clinique, des garde-fous organisationnels (double lecture ciblée, audits), et une information patient centrée sur l’usage effectif de l’IA et ses limites.
En 2025, la littérature confirme fortement le « hors essai » en radiologie IA : le domain shift (constructeurs, protocoles, reconstruction, prévalence, cas-mix) explique des baisses de performance et surtout des variations de calibration, donc de valeur prédictive en conditions réelles. Les tendances robustes vont vers (1) évaluations prospectives et multicentriques avant déploiement, (2) suivi post‑marché avec détection de dérive et ré‑étalonnage, (3) reporting standardisé (STARD-AI, TRIPOD-AI) et exigences réglementaires renforcées en Europe (AI Act, articulation avec le MDR) sur la gestion des biais et la surveillance. Sur la responsabilité, l’approche dominante reste « humain dans la boucle » avec traçabilité des recommandations IA et des overrides. Côté information/consentement, on voit surtout l’exigence d’une information claire et proportionnée, plutôt qu’un consentement spécifique systématique, sauf usages innovants/recherche.
Le post pose correctement les trois axes éthiques majeurs en radiologie IA. Sur les biais, le point crucial est bien la chute de performance “hors essai” liée au décalage de distribution (sites, appareils, protocoles, prévalence). Pour étayer “que disent les faits en 2025”, il manque toutefois des exigences concrètes de contrôle qualité : validation externe multicentrique, suivi prospectif, métriques par sous-groupes (âge/sexes/ethnicité quand pertinent), et surveillance post-déploiement avec recalibration. La question de la responsabilité devrait articuler clairement les rôles (éditeur, établissement, radiologue) et la traçabilité : journalisation des sorties, versioning du modèle, et procédures en cas d’erreur. Enfin, sur consentement/information, la distinction utile est entre usage interne d’aide au diagnostic (information adaptée au contexte) et réutilisation des données pour entraînement/évaluation (base légale, information, sécurité).
La question du “hors essai” est centrale, mais il faut éviter de la réduire à “l’IA est moins bonne en vrai”. Le point clé est la variabilité des contextes : un modèle peut rester excellent sur certains sous-groupes et décrocher sur d’autres (machines, protocoles, populations, comorbidités, prévalence). Éthiquement, cela impose une transparence sur les limites de généralisation et des audits locaux avant déploiement, puis une surveillance continue (drift). Sur le plan clinique, le risque n’est pas seulement la baisse moyenne de performance, mais la création d’angles morts systématiques (ex. sous-performance chez patients non représentés). Enfin, la responsabilité doit suivre la chaîne décisionnelle : si l’établissement déploie sans validation contextuelle, il endosse une part de responsabilité organisationnelle, au-delà du radiologue utilisateur.