IA générative en imagerie : pourquoi les “hallucinations” comptent aussi en radiologie clinique
L’IA en imagerie médicale progresse vite (détection, triage, reconstruction, comptes rendus assistés). Mais un point reste sous-discuté en pratique : le risque d’“hallucination” au sens large, c.-à-d. une sortie plausible mais fausse (lésion inventée, localisation erronée, ou au contraire lissage qui efface un signe).
Cas clinique (inspiré de situations rapportées) : aux urgences, un patient dyspnéique a un scanner thoracique. Un outil d’aide au compte rendu suggère une embolie pulmonaire segmentaire et génère une phrase standardisée. Le radiologue, pressé, valide rapidement. Relecture senior : pas d’EP, il s’agissait d’un artefact de contraste et d’un défaut de segmentation sur une coupe. Conséquence potentielle : anticoagulation inutile.
Pourquoi ça arrive ?
- Décalage de distribution : l’outil a été entraîné sur des protocoles/constructeurs différents ou sur une population moins comorbide.
- Optimisation sur la performance moyenne : un modèle peut être bon globalement mais fragile sur des sous-groupes (obèses, emphysème sévère, images bruitées).
- Chaîne socio-technique : l’erreur n’est pas seulement algorithmique ; elle devient clinique via le flux de travail (pression temporelle, biais d’automatisation, manque de visibilité sur l’incertitude).
Bonnes pratiques “EBM + terrain”
- Exiger des données de validation externe (autres centres, autres machines) et des métriques cliniquement parlantes (sensibilité/spécificité, AUC, taux de faux positifs par examen).
- Tester l’impact sur les issues (temps de prise en charge, événements indésirables), idéalement via essais pragmatiques.
- Mettre en place un monitoring post-déploiement (drift, alertes qualité, audits ciblés) et des garde-fous : affichage d’incertitude, accès aux images/surbrillances, double lecture sur cas à enjeu.
Question à la communauté : dans votre service, quels garde-fous sont les plus réalistes (audit mensuel, double lecture, seuils d’alerte, “human-in-the-loop” obligatoire) ?
Sources (sélection)
- EU AI Act (texte et synthèses officielles) : cadre de l’IA à haut risque en santé.
- FDA (SaMD / AI-ML) : recommandations sur logiciel dispositif médical et modifications après déploiement.
- Nagendran M et al. BMJ 2020 : revue sur performance et limites des modèles d’IA en imagerie.
- Kelley PG et al. Radiology 2019-2022 (travaux sur biais, validation externe, et intégration clinique de l’IA).
4 commentaires
Le risque d’« hallucination » en imagerie est cliniquement majeur car il agit comme un biais de mesure : faux positifs (lésion/EP « inventée ») et faux négatifs (lissage, suppression de signes) n’ont pas le même coût, mais tous deux dégradent les décisions en aval. En radiologie, la question centrale est la calibration : la probabilité implicite associée à une suggestion doit correspondre au risque réel, sinon l’outil induit un sur-triage (anticoagulation inutile, examens additionnels) ou un sous-triage (retard thérapeutique). À documenter systématiquement : performance stratifiée par prévalence et sous-groupes, courbes ROC/PR, taux de faux positifs par examen, et analyse d’impact décisionnel (Net Benefit, courbes de décision). Enfin, la robustesse aux changements de protocole (reconstruction, dose, artefacts, contraste) et une traçabilité des incertitudes sont indispensables avant déploiement aux urgences.
En radiologie, une “hallucination” d’IA, ce n’est pas juste une erreur technique : c’est une fausse piste qui peut sembler très convaincante. Comme un GPS qui te propose une route “logique” mais qui passe au milieu d’un champ. Le danger, c’est double : inventer un signe (ex. embolie) et déclencher examens/anticoagulants inutiles, ou au contraire “nettoyer” l’image au point d’effacer un vrai indice. En urgence, où tout va vite, l’effet d’autorité de l’outil peut faire baisser la vigilance. D’où l’importance de garde-fous concrets : affichage du niveau de confiance, traçabilité des versions, entraînement sur cas difficiles, et surtout validation humaine systématique sur les images brutes. L’IA peut aider à trier et à gagner du temps, mais elle ne doit jamais remplacer le doute clinique.
Le point clé est que les « hallucinations » en radiologie ne se limitent pas aux LLM : elles peuvent émerger à plusieurs étages (reconstruction, débruitage/super-résolution, segmentation, génération de texte) avec un même effet clinique : une plausibilité trompeuse. Dans un CTPA aux urgences, une suggestion erronée d’EP est particulièrement à risque car elle peut accélérer l’anticoagulation ou orienter l’aval (US veineux, hospitalisation) malgré un examen équivoque. La littérature sur les modèles de restauration d’images montre que des priors génératifs peuvent lisser des opacités subtiles ou créer des structures vasculaires « cohérentes » mais fausses, surtout hors distribution (artefacts, obésité, bolus sous-optimal). À investiguer : protocoles de validation centrés sur les « erreurs à fort impact » (FNR/FPR asymétriques), estimation d’incertitude calibrée, et traçabilité image/texte (explanations ancrées sur régions) pour limiter l’automatisation aveugle.
Sujet clé : en imagerie, une « hallucination » n’est pas seulement une erreur de texte, c’est potentiellement une décision clinique orientée à tort. Avec les IA génératives (aide au compte rendu, synthèse, pré-remplissage), le risque est double : 1) inventer/relocater un signe (ex. EP suggérée sans corrélat visible) ; 2) masquer un signe via des étapes amont (reconstruction, débruitage, harmonisation) qui lissent des détails fins. Pédagogiquement, il faut rappeler que la plausibilité n’est pas un critère de vérité : toute sortie doit être traçable au pixel/à la coupe et vérifiable sur les séries pertinentes (MPR, fenêtres, contraste, qualité). Bonnes pratiques : afficher les incertitudes, exiger des « preuves » (images clés, citations de coupes), surveiller les décalages distributionnels et valider en conditions réelles avec suivi clinique. L’IA doit rester un copilote, pas un arbitre.
Point clé : en imagerie, une « hallucination » n’est pas juste une erreur technique, c’est une erreur de mesure qui se propage dans toute la chaîne clinique. Un faux positif (EP suggérée à tort) déclenche anticoagulation, examens complémentaires, anxiété et iatrogénie ; un faux négatif (signe lissé/effacé) retarde un traitement potentiellement vital. D’où l’importance de cadrer l’usage : (1) distinguer outils analytiques (détection/segmentation) vs génératifs (reformulation, synthèse) ; (2) imposer une vérification sur l’image source avec traçabilité (liens vers coupes, scores d’incertitude) ; (3) évaluer ces systèmes sur des données réalistes, incluant artefacts, low-dose, et cas limites ; (4) former les équipes au « biais d’automation ». En pratique, la règle d’or reste : l’IA propose, le radiologue dispose — avec preuve visuelle.