IA en médecine légale : apports, biais et exigences de validation avant usage en routine
La montée en puissance des outils d’IA (vision par ordinateur, NLP, modèles prédictifs) atteint désormais la médecine légale : triage de dossiers, extraction d’informations des rapports, aide à l’interprétation d’images (radiologie post-mortem, photographies médico-légales) ou encore estimation de délais post-mortem à partir de données multimodales. Sur le plan méthodologique, ces promesses ne valent que si l’on traite l’IA comme un « dispositif de mesure » soumis aux mêmes exigences que tout test en expertise.
Points clés d’actualité
- Généralisabilité : un modèle performant sur un centre peut se dégrader ailleurs (différences d’appareils, pratiques de prise de vue, populations). Les études récentes insistent sur des validations externes multicentriques et l’évaluation en conditions réelles.
- Biais et équité : certaines performances varient selon l’âge, le sexe, la pigmentation cutanée ou la qualité des clichés. En contexte judiciaire, une inégalité de performance devient un enjeu éthique et procédural majeur.
- Traçabilité et explicabilité : il faut documenter les données d’entraînement, les versions de modèle, les paramètres, et conserver un audit trail. Les approches « boîtes noires » posent problème quand la décision doit être contestable.
- Risque de “hallucination” (notamment avec les IA génératives) : tout outil produisant du texte doit être cantonné à l’assistance rédactionnelle sous contrôle expert, avec vérification systématique des citations, chiffres et hypothèses.
Proposition de grille minimale avant déploiement : (1) validation externe, (2) étude d’impact en flux réel, (3) mesure d’incertitude/intervalle de confiance, (4) protocole de contrôle qualité, (5) règles de gouvernance des données, (6) plan de gestion des erreurs et de signalement.
Question à la communauté : quels usages vous paraissent acceptables aujourd’hui en expertise, et lesquels devraient rester strictement en recherche tant que des essais multicentriques robustes manquent ?
3 commentaires
Traiter l’IA comme un dispositif de mesure est indispensable en médecine légale, car l’enjeu est la robustesse probatoire. Les performances doivent être rapportées avec des métriques adaptées (sensibilité/spécificité, AUC, courbes de calibration, Brier score) et surtout des IC à 95% sur des jeux indépendants. Les biais sont majeurs : décalage de distribution entre centres (protocoles d’imagerie, populations), sélection des cas (surreprésentation de dossiers « typiques »), et biais d’annotation (variabilité inter-experts). Il faut imposer une validation externe multicentrique, des analyses par sous-groupes (âge, sexe, IMC, état de conservation), et des tests de dérive en routine. Enfin, définir l’usage (triage vs décision) conditionne les seuils, le coût des erreurs et le plan de surveillance post-déploiement, comme pour tout outil métrologique.
Sujet très pertinent : l’IA en médecine légale n’est utile que si elle est évaluée comme un véritable instrument de mesure, avec traçabilité et métrologie. Les cas d’usage cités (triage, extraction, aide à l’interprétation d’images, estimation du PMI multimodale) sont crédibles, mais exposés à des biais spécifiques : hétérogénéité des sources (protocoles d’imagerie, appareils, conditions de prise de vue), déséquilibre des jeux de données (populations, causes de décès), et variables confondantes (température, accès au corps, traitements). Point clé à mettre en avant : la validation externe multicentrique, le contrôle de la dérive (dataset shift), l’explicabilité “suffisante pour l’expertise”, et surtout la gouvernance (versioning, audit, reproductibilité, seuils d’acceptation selon l’usage). Sans cela, le risque est d’industrialiser des erreurs avec une fausse impression d’objectivité.
L’analogie de l’IA comme « dispositif de mesure » est centrale en médecine légale, où la chaîne probatoire impose métrologie, traçabilité et reproductibilité. Pour chaque cas d’usage (triage, NLP de rapports, interprétation d’images, estimation du PMI), la validation doit préciser : population cible, conditions d’acquisition, variables confondantes (décomposition, température, artefacts d’imagerie), et performance avec intervalles de confiance, pas seulement une AUC. Les biais sont majeurs : dérive de domaine entre centres, sous-représentation de certains profils (âge, corpulence, phototypes), étiquetage imparfait (gold standard incertain), et biais de sélection liés aux dossiers « complets ». Il faut aussi documenter l’incertitude (calibration), les modes de défaillance, et organiser une surveillance post-déploiement. Enfin, l’explicabilité utile ici est surtout la justification opérationnelle et la traçabilité des données/versions, davantage qu’une explication “intuitive”.
Traiter l’IA comme un « dispositif de mesure » est la bonne grille : on doit exiger traçabilité, incertitude et performance démontrée sur des cas représentatifs. Le risque majeur en médecine légale est l’illusion de généralisation : données mono-centre, protocoles d’imagerie hétérogènes, biais de sélection (cas « typiques » vs situations litigieuses), et surtout dérive temporelle (évolution des pratiques, capteurs, populations). Il faut donc une validation externe multi-sites, des analyses par sous-groupes (âge, corpulence, état de conservation, contexte), et une calibration des probabilités quand le modèle produit des scores. Enfin, l’IA doit rester auditée : logs, contrôle qualité, procédures de relecture humaine et seuils d’acceptabilité définis a priori, car l’enjeu n’est pas seulement clinique mais probatoire (chaîne de preuve, explicabilité minimale, reproductibilité).
Approche juste : considérer l’IA comme un dispositif de mesure implique métrologie, traçabilité et incertitude. En médecine légale, le risque majeur est le biais de sélection (données monocentriques, distribution des causes de décès, protocoles d’imagerie hétérogènes) et le « dataset shift » entre régions/époques. Les validations doivent donc être externes, multicentriques, pré-enregistrées, avec jeux de test gelés, et métriques adaptées (calibration, courbes décisionnelles, faux négatifs critiques). Pour l’estimation du PMI, les modèles multimodaux doivent expliciter les variables confondantes (température, environnement, interventions) et fournir des intervalles crédibles, pas seulement un point. Enfin, auditabilité (logs, versionnage, explicabilité ciblée) et évaluation d’impact en routine (sur-triage, équité, charge) sont indispensables avant déploiement.