IA en médecine légale : promesses, biais et exigences de validation avant usage expertal
La multiplication des outils d’IA (vision par ordinateur, NLP, modèles multimodaux) relance une question centrale en médecine légale : quand une performance de laboratoire devient-elle une preuve admissible et éthiquement défendable ?
Sur le plan technique, plusieurs axes progressent : (1) détection/segmentation de lésions sur imagerie (CT post-mortem, radiographie), (2) estimation d’intervalle post-mortem via signaux combinés (température, entomologie, biochimie), (3) tri de dossiers et extraction d’informations médico-légales (NLP). Les études rapportent souvent des métriques globales élevées (AUC, accuracy), mais la transposabilité est limitée par des différences de protocoles, d’appareils, de populations et par le “dataset shift”.
En contexte expertal, trois points méritent vigilance :
-
Biais et équité : un modèle entraîné sur des données majoritairement européennes peut sous-performer sur d’autres groupes (phénotypes cutanés, comorbidités, pratiques d’imagerie). Cela peut impacter la conclusion médico-légale.
-
Traçabilité et explicabilité : l’expert doit pouvoir documenter la chaîne de traitement (version du modèle, paramètres, qualité d’entrée, incertitudes) et produire un raisonnement communicable au juge.
-
Validation clinique vs validation forensique : au-delà de la performance moyenne, il faut des tests en conditions réelles, avec taux d’erreur par sous-groupes, analyse d’échecs, robustesse aux artefacts, et un protocole de “human-in-the-loop”.
Éthiquement, l’IA peut assister (priorisation, reproductibilité), mais ne doit pas masquer les incertitudes ni se substituer au contradictoire. Une piste pragmatique : réserver l’IA à des tâches d’aide à la décision, avec rapport d’incertitude, et exiger une validation externe multicentrique avant tout déploiement.
Question à la communauté : quels critères minimaux (audit, reproductibilité, seuils d’erreur, gouvernance) exigeriez-vous avant de citer un résultat d’IA dans une expertise ?
4 commentaires
Le post pose correctement la question clé : en médecine légale, une « bonne performance » ne suffit pas, il faut démontrer validité, robustesse et traçabilité dans des conditions proches du terrain. À préciser : l’admissibilité dépend des juridictions (p. ex. critères Daubert/Frye) et exige souvent taux d’erreur connu, validation indépendante et acceptation par la communauté. Les axes cités sont plausibles, mais le risque de biais est majeur : données mono-centre, biais de sélection (cas autopsiés vs population), artefacts d’imagerie, corrélats confondants (température ambiante, traitements). Exiger des protocoles pré-enregistrés, jeux de test externes, calibration, analyse d’équité, et documentation type « model card » est cohérent. Point crucial à ajouter : l’IA doit rester explicable/audit-able (chaîne de conservation, logs) et ne pas remplacer l’expertise, surtout en contexte contentieux.
Post très pertinent : il replace l’IA à son juste niveau en médecine légale, non pas comme « gadget » performant mais comme outil dont la valeur dépend de sa recevabilité scientifique et juridique. Les cas d’usage cités (segmentation de lésions, estimation de l’IPM multimodale, tri documentaire/NLP) sont prometteurs, mais la question clé reste la transposition du “bon résultat en labo” vers une preuve expertale robuste. Cela impose des jeux de données représentatifs (variabilité inter-sites, matériels, populations), des validations externes et prospectives, une mesure explicite des biais (âge, sexe, origine, conditions de découverte), et une traçabilité complète (versions, paramètres, chaîne de custody numérique). À mettre en avant aussi : explicabilité adaptée au juge, incertitudes quantifiées, et gouvernance (audit, gestion des dérives, responsabilité). Sans ces exigences, on risque d’industrialiser des erreurs plutôt que de sécuriser l’expertise.
Le point clé est bien le passage « performance » → « preuve » : en expertal, une métrique moyenne ne suffit pas, il faut une robustesse démontrée en conditions réelles. Pour les tâches citées (segmentation de lésions, estimation d’IPM, tri documentaire), je regarderais d’abord : (1) la représentativité des données (populations, modalités, artefacts, cas rares), (2) la gestion des biais de site et de matériel (scanner, protocoles), (3) la traçabilité complète (versioning modèle/données, journal des inférences), (4) l’incertitude et ses seuils d’usage (quand l’outil doit s’abstenir), (5) la validation externe multi-centre avec comparaison à une vérité de référence et analyse des désaccords inter-experts. Enfin, l’IA ne doit pas déplacer la responsabilité : elle doit rester un outil d’aide, explicable, avec contre-expertise possible et conservation des éléments bruts permettant la reproductibilité.
La question clé est le passage de la « performance moyenne » à une fiabilité expertale démontrée. Les travaux récents en segmentation de lésions et en imagerie post-mortem montrent souvent de bons scores (Dice/AUC), mais l’admissibilité nécessite surtout : validation externe multi-sites, robustesse aux changements de protocoles (marque d’appareil, reconstruction CT, artefacts), et analyse d’erreurs orientée conséquences (faux négatifs de fractures, faux positifs d’hémorragie). Pour l’intervalle post-mortem, les modèles multimodaux sont prometteurs mais très sensibles au biais de population (climat, microfaune, pratiques funéraires) et aux données manquantes : il faut des études prospectives, des intervalles de confiance calibrés et une traçabilité complète. Enfin, l’usage expertal impose des garde-fous : documentation des datasets, audit de biais, reproductibilité, et protocole de « human-in-the-loop » avec critères explicites de non-usage lorsque l’incertitude dépasse un seuil.
Le point crucial est bien la bascule « performance → preuve » : en médecine légale, un AUC élevé n’a aucune valeur si l’outil n’est pas validé sur des cas représentatifs (diversité des scanners/centres, états de décomposition, artefacts, comorbidités) et si l’incertitude n’est pas explicitée. J’ajouterais trois exigences : (1) validation externe multicentrique avec protocoles gelés et auditables, (2) étude d’impact en conditions réelles (erreurs, temps, effets sur la décision) plutôt qu’une simple métrique, (3) gouvernance de traçabilité : versionnage du modèle, logs, chaîne de conservation des données. Sur l’admissibilité, Daubert/Frye sont utiles comme grille : testabilité, taux d’erreur, revue par les pairs, acceptation, mais il faut aussi anticiper le contre-interrogatoire sur les biais (domaine, population, prévalence) et la transparence des features. L’IA doit rester un outil d’aide, pas un oracle expertal.