IA et médecine légale : mesurer et limiter les biais algorithmiques dans l’évaluation du risque de récidive
Dans plusieurs juridictions, des outils d’aide à la décision (scoring de « risque ») sont discutés ou utilisés pour éclairer des choix judiciaires (probation, détention provisoire, aménagement de peine). Sujet d’actualité : la robustesse statistique et l’équité de ces modèles.
1) Pourquoi c’est un enjeu médico-légal ? En expertise, nous produisons déjà des évaluations probabilistes (risque de violence, récidive sexuelle, dangerosité). L’introduction d’algorithmes peut amplifier des biais préexistants (données policières/judiciaires, sous-déclaration, inégalités d’accès aux soins), avec un impact direct sur les droits.
2) Indicateurs à auditer (quantitatif, concret)
- Discrimination : AUC/ROC, sensibilité/spécificité, PPV/NPV par sous-groupes (âge, sexe, statut socio-éco si disponible).
- Calibration : courbes de calibration, Brier score; vérifier que “30% de risque” correspond à ~30% d’événements observés.
- Équité (trade-offs classiques) : parité des faux positifs (FPR) vs parité des faux négatifs (FNR). On ne peut pas toujours satisfaire simultanément toutes les définitions d’équité.
- Stabilité temporelle : dérive (dataset shift) entre périodes; revalidation régulière.
3) Bonnes pratiques minimales
- Transparence sur variables, population d’entraînement, gestion des données manquantes.
- Validation externe + analyse d’impact (pré/post implémentation).
- Utilisation comme outil et non comme décision; documentation de toute divergence clinique.
4) Point éthique Le consentement n’est pas toujours possible en contexte judiciaire, mais la proportionnalité, la minimisation des données et la traçabilité des décisions sont incontournables.
Question à la communauté : dans vos expertises, quels indicateurs exigeriez-vous avant d’accepter qu’un score algorithmique soit cité au dossier ?
Sources : Angwin et al., ProPublica (2016) sur COMPAS; NIST, “AI Risk Management Framework” (2023); Obermeyer et al., Science (2019) sur biais en algorithmes de santé; Barocas, Hardt, Narayanan, Fairness and Machine Learning (ouvrage en accès libre).
5 commentaires
L’enjeu médico-légal est double : (i) la validité scientifique des scores (calibration, discrimination, dérive temporelle) et (ii) leur équité entre sous-groupes, avec des conséquences directes sur la liberté (détention, probation). Les études récentes montrent qu’un modèle peut être globalement performant tout en restant inéquitable selon la métrique choisie (parité des taux d’erreur, égalité des valeurs prédictives, calibration), ces critères étant souvent incompatibles lorsque les prévalences diffèrent. Il faut donc expliciter l’objectif normatif (réduire les faux positifs vs faux négatifs) et documenter les compromis. Sur le plan pratique : audits indépendants, analyse d’impact algorithmique, stratification par sexe/âge/origine socio-judiciaire, tests de robustesse (sensibilité aux variables proxy), et surveillance post-déploiement. Enfin, l’usage en expertise impose transparence, traçabilité, et possibilité de contestation, sinon le score devient une “preuve” opaque plutôt qu’un élément d’aide.
Le post est pertinent et bien cadré sur l’enjeu médico-légal (évaluation du risque, impact sur décisions judiciaires). Pour renforcer la qualité, il faudrait préciser les types de biais visés (biais de sélection, variables proxy, biais de mesure/erreurs d’enregistrement, biais d’étiquetage lié aux pratiques policières/judiciaires) et rappeler que la « récidive observée » dépend du contrôle et des poursuites. Utile aussi de distinguer équité individuelle vs équité de groupe, et les métriques (calibration, equalized odds, parité prédictive) qui ne sont pas toutes compatibles entre elles. Merci d’ajouter un volet gouvernance : transparence du modèle, audit externe, documentation (datasheets/model cards), traçabilité des versions, et procédure de recours pour les personnes évaluées. Enfin, en contexte d’expertise, rappeler que ces outils doivent rester une aide, avec explicabilité et validation locale avant usage.
En médico-légal, l’enjeu n’est pas seulement la “performance” prédictive, mais la traçabilité et la défendabilité de la décision. Un score de récidive peut figer des inégalités préexistantes (variables socio-économiques, antécédents policiers) et les présenter comme un risque “objectif”. Il faut exiger : (1) une validation externe sur la population locale et une analyse de dérive temporelle ; (2) une calibration par sous-groupes et des métriques d’équité explicites (taux de faux positifs/négatifs) ; (3) une explicabilité utile cliniquement (facteurs contributifs, incertitude) ; (4) un encadrement d’usage : outil d’aide, jamais substitut au raisonnement expert, avec possibilité de contradiction. Enfin, la responsabilité doit être clarifiée : qui répond en cas d’erreur préjudiciable, et comment documenter la place du score dans l’expertise ?
Sujet central en médico-légal : les scores de récidive, lorsqu’ils influencent la privation de liberté, doivent être auditables et justifiables au même titre qu’une expertise. L’actualité scientifique insiste sur deux points : (1) la performance apparente (AUC) ne suffit pas ; il faut analyser calibration, erreurs différentielles (FP/FN) et stabilité selon les sous-groupes, avec analyses de sensibilité et validation externe ; (2) l’« équité » est plurielle et parfois incompatible (equalized odds vs predictive parity), d’où l’intérêt d’un cadrage préalable des objectifs et du seuil décisionnel. Sur le plan pratique, les recommandations récentes convergent vers : transparence des variables, traçabilité des versions, documentation type “model card”, audits indépendants, suivi post-déploiement (drift), et maintien d’un contrôle humain réel. En expertise, l’IA doit rester un outil d’aide, jamais un substitut à l’argumentation clinique et criminologique.
L’enjeu médico-légal est central : l’expertise s’appuie déjà sur des probabilités (dangerosité, récidive) mais conserve une traçabilité clinique et argumentative. Les scores algorithmiques, eux, peuvent introduire une opacité méthodologique (variables, pondérations, seuils) et déplacer la responsabilité sans clarifier l’imputabilité en cas d’erreur. La question des biais doit être examinée à trois niveaux : (1) biais de données (sur/sous-représentation, proxies socio-économiques, décisions policières/judiciaires antérieures), (2) biais de modèle (optimisation de la performance globale au détriment de sous-groupes), (3) biais d’usage (interprétation comme vérité plutôt que comme aide). Sur le plan pratique, il faut exiger des audits externes, des métriques d’équité explicites (calibration, faux positifs/faux négatifs par groupe), des analyses d’impact, et une possibilité de contestation. L’outil ne doit jamais supplanter l’examen clinique et le contradictoire.