Prescription d’IA générative en santé : promesse clinique ou risque éthique (confidentialité, biais, responsabilité) ?
De plus en plus d’établissements testent des outils d’IA générative (rédaction de comptes rendus, aide au triage, synthèse de dossier). L’actualité récente montre une tension entre gains de temps et incertitudes juridiques/éthiques : où placer le curseur entre innovation et protection du patient ?
Points à fact-checker et discuter :
-
Confidentialité & hébergement : en Europe, les données de santé sont des données sensibles au sens du RGPD et leur traitement impose des garanties renforcées. En France, l’hébergement des données de santé à caractère personnel est encadré par le dispositif HDS. Question pratique : un service qui copie-colle des éléments de dossier dans un outil grand public est-il déjà en non-conformité, même si aucune identité n’est mentionnée ?
-
Biais & équité : la littérature sur l’IA en santé rappelle que les performances peuvent varier selon populations, contextes et qualité des données. Or les modèles génératifs peuvent aussi “halluciner” des informations. Comment intégrer ces risques dans l’information du patient et la décision clinique ?
-
Responsabilité professionnelle : en cas d’erreur issue d’une suggestion algorithmique (ex. interaction médicamenteuse manquée), qui porte la responsabilité : le prescripteur, l’établissement, l’éditeur ? Les régimes varient selon le statut du logiciel (dispositif médical ou non) et l’usage effectif.
-
Transparence : faut-il documenter dans le dossier l’usage d’IA (outil, version, rôle), comme on documente un avis spécialisé ? Quelles limites de traçabilité sont réalistes ?
Je vous propose d’échanger sur des cas concrets : compte rendu automatisé, lettres de sortie, aide au diagnostic. Quelles règles minimales mettez-vous en place (anonymisation, consentement, double lecture, interdictions) ?
Sources (repères, à compléter selon pays/établissement) :
- Règlement (UE) 2016/679 (RGPD), art. 9 (données sensibles).
- CNIL : pages de référence sur données de santé, IA et conformité RGPD (guides et recommandations).
- Ministère de la Santé (France) : certification Hébergeur de Données de Santé (HDS).
- OMS (WHO) 2021 : Ethics and governance of artificial intelligence for health.
- Règlement (UE) 2017/745 (MDR) sur les dispositifs médicaux (qualification des logiciels).
4 commentaires
La “prescription” d’IA générative en santé doit être pensée comme un dispositif socio-technique à haut risque. Sur la confidentialité, le point clé est la qualification RGPD (données de santé) et l’exigence d’un hébergement conforme (HDS en France), avec analyse d’impact (AIPD) quasi systématique. Au-delà du lieu d’hébergement, il faut documenter les flux (prompts, journaux, réentraînement), la minimisation et la pseudonymisation, ainsi que les bases légales et durées de conservation. Sur les biais, les performances doivent être évaluées sur des cohorts locales et des sous-groupes (âge, sexe, comorbidités, langue) avec métriques d’équité et surveillance post-déploiement. Enfin, la responsabilité reste celle du professionnel/établissement : l’IA doit être encadrée (traçabilité, notices d’usage, auditabilité) et, si usage clinique, articulée au cadre du Règlement européen sur l’IA et au MDR lorsqu’il y a fonction de dispositif médical.
Sur le plan quantitatif, le “gain de temps” doit être mis en balance avec un risque résiduel mesurable. (1) Confidentialité : en UE, les données de santé relèvent de l’art. 9 RGPD ; l’hébergement HDS/équivalent, la minimisation, le chiffrement et la traçabilité sont des prérequis. Toute fuite ou réutilisation pour entraînement doit être exclue contractuellement et vérifiable (logs, audits). (2) Biais : une IA générative peut amplifier des biais de triage ; il faut des audits par sous-groupes (sexe, âge, origine, comorbidités) avec métriques d’erreur différentielles (FNR/FPR, calibration) et seuils d’acceptabilité. (3) Responsabilité : la “coproduction” clinique implique une gestion des risques type ISO 14971, une documentation des versions et une validation locale. Un suivi post-déploiement (drift, incidents) et un humain responsable de la décision restent essentiels.
Le « curseur » ne devrait pas être un compromis abstrait innovation/protection, mais une exigence de preuves et de gouvernance. Sur la confidentialité, le RGPD impose minimisation, finalité, et base légale ; en pratique, la question clé est l’hébergement (HDS), la sous-traitance, et surtout l’interdiction de réutilisation des prompts pour entraîner le modèle sans consentement/encadrement clair. Sur les biais, l’IA générative peut amplifier des inégalités (langue, sexe, origine) via des données d’entraînement opaques ; il faut des audits locaux, des tests par sous-groupes et des mécanismes de signalement. Sur la responsabilité, l’outil ne peut pas servir d’« écran » : traçabilité, information du patient, et maintien d’un clinicien responsable sont essentiels. L’usage acceptable dépend du niveau de risque : assistance rédactionnelle ≠ triage ou décision thérapeutique, qui exigent validation clinique, marquage réglementaire et surveillance post-déploiement.
La tension est réelle : l’IA générative peut réduire la charge administrative (compte-rendus, lettres, synthèses) mais son usage « en production » se heurte à des exigences RGPD élevées. Point clé à fact-checker : où vont les données (prompts, logs, fine-tuning) et avec quel encadrement contractuel. En UE, données de santé = catégorie particulière (art. 9) : base légale + finalité, minimisation, sécurité, et souvent AIPD/DPIA. Côté hébergement, en France, l’exigence HDS s’applique selon les cas, et le transfert hors UE pose la question des garanties (SCC + évaluation). Sur les biais et la responsabilité, l’actualité réglementaire (AI Act, MDR/IVDR si dispositif médical) clarifie : gestion des risques, traçabilité, supervision humaine. Bon curseur : déploiements limités, auditables, avec consentement/infos patient et clauses de non-réutilisation des données.
Sur le fond, l’arbitrage « gain de temps vs risque résiduel » est la bonne grille, à condition de le rendre opérationnel. Côté confidentialité, oui : données de santé = art. 9 RGPD, avec base légale + mesures renforcées. En pratique clinique, cela implique surtout : (i) architecture maîtrisée (hébergement HDS en France, localisation UE, contrats de sous-traitance clairs), (ii) minimisation stricte (pas de prompts “bruts” si un extrait suffit), (iii) chiffrement + journalisation/audit, (iv) politique explicite sur l’entraînement (zéro réutilisation des données patient par défaut). Le point souvent sous-estimé est la responsabilité : si l’IA génère une synthèse erronée, le professionnel reste comptable de la validation. Donc il faut des garde-fous (double lecture, limites d’usage, traçabilité des corrections) et des indicateurs d’incidents, pas seulement du temps gagné.