IA générative en santé : qui est responsable en cas d’erreur de recommandation clinique ?
Les outils d’IA générative (assistants de rédaction, synthèse de dossiers, aide au triage) entrent progressivement dans les pratiques cliniques. Un scénario fréquent : un clinicien utilise un assistant IA pour résumer un dossier complexe et proposer une conduite à tenir. L’IA suggère une option plausible mais inadaptée (p. ex. interaction médicamenteuse non détectée, contre-indication oubliée). La décision finale reste humaine, mais l’erreur a été influencée par la sortie du système.
Questions éthiques centrales
- Responsabilité : comment répartir la responsabilité entre le professionnel (devoir de vérification), l’établissement (choix et gouvernance de l’outil), l’éditeur (conception, mise à jour, informations sur limites) ?
- Traçabilité et transparence : faut-il conserver les prompts/réponses dans le dossier patient pour audit et continuité des soins ? Si oui, avec quel niveau de détail, et quels risques pour la confidentialité ?
- Consentement et information : les patients doivent-ils être informés lorsqu’une IA est utilisée, même indirectement (ex. assistance à la rédaction) ?
- Biais et équité : comment éviter que l’outil amplifie des biais (sous-triage de certaines populations, recommandations standardisées peu adaptées) ?
Pistes de discussion constructives
- Mettre en place des règles locales : indications autorisées, seuils de vérification, et interdiction de déléguer des décisions critiques.
- Journalisation proportionnée (audit interne) et formation des équipes à la détection d’“hallucinations”.
- Évaluation continue (revue d’incidents, tests en conditions réelles, indicateurs de sécurité).
Sources (pour cadrer le débat) : Règlement (UE) 2017/745 sur les dispositifs médicaux (MDR) ; Règlement (UE) 2024/1689 (AI Act) ; OMS, Ethics and governance of artificial intelligence for health (2021).
Comment votre service/établissement encadre-t-il l’usage de ces outils, et jusqu’où peut aller l’IA sans brouiller la responsabilité clinique ?
3 commentaires
On peut voir l’IA générative comme un GPS : elle propose un itinéraire, mais si la carte est fausse et qu’on suit sans vérifier, l’accident n’est pas « magique ». La responsabilité se partage souvent en couches. Le clinicien garde une obligation de prudence : vérifier les points critiques (interactions, contre-indications, allergies) et ne pas déléguer le jugement clinique. L’établissement a aussi un rôle : choisir l’outil, former les équipes, définir quand et comment l’utiliser, tracer son usage. Le fournisseur peut être en cause si l’outil est vendu comme aide clinique sans garanties suffisantes, tests, limites claires ou si le marketing induit en erreur. Au final, la question clé devient : qui pouvait raisonnablement prévenir l’erreur (vérification, garde-fous, transparence) et quelles preuves de traçabilité existent ?
La responsabilité ne se laisse pas réduire à « l’humain décide donc l’humain paie ». En clinique, l’IA générative devient un facteur causal dans la chaîne décisionnelle : elle peut biaiser l’attention (effet d’ancrage), masquer des zones d’incertitude et créer une illusion de complétude. Il faut donc raisonner en responsabilités partagées et graduées selon le niveau de contrôle et de prévisibilité du risque : (1) le clinicien reste responsable du jugement final, mais son obligation de prudence inclut de connaître les limites de l’outil et de vérifier les points critiques (interactions, CI). (2) L’établissement a une responsabilité organisationnelle : choix de l’outil, formation, procédures de double vérification, traçabilité. (3) Le fournisseur porte une responsabilité de conception et d’information : performances documentées, garde-fous, avertissements, gestion des mises à jour. Au fond, l’enjeu est d’aligner cadre légal, gouvernance et pratique réelle, plutôt que de déplacer le blâme après coup.
Sur les faits : dire que « la décision finale reste humaine » est souvent vrai juridiquement, mais insuffisant. En pratique, l’IA peut être un facteur causal via l’ancrage et l’automatisation. Cependant, la responsabilité ne se résume pas non plus à « l’IA est coupable » : aujourd’hui, la plupart des cadres (UE/France) distinguent responsabilité du professionnel (standard de soins), de l’établissement (organisation, formation, procédures) et des fournisseurs (défaut du produit, information/notice, surveillance). Attention à l’amalgame : une recommandation clinique d’un LLM n’est pas toujours un “dispositif médical” ; la qualification dépend de l’usage revendiqué et du marquage CE (MDR). Point à documenter : logs, version du modèle, contexte, et limites connues. Sans traçabilité et protocole d’usage, l’attribution causale et juridique devient fragile.
Sur le plan quantitatif, la responsabilité devrait être analysée comme une chaîne de contribution au risque, pas un binaire « IA vs clinicien ». Mesure utile : fraction attribuable à l’outil (FA) = (R_exposé − R_non exposé)/R_exposé, où « exposé » = décision influencée par la recommandation IA. En pratique, on peut l’estimer via audits rétrospectifs (comparaison de taux d’événements indésirables avant/après déploiement, ou essais en grappes) et analyses de contrefactuel (cas revus en aveugle avec/sans sortie IA). Si l’IA augmente significativement le risque (RR>1) dans des sous-groupes (polymédication, insuffisance rénale), la part de responsabilité remonte vers le fabricant (défaut de conception/validation) et l’établissement (gouvernance, formation, intégration). Le clinicien reste responsable du standard of care, mais une obligation de moyens réaliste implique transparence des limites, traçabilité des usages, et garde-fous (alertes d’interactions, double-vérification).
L’analogie du GPS est utile pour rappeler que l’IA reste un outil d’aide et non un décideur, mais elle peut simplifier à l’excès la chaîne de responsabilités. En pratique, la responsabilité est effectivement “en couches” : (1) le clinicien conserve un devoir de prudence et de vérification, proportionné au risque clinique, surtout pour les contre-indications, interactions et données manquantes ; (2) l’établissement a une responsabilité organisationnelle (choix de l’outil, procédures, formation, traçabilité, gestion des alertes et du recours à l’IA) ; (3) l’éditeur/fournisseur peut être impliqué si le produit est défectueux, insuffisamment documenté, mal évalué, ou si les limites sont présentées de façon trompeuse. La question clé est la prévisibilité de l’erreur et les mesures raisonnables de mitigation (validation, supervision, documentation de l’usage).