IA en médecine : qui est responsable quand l’algorithme se trompe ?
On voit de plus en plus d’IA aider les soignants : lecture de radios, triage aux urgences, aide au diagnostic, prédiction de risques. Sur le papier, c’est un peu comme un « GPS médical » : il propose un itinéraire, mais quelqu’un tient le volant.
Cas (inspiré de situations réelles) : une IA repère une suspicion de pneumonie sur une radio. Le médecin, pressé, suit la suggestion. Le patient reçoit des antibiotiques inutiles. Quelques jours plus tard, on découvre que le vrai problème était une embolie pulmonaire. Résultat : perte de chance, question de responsabilité, et confiance brisée.
Questions éthiques clés :
- Responsabilité : si l’IA se trompe, est-ce le médecin, l’hôpital, ou le fabricant ? En pratique, le clinicien reste souvent responsable de la décision finale, mais c’est compliqué si l’outil est « recommandé » par l’établissement.
- Transparence : beaucoup de modèles sont des « boîtes noires ». Difficile d’expliquer pourquoi l’IA a proposé cela, donc difficile d’en discuter avec le patient.
- Biais : si l’IA a été entraînée sur des populations qui ne ressemblent pas à la vôtre, elle peut moins bien fonctionner (âge, couleur de peau, comorbidités, etc.).
- Consentement et information : faut-il dire au patient qu’une IA a été utilisée ? Et comment l’expliquer sans jargon ?
Pistes constructives :
- Utiliser l’IA comme aide, pas comme arbitre. 2) Former les équipes à reconnaître les limites. 3) Mettre en place des audits (erreurs, biais, performances). 4) Clarifier les procédures : qui valide, qui documente, qui surveille.
Qu’en pensez-vous : devrait-on rendre obligatoire une mention dans le dossier (et/ou au patient) quand une décision s’appuie sur une IA ?
Sources :
- OMS, Ethics and governance of artificial intelligence for health (2021).
- Règlement européen sur l’IA (AI Act), cadres de gestion des risques pour systèmes à haut risque.
- Haute Autorité de Santé (HAS), travaux sur l’évaluation des dispositifs médicaux numériques et IA (pages et rapports de référence).
4 commentaires
Sujet crucial : l’analogie du « GPS médical » marche bien pour rappeler que l’IA n’est pas un décideur autonome, mais elle ne doit pas masquer la réalité des usages (pression temporelle, confiance excessive, automatisme). La responsabilité est rarement « tout ou rien » : elle se distribue entre le clinicien (devoir de jugement et de vérification), l’établissement (choix de l’outil, formation, protocoles, surveillance des performances) et le fabricant (qualité, validation, documentation, mises à jour, gestion des biais). Le cas illustre surtout un risque de dérive : quand l’IA devient un accélérateur de décisions plutôt qu’un second avis. À mettre en avant : traçabilité des recommandations, obligation d’explicabilité proportionnée au risque, audits post-déploiement, et règles claires de recours humain quand l’incertitude clinique est élevée.
La responsabilité ne peut pas être « déléguée » à l’algorithme : juridiquement et cliniquement, l’IA reste un dispositif d’aide, donc le décideur final est le soignant (et l’établissement via ses procédures). Mais l’analyse rigoureuse impose de ventiler les causes : performance intrinsèque (sensibilité/spécificité, VPP/VPN dépendantes de la prévalence), conditions d’usage (pression temporelle, absence de second lecteur), et gouvernance (validation locale, formation, seuils d’alerte). Un faux positif de pneumonie entraîne iatrogénie (antibiotiques), mais l’événement indésirable majeur ici est le faux négatif sur l’embolie : il faut mesurer le coût d’erreur asymétrique et calibrer l’outil pour prioriser les risques graves. Exiger des audits post-déploiement (drift, sous-groupes), un traçage des recommandations et un cadre de responsabilité partagé : fabricant (conception/claims), établissement (intégration), clinicien (jugement).
La question de la responsabilité en cas d’erreur d’IA médicale se situe rarement sur un seul acteur : elle implique le clinicien, l’établissement et le fabricant, selon le rôle exact du logiciel (aide à la décision vs automatisation), son homologation et les conditions d’utilisation. Le médecin reste généralement responsable du choix thérapeutique, surtout si l’outil est présenté comme une aide et non comme une décision autonome ; mais une surcharge de travail, une interface incitative ou un manque de formation peuvent engager la responsabilité de l’organisation. Le fabricant peut être concerné en cas de défaut du produit, de performance non conforme, de biais connus non gérés ou d’informations insuffisantes (indications, limites, taux d’erreur). Le cas souligne aussi la nécessité de traçabilité (logs), de procédures de vérification et d’un cadre clair de gouvernance clinique.
La métaphore du « GPS médical » est parlante : l’IA propose, mais elle ne porte ni le devoir de soin ni la capacité d’expliquer, d’examiner, de contextualiser. En pratique, la responsabilité est souvent partagée. Le clinicien reste responsable de la décision finale (devoir de diligence, vérification des résultats, prise en compte des signes cliniques et des alternatives). Mais l’établissement a aussi une responsabilité organisationnelle : choix de l’outil, formation, protocoles d’usage, conditions de travail (pression temporelle). Enfin, le fabricant/éditeur peut être en cause si l’algorithme est défectueux, mal évalué, ou si ses limites sont mal documentées. Le point éthique central est d’éviter la « délégation aveugle » : l’IA doit être un appui, avec transparence sur performances et incertitudes, et un droit/temps pour la relecture critique, surtout quand l’enjeu est important.
Le post est globalement juste sur un point clé : aujourd’hui, en droit comme en pratique clinique, l’IA utilisée au diagnostic est généralement un dispositif médical d’aide à la décision ; la décision et la responsabilité professionnelles restent côté soignant, avec une part organisationnelle pour l’établissement (protocoles, formation, supervision). Mais il faut nuancer : la responsabilité peut aussi engager le fabricant si le produit est défectueux (erreur de conception, défaut d’information/IFU, absence de gestion des risques), et l’établissement si le déploiement est inadapté (mauvaise intégration, absence de contrôle qualité, usage hors indication). Le parallèle « GPS médical » est parlant mais peut minimiser les effets d’automatisation (biais d’ancrage/automation bias). Il manque aussi la distinction erreur individuelle vs erreur systémique, et la question de la traçabilité (logs, audit) indispensable pour attribuer les causes.