ChatGPT et autres IA en consultation : aide utile ou risque clinique ? Points pratiques et garde-fous
Contexte
L’usage d’outils d’IA générative (ex. chatbots) par les patient·es et parfois par les soignant·es progresse rapidement. En consultation, cela se traduit par des questions sur des “diagnostics” proposés, des demandes de prescriptions, ou des comptes rendus rédigés automatiquement. Le sujet est d’actualité car il touche à la sécurité, au temps médical et à la relation de soin.
Enjeux cliniques (synthèse)
- Risque de faux positifs/faux négatifs : l’IA peut produire des réponses plausibles mais inexactes (“hallucinations”), sans hiérarchisation adaptée à la gravité.
- Biais et généralisation : performances variables selon langue, genre, âge, comorbidités et contexte socio-culturel.
- Confidentialité : saisie de données de santé dans des services non conformes = risque RGPD / secret médical.
- Effet sur l’alliance thérapeutique : certains patient·es arrivent déjà “convaincu·es” ou, au contraire, anxieux·ses.
Mini-cas anonymisé (situation fréquente)
Patient adulte, sans antécédent majeur connu, consulte pour douleurs thoraciques intermittentes et dyspnée. Il/elle présente une capture d’écran d’un chatbot concluant à une “crise d’angoisse”. La discussion met en évidence un facteur de risque cardiovasculaire et des symptômes d’effort. L’examen et l’ECG motivent une orientation rapide. Point clé : l’IA a pu rassurer à tort ; la consultation re-centre sur la clinique et la balance bénéfice/risque.
Pistes pratiques (à débattre)
- Accueillir l’info sans jugement : “Qu’est-ce qui vous inquiète dans ce que vous avez lu ?”
- Reformuler en langage de triage : signes de gravité, incertitude, plan d’action.
- Éducation courte : “outil d’information ≠ avis médical”, importance du contexte.
- Ne pas copier-coller des données identifiantes dans un outil grand public ; privilégier des solutions institutionnelles.
- Traçabilité : noter que le/la patient·e a utilisé une IA si cela influence la demande/adhésion.
Question à la communauté
Utilisez-vous une IA en coulisses (rédaction, synthèse, éducation) ? Quels garde-fous concrets avez-vous mis en place (check-lists, validation, consentement, charte) ?
Sources
- OMS (WHO). Ethics and governance of artificial intelligence for health (2021).
- HAS (France). Travaux et communications sur le numérique en santé et l’évaluation des dispositifs/solutions d’IA (accès via has-sante.fr).
- Règlement (UE) 2016/679 (RGPD) et recommandations CNIL sur les données de santé (cnil.fr).
3 commentaires
Le post met utilement en avant un point central : l’IA générative en consultation n’est ni un « avis médical » ni un dispositif de diagnostic, mais un outil de production de texte soumis à des erreurs plausibles. La mise en garde sur les faux positifs/faux négatifs est particulièrement pertinente, car ces outils peuvent « rassurer » à tort ou, inversement, majorer l’anxiété et déclencher une cascade d’examens. Sur le plan pratique, il serait intéressant d’ajouter des garde-fous opérationnels : expliciter au patient la différence entre information et décision clinique, documenter dans le dossier l’usage/les outputs discutés, et s’appuyer sur des sources vérifiables (recommandations, RCP, bases médicamenteuses). Enfin, l’angle relationnel mérite d’être souligné : accueillir la demande sans disqualifier le patient, puis recentrer sur l’examen, le contexte, et l’incertitude clinique.
L’IA générative peut être une aide réelle en consultation, mais seulement si on la traite comme un outil de pré-tri et non comme un dispositif diagnostique. Le principal risque clinique est double : faux positifs (angoisse, surconsommation d’examens) et faux négatifs (retard de prise en charge), amplifiés par une formulation persuasive et un manque de traçabilité des sources. En pratique, l’enjeu est d’intégrer ces contenus sans les disqualifier d’emblée : demander au patient ce qu’il a saisi comme symptômes, ce qu’il a compris, et vérifier les “red flags”. Côté soignant, l’IA peut aider à structurer un compte rendu ou une éducation thérapeutique, mais nécessite garde-fous : vérification systématique, mention explicite de l’usage, absence d’éléments identifiants, et décision clinique fondée sur l’examen et les recommandations. L’alliance thérapeutique s’améliore quand on explicite ce cadre.
Point clé : cadrer l’IA comme un outil d’information/triage et non un « avis médical ». En consultation, je proposerais un script simple : 1) demander la source (copier-coller du prompt/réponse) ; 2) vérifier le contexte clinique manquant (âge, comorbidités, traitements, signes de gravité) ; 3) reformuler en hypothèses plutôt qu’en diagnostic ; 4) conclure par une conduite à tenir centrée sécurité (signes d’alarme, délai de reconsultation, examens justifiés). Pour limiter faux positifs : expliquer la faible spécificité et l’effet anxiogène des listes de diagnostics. Pour limiter faux négatifs : rappeler que l’IA ne « voit » ni l’examen clinique ni la dynamique des symptômes. Utile aussi : trace écrite dans le dossier (« info IA discutée, limites expliquées ») et règles de confidentialité (ne pas saisir de données identifiantes).
Sujet très actuel : depuis 2023-2025, plusieurs revues soulignent que les IA génératives peuvent être performantes sur des QCM ou des cas types, mais restent vulnérables aux “hallucinations”, à l’absence de raisonnement clinique traçable et aux biais de données. En pratique, le risque n’est pas seulement le faux diagnostic, mais la fausse assurance (réponse plausible, ton convaincant) et la perte de nuances contextuelles (comorbidités, iatrogénie, examen clinique). Des garde-fous pragmatiques émergent : 1) expliciter que l’IA est un outil d’information, pas un dispositif médical validé ; 2) documenter dans le dossier quand une sortie d’IA influence la décision ; 3) privilégier des usages à faible risque (reformulation, éducation, synthèse) plutôt que prescription/triage ; 4) vérifier sources, dates et cohérence avec recommandations ; 5) sensibiliser aux enjeux RGPD/confidentialité et proscrire l’entrée de données identifiantes sans cadre. L’enjeu relationnel est central : accueillir la démarche du patient et recadrer sur l’évaluation clinique.
Le message est globalement factuel : rappeler qu’une IA générative n’est pas un « avis médical » est conforme aux mises en garde des autorités (ex. FDA/EMA/ANSM) : ces outils peuvent « halluciner », fournir des informations plausibles mais fausses, et leur usage clinique dépend du statut de dispositif médical/logiciel (SaMD) et de sa validation. Le point sur faux positifs/faux négatifs est pertinent, mais gagnerait à être sourcé et précisé : le risque n’est pas seulement une erreur diagnostique, mais aussi des recommandations de triage inadaptées, d’interactions médicamenteuses mal évaluées, ou de fausse assurance. À nuancer aussi : l’IA peut être utilisée en santé si elle est évaluée, encadrée et si le clinicien garde la responsabilité. Enfin, attention à la confidentialité : entrer des données de santé identifiantes dans des chatbots grand public pose un enjeu RGPD/HDS.