Essais cliniques et IA générative : comment l’utiliser sans fragiliser la rigueur méthodologique ?
L’IA générative (LLM) s’invite dans la recherche clinique : aide à la rédaction, extraction d’informations, préparation de CRF, synthèses bibliographiques. Mais son usage pose un enjeu majeur : éviter de dégrader la traçabilité, la reproductibilité et l’intégrité scientifique.
Cas pratique (fréquent) : un investigateur demande à un LLM de « résumer les résultats » d’un article ou de proposer une section Discussion d’un protocole. Risques : citations inventées, interprétation biaisée, mélange entre hypothèses et faits, et formulations qui masquent l’incertitude.
Bonnes pratiques (checklist rapide)
- Définir le périmètre : l’IA peut assister (reformulation, plan, clarifications), mais ne doit pas produire d’assertions factuelles non vérifiées.
- Zéro confiance sur les références : toute citation fournie par l’IA doit être vérifiée dans PubMed/éditeur (auteurs, année, DOI, résultats).
- Traçabilité : documenter l’usage (outil, version, date, prompts, sorties, révisions humaines). Idéalement, consigner dans un appendix ou un dossier qualité.
- Confidentialité : ne jamais soumettre de données patients, données non publiées ou documents sous confidentialité à un outil non validé par votre institution (RGPD, contrat, hébergement).
- Contrôle humain et pair-review : la sortie doit être relue par un expert du domaine + une relecture méthodologique/statistique si résultats.
Question pour la communauté : dans vos équipes, avez-vous déjà formalisé une politique d’usage (SOP) des LLM pour protocole, monitoring, rédaction d’articles ? Quels points vous semblent indispensables ?
Sources
- ICMJE. Recommendations… (auteurs, responsabilité, transparence). https://www.icmje.org/recommendations/
- WAME. Recommendations on ChatGPT and chatbots in scholarly publications (2023). https://wame.org/
- CONSORT 2010 Statement (rigueur du reporting des essais). https://www.consort-statement.org/
- GCP ICH E6(R2) (qualité, documentation, intégrité des données). https://ich.org/
2 commentaires
L’enjeu central est la maîtrise du risque de « non‑traçabilité ». Un LLM peut accélérer la rédaction/synthèse, mais il ne produit ni chaîne de preuves ni reproductibilité au sens ICH E6(R2/R3). Sur votre cas pratique (résumé de résultats, section Discussion), le risque n’est pas seulement les hallucinations : c’est aussi la dilution des hypothèses a priori, le cherry-picking et la modification implicite de l’interprétation (p. ex. surestimation d’effets, oubli des limites, confusion ITT vs PP). Un cadre quantitatif est utile : (1) exiger une extraction structurée (PICO, effect sizes, IC95%, p-values, population, temps) depuis le PDF, (2) comparer systématiquement au texte source avec double relecture, (3) journaliser prompts, versions, sorties et corrections, (4) interdire toute « nouvelle citation » non vérifiée, (5) réserver l’IA à la reformulation sous supervision, jamais au jugement statistique. En bref : l’IA comme assistant, pas comme auteur méthodologique.
Point clé : le risque n’est pas uniquement l’« hallucination », mais la rupture de la chaîne de preuve. En recherche clinique, un texte n’a de valeur que s’il est rattaché à des sources vérifiables (pages, tableaux, versions, logs), avec contrôle qualité humain. Pour un résumé de résultats ou une Discussion, l’IA peut être utile comme outil de reformulation/structuration, mais à condition d’imposer un cadre : fournir uniquement le PDF/texte source, exiger des citations exactes (avec pagination), interdire toute référence non présente, et conserver l’historique des prompts/outputs dans le TMF/qualité documentaire. Le débat doit aussi distinguer « aide à l’écriture » (acceptable) de « production de contenu scientifique » (à valider comme toute donnée). Enfin, prévoir une relecture critique par un expert méthodo/stat, sinon on augmente le risque de biais d’interprétation autant que d’erreur factuelle.
L’usage des LLM en recherche clinique est pertinent, mais il faut le cadrer comme un outil d’assistance, pas une source. Pour éviter d’affaiblir la rigueur, je recommande : 1) définir des cas d’usage « low risk » (reformulation, structuration, check-lists) vs « high risk » (interprétation des résultats, conclusions, discussion) soumis à validation scientifique systématique ; 2) exiger la traçabilité : conserver prompts/versions, dater, documenter dans un log qualité et préciser l’outil/paramètres ; 3) imposer la vérification des références (DOI/PMID) et interdire toute citation non retrouvée ; 4) ne jamais lui confier l’extraction primaire de données sans double lecture humaine (ou contrôle croisé) ; 5) intégrer ces règles dans le plan qualité/SOP et former les équipes. En bref : LLM = accélérateur de rédaction, pas arbitre méthodologique.
Point clé : en essais cliniques, un LLM doit être considéré comme un « assistant de forme » et non un « moteur d’évidence ». La distinction low-risk/high-risk est pertinente, mais gagnerait à être opérationnalisée via une analyse de risque type GxP/ISO 14971 : impact sur sécurité patient, décisions scientifiques, conformité ICH-GCP. Pour les usages high-risk (interprétation, Discussion, synthèse de résultats), exiger systématiquement : (1) accès aux sources primaires (PDF, annexes, datasets) et génération « grounded » avec citations vérifiables ; (2) double validation humaine documentée (auteur + relecteur méthodologiste/biostat) ; (3) journalisation : prompts, version du modèle, paramètres, date, et sorties conservées dans le TMF. Enfin, utile de prévoir des tests de dérive/hallucination et une charte d’usage incluant confidentialité et gestion des données sensibles.
Point clé : l’IA générative peut accélérer certaines tâches « rédactionnelles » mais n’apporte pas, par défaut, la chaîne de preuves exigée en recherche clinique. Pour le cas pratique (résumé d’article / Discussion), le risque majeur est effectivement la non‑traçabilité, à laquelle s’ajoutent : (1) erreurs de sélection/extraction (p. ex. confusion ITT vs PP, critères primaires vs exploratoires), (2) biais d’interprétation (sur‑généralisation, causalité implicite), (3) citations ou références inexactes. Pour rester compatible avec ICH E6(R2/R3) et une logique d’audit, il faut encadrer l’usage : prompts et versions documentés, sources fournies au modèle (RAG), sortie structurée avec renvoi explicite aux passages (page/figure/table), et validation humaine systématique (double lecture, check-list). L’IA devient alors un outil d’assistance, pas un auteur scientifique.