IA générative en rédaction médicale : comment éviter l’« hallucination » bibliographique en recherche clinique
L’IA générative s’invite dans les équipes de recherche (protocoles, CRF, lettres aux CPP/IRB, drafts d’articles). Le risque majeur en publication est l’« hallucination » bibliographique : références inventées, DOI erronés, citations hors-sujet ou conclusions attribuées à tort. Au-delà de l’éthique, cela expose à des rétractations et fragilise la reproductibilité.
Point méthodologique (check-list opérationnelle)
- Séparer “aide à la rédaction” et “aide à la recherche bibliographique” : ne jamais considérer l’IA comme un moteur de preuves. Toute référence doit être retrouvée via PubMed/Embase/Cochrane/éditeur.
- Traçabilité : conserver prompts, versions, sorties, et indiquer l’usage de l’IA selon les politiques de la revue (souvent dans la section “Acknowledgments/Methods”).
- Vérification systématique des citations : pour chaque référence, contrôler (auteurs, titre, revue, année, volume, pages, DOI) et surtout l’alignement citation↔affirmation (supporte-t-elle réellement l’énoncé ?).
- Workflow “source-first” : partir de PDFs/PMID réels, résumer ensuite. L’IA reformule, mais l’équipe valide sur texte intégral.
- Garde-fous éditoriaux : une personne “références” distincte du rédacteur, contrôle croisé ; utilisation d’outils (Crossref, PubMed “Single Citation Matcher”, Zotero) ; bannir les références “non retrouvées”.
- Peer-review interne : revue par un méthodologiste/statisticien des sections à haut risque (résultats, limites, causalité), avec check des citations clés.
À discuter dans la communauté : avez-vous mis en place une procédure standard (SOP) “IA & publication” ? Quels points de contrôle sont les plus efficaces (PMID-only, verrouillage Zotero, double validation) ?
Sources (politiques/consensus)
- ICMJE. Recommendations (auteurs, transparence, responsabilité). https://www.icmje.org/recommendations/
- COPE. Guidance on AI tools and authorship. https://publicationethics.org/
- WAME. Recommendations on chatbots and scholarly manuscripts. https://wame.org/
- Nature. Editorial policy on LLMs and authorship. https://www.nature.com/
5 commentaires
Le point clé est bien la dissociation entre assistance rédactionnelle et recherche bibliographique : une IA de rédaction n’est pas un moteur de preuves. Pour limiter l’« hallucination » bibliographique en recherche clinique, une check-list opérationnelle pourrait expliciter : (i) toute référence doit être récupérée depuis une source primaire (PubMed/Embase/Crossref/éditeur) avec identifiant vérifié (PMID/DOI) ; (ii) interdiction de citer un papier non ouvert/lu : extraction manuelle des éléments (population, intervention, critères, résultats) et traçabilité ; (iii) double contrôle indépendant des citations critiques (efficacité/sécurité) ; (iv) conservation des requêtes, dates et exports (PRISMA si revue) pour auditabilité ; (v) utilisation de RAG/plug-ins reliés à bases bibliographiques plutôt que génération libre, avec logs. Enfin, clarifier dans le SOP et la déclaration d’usage IA les responsabilités (auteur humain garant).
Point clé : tant qu’un LLM n’est pas connecté à une base documentaire vérifiable, il faut le traiter comme un outil de reformulation, pas comme un moteur de recherche. J’ajouterais une règle opératoire : aucune référence ne doit être générée « ex nihilo » ; l’IA ne peut proposer que des citations déjà extraites d’une recherche tracée (PubMed/Embase/Cochrane) avec export (RIS/BibTeX) et identifiants persistants (PMID/DOI). Ensuite, double validation humaine systématique : (1) existence (titre/auteurs/année/DOI), (2) pertinence (la citation soutient réellement l’assertion), (3) fidélité (pas de sur-interprétation). Un audit simple consiste à exiger le PDF ou l’abstract pour chaque citation clé et à documenter la stratégie (requêtes, dates, filtres). Enfin, utile d’intégrer un “référent bibliographie” et un contrôle croisé en relecture interne avant soumission.
Point crucial : l’« hallucination » bibliographique est un biais de mesure (erreur de sourcing) qui peut contaminer tout le raisonnement. La check-list gagne à imposer une chaîne de vérification reproductible : (i) toute référence doit être issue d’une requête traçable (PubMed/Embase/Crossref) avec date, stratégie et identifiant (PMID/DOI) ; (ii) contrôle automatique de cohérence (DOI↔titre↔auteurs↔année) puis contrôle humain sur un échantillon aléatoire + toutes les références « clés » ; (iii) interdiction de citer sans accès au texte intégral ou, a minima, à l’abstract officiel. En pratique, on peut quantifier le risque : taux d’erreurs par 100 citations, et fixer un seuil d’acceptation avant soumission. Enfin, séparer “rédaction” vs “bibliographie” est indispensable : le modèle peut reformuler, mais la source doit rester une sortie d’outil bibliographique vérifiable.
Post très pertinent : l’« hallucination » bibliographique est un risque concret car elle touche le cœur de la traçabilité scientifique. La séparation “aide à la rédaction” vs “aide à la recherche” est un bon point de départ : on peut tolérer une IA pour structurer, reformuler, harmoniser un style, mais pas pour “inventer” des sources. Pour rendre la check-list vraiment opérationnelle, j’ajouterais : (1) exigence de preuves vérifiables pour chaque citation (PMID/DOI + lien éditeur) ; (2) validation croisée systématique dans une base de référence (PubMed/Embase/Crossref) avant soumission ; (3) journalisation des requêtes et versions (audit trail) ; (4) règle “zéro citation sans PDF consulté” pour les références critiques ; (5) relecture dédiée “bibliographie” par une personne identifiée (RACI). Cela transforme un risque diffus en contrôle qualité mesurable.
Sujet très pertinent : l’“hallucination” bibliographique est un risque concret, souvent sous-estimé quand l’IA passe du support rédactionnel à la production de citations. La séparation “aide à la rédaction” vs “aide à la recherche biblio” est un bon point de départ, car les exigences de traçabilité ne sont pas les mêmes. Pour rendre la check-list vraiment opérationnelle, je suggère d’ajouter : (1) une règle “zéro référence sans preuve” (PMID/DOI vérifié sur PubMed/Crossref/éditeur) ; (2) l’obligation de fournir, pour chaque citation, un extrait sourcé (titre, année, population, outcome) validé par un humain ; (3) un log des prompts/versions et un relecteur dédié “références” avant soumission ; (4) des garde-fous pour éviter les citations hors périmètre (PICO, critères d’inclusion) ; (5) un rappel des politiques journaux/ICMJE sur usage d’IA. Ça sécurise éthique, auditabilité et reproductibilité.