Les erreurs de correction de l'IA peuvent faire perdre du temps aux médecins lorsqu'ils écrivent aux patients.

infohightech ·

Crédit : Pixabay/CC0 Domaine public

Une vaste étude menée sur un portail patient en ligne révèle que les erreurs et les détails superflus peuvent amener les médecins à consacrer plus de temps à la correction des réponses générées par l'IA qu'à leur rédaction. L'intelligence artificielle se développe rapidement dans le secteur de la santé, avec pour objectif de rationaliser les tâches administratives essentielles mais fastidieuses, telles que la prise de notes et la tenue des dossiers, afin que les médecins et les infirmiers puissent consacrer davantage de temps aux patients.

Mais même si l'IA peut libérer les médecins pour qu'ils correspondent avec les patients, elle peut présenter des lacunes en introduisant des erreurs et des détails superflus dans leurs messages, selon une nouvelle étude de Dartmouth présentée le 7 juillet lors de la réunion annuelle 2026 de l'Association for Computational Linguistics et publiée dans les actes de la conférence .

Il en résulte que les médecins peuvent passer plus de temps à corriger leurs réponses qu'à les rédiger, rapportent les chercheurs.

« Nous constatons que l'IA peut avoir la voix d'un médecin, mais pas sa façon de penser », explique Sarah Preum, professeure adjointe d'informatique et co-auteure de l'étude avec Parker Seegmiller, doctorant au sein du PersistLab de Preum à Dartmouth.

Les chercheurs ont mené la première étude à grande échelle d'un portail patient en ligne utilisant l'IA pour rédiger des réponses de médecins aux patients. L'équipe a développé un outil permettant de comparer les réponses générées par l'IA avec un ensemble de données de réponses réelles, élaborées en collaboration avec des professionnels de santé de Dartmouth Health.

Ils ont ensuite analysé 146 000 conversations entre 10 105 patients et leurs médecins traitants au sein de ce vaste réseau de santé rural. L’étude a été approuvée par le comité d’éthique de Dartmouth Health, et l’équipe a mis en œuvre les méthodes requises pour protéger la confidentialité des données des patients, notamment en anonymisant les données lorsque cela s’avérait nécessaire.

Les chercheurs ont également utilisé leur outil pour évaluer les réponses des médecins rédigées par Claude, Gemini et ChatGPT, ainsi que par les trois plateformes commerciales plus petites Llama, Aloe et Qwen.

L'équipe signale que les réponses générées par l'IA diffèrent souvent de ce que les cliniciens écriraient réellement. Il s'agit notamment de réponses automatisées trop longues, qui ne posent pas de questions complémentaires et qui utilisent des détails médicaux non pertinents ou inexacts.

« Certaines études, de plus petite envergure, affirment que l’IA est extraordinaire, mais nous avons constaté un manque d’évaluations à grande échelle de cette technologie dans la littérature existante », explique Preum. « Nous ne souhaitions pas seulement mesurer la précision d’une plateforme, mais aussi son impact réel sur la charge de travail, mesurée ici par le volume de corrections effectuées par le médecin. »

Par exemple, l'IA du portail a suggéré à une femme de 32 ans, sous traitement contre le reflux gastro-œsophagien et souffrant de nausées persistantes, de lui indiquer que son régime alimentaire pourrait être modifié. Un médecin a préféré lui demander si elle était enceinte.

Même de petites modifications peuvent avoir un impact considérable sur des centaines, voire des milliers de messages, explique Preum. « Il ne s’agit pas d’intégrer de grands modèles de langage au flux de travail et de simplement déplacer le goulot d’étranglement, obligeant ainsi les médecins à consacrer leur énergie cognitive à corriger les erreurs de l’IA », précise-t-elle. « Mais si nous n’y prenons pas garde, c’est un risque à prendre. »

Les chercheurs démontrent cependant qu'adapter l'IA à la façon dont les médecins communiquent peut améliorer la précision de 33 % et réduire les corrections de 26 %.

« Si la génération de messages est réellement efficace et de haute qualité, si elle pose les bonnes questions, alors elle a vraiment le potentiel d'améliorer l'efficacité », déclare le co-auteur Tim Burdick, professeur agrégé de médecine communautaire et familiale à la Geisel School of Medicine de Dartmouth et médecin de famille chez Dartmouth Health.

« Je n’envisage pas un jour où le portail puisse répondre à un patient sans qu’un clinicien n’ait préalablement validé la demande. Mais à mesure que nous améliorerons les modèles, nous pourrons traiter les messages du portail beaucoup plus rapidement et avec moins d’effort mental », explique Burdick.

L'étude démontre l'existence de réponses d'IA « efficaces » et propose un cadre pour leur intégration dans les portails patients-médecins, explique Preum. Ces plateformes sont de plus en plus courantes dans les grands systèmes de santé et sont souvent personnalisées, ajoute-t-elle.

« Il nous a fallu beaucoup de temps pour comprendre cela, mais si l'on veut mesurer l'efficacité de cette technologie, il faut définir ce qu'est une bonne réponse », explique-t-elle. « On ne peut améliorer que ce que l'on peut mesurer et évaluer objectivement. »

Les chercheurs ont mis au point une technique appelée TADPOLE (Thematic Agentic Direct Preference Optimization for Learning Enhancement), qui entraîne les plateformes d'IA à l'aide d'un modèle hybride construit à partir de réponses de médecins et de réponses générées par l'IA. Ils ont intégré TADPOLE à six logiciels commerciaux d'apprentissage automatique et ont constaté que les réponses générées correspondaient mieux aux exigences des médecins en matière de précision et de qualité de l'information.

« Cela pourrait permettre à un clinicien débordé de gagner une ou deux heures de travail par jour », explique Burdick.

Aujourd'hui, les médecins et les infirmières sont submergés de messages de patients et d'aidants qui peuvent les rédiger en ligne à tout moment, explique-t-il. Un projet mené conjointement par Burdick et le Preum Lab, baptisé PortalPal, vise à simplifier les portails patients grâce à l'intelligence artificielle, notamment en automatisant certaines étapes du suivi auprès des patients pour obtenir des informations complémentaires.

Les médecins avec lesquels travaille Burdick affirment que les brouillons générés par l'IA leur permettent de gagner environ 25 % de temps sur les messages plus courts.

« Il est plus facile d'apporter de petites modifications à un message généré par LLM que de le rédiger de A à Z », explique-t-il. Cependant, les versions plus longues peuvent contenir des informations erronées ou inexactes.

« Si vous devez modifier 75 % du message, vous risquez de consacrer plus de temps et d'énergie à ces modifications que si vous l'aviez rédigé de A à Z », explique Burdick. « J'estime qu'il faudrait que le médecin modifie moins de 30 % du contenu pour que cela présente un avantage significatif. »

L'un des avantages de la verbosité de l'IA est qu'elle tend à être plus empathique et plus minutieuse que les médecins, souvent pressés par le temps, selon les chercheurs. Par exemple, l'IA est plus susceptible de présenter ses condoléances à un patient souffrant de troubles digestifs.

Cela signifie que l'IA pourrait être utilisée pour inciter les médecins à faire preuve de plus de compréhension et d'attention envers la situation du patient, ou à répondre plus efficacement à ses questions afin que les patients se sentent davantage écoutés, explique Preum. L'équipe a produit des exemples de réponses, comme témoigner de l'empathie en félicitant les patients pour le respect de leur plan de traitement (« Vous avez très bien géré la diminution progressive de votre dose. ») ou en anticipant l'évolution de leurs symptômes (« Si vous avez des vertiges, veuillez appeler les urgences. »).

Les chercheurs ont également constaté que 65 % des messages échangés sur les portails patients provenaient de personnes de plus de 55 ans, les patients de plus de 65 ans étant à l'origine de 24 % de ces messages. Selon Preum, ces chiffres suggèrent que les portails patients devraient être conçus pour être plus accessibles aux personnes âgées.

Les travaux futurs porteront sur le temps réel que les médecins consacrent à la correction des brouillons automatisés. L'équipe prévoit également d'évaluer son modèle d'apprentissage TADPOLE du point de vue de l'utilisateur, afin de déterminer s'il allège la charge de travail des médecins et comment ces derniers et les patients évaluent ses performances.

« Il s’agit de l’une des premières études à utiliser de véritables messages du portail patient pour établir un modèle d’IA générative. À cet égard, elle est novatrice et nous montre que la tâche est loin d’être simple », explique Burdick. « Nous sommes encore loin de pouvoir nous passer des cliniciens dans le processus de soins. »

https://medicalxpress.com/news/2026-07-ai-doctors-patients.html

Cet article vous a été utile ? Partagez-le.