Des réponses fiables aident l'IA médicale à établir des diagnostics auxquels les cliniciens peuvent se fier.
infohightech ·
À l'avenir, les agents d'IA pourraient contribuer de manière fiable aux diagnostics et à la prise de décision clinique, à condition que les données de santé sensibles soient protégées et que les cliniciens puissent évaluer la fiabilité des résultats individuels générés par l'IA. Des chercheurs du Centre Else Kröner Fresenius (EKFZ) pour la santé numérique de l'Université technique de Dresde et de l'Hôpital universitaire de Dresde ont développé un système d'IA médicale sur site qui relève ces deux défis. Leurs résultats ont été publiés dans la revue Nature Medicine .
Les grands modèles de langage sont de plus en plus capables de gérer des tâches médicales complexes. Cependant, leur utilisation en pratique clinique se heurte à deux défis fondamentaux : les données sensibles des patients doivent rester sous le contrôle de l’établissement concerné et ne pas être partagées avec des services externes ; de plus, les cliniciens doivent pouvoir évaluer la fiabilité des diagnostics générés par l’IA.
Une équipe de recherche dirigée par Jakob N. Kather à Dresde a développé un système d'IA de diagnostic entièrement hébergé sur site et l'a évalué dans un environnement de simulation où deux agents d'IA interagissent : l'un joue le rôle du médecin, l'autre celui du patient. Grâce à cette configuration, les chercheurs ont étudié la fiabilité des systèmes d'IA médicale pour établir des diagnostics. Ce système repose sur l'agent d'IA MIRA, introduit en juin 2026.

Performances diagnostiques d'un agent clinique entièrement utilisable sur site, évaluées selon des critères de référence standardisés. Crédit : Nature Medicine (2026). DOI : 10.1038/s41591-026-04609-x
Haute précision diagnostique dans les tests standardisés
L'agent d'IA a été testé à l'aide de cas cliniques standardisés couvrant un large éventail d'affections, notamment l'appendicite, la cholécystite, la pneumonie, l'embolie pulmonaire et les infections urinaires. Ces cas étaient basés sur des données électroniques anonymisées de patients, incluant les diagnostics, les résultats de laboratoire, les traitements médicamenteux et les observations cliniques.
L'agent d'IA médical pouvait poser des questions complémentaires et demander des données cliniques et des résultats de laboratoire. À partir de ces informations, il établissait un diagnostic et sa justification. Le meilleur modèle d'IA, exécuté localement, a abouti au diagnostic correct dans environ 90 % des cas lors d'un test de référence et dans 84 % des cas lors de l'autre. Pour 181 cas sélectionnés aléatoirement, les médecins ont également examiné les diagnostics. L'évaluation automatisée et le consensus des médecins concordaient dans plus de 90 % des cas.
Des réponses cohérentes constituent le meilleur indicateur d'un diagnostic correct.
L'une des questions clés de l'étude était de savoir comment déterminer la fiabilité d'une décision générée par une IA. Pour y répondre, les chercheurs ont examiné plusieurs indicateurs de justesse diagnostique. Le plus révélateur était la constance du diagnostic de l'IA lors du traitement répété d'un même cas. Plus le diagnostic restait stable au fil des exécutions, plus il avait de chances d'être correct.
Les scores de vraisemblance internes du modèle se sont avérés moins utiles pour prédire l'exactitude d'un diagnostic. Ce constat a également été mis en évidence lors d'un test de résistance : lorsque les chercheurs ont supprimé des informations fiables du système, la précision des diagnostics a chuté de manière significative. Bien que les diagnostics erronés de l'IA soient devenus plus fréquents, les signaux probabilistes du modèle n'ont pas reflété cette évolution.
Des agents d'IA médicale pour soutenir la pratique clinique
À partir de leurs conclusions, les chercheurs proposent un cadre de collaboration possible entre cliniciens et IA. Plutôt que de faire entièrement confiance à un système d'IA ou d'exiger la vérification de chaque décision, il serait possible de distinguer les cas présentant des signaux de fiabilité plus marqués de ceux qui sont plus incertains. Ces derniers seraient systématiquement soumis à l'avis de professionnels de santé.
Kather, auteure principale de l'étude et professeure d'intelligence artificielle clinique à l'Université technique de Dresde, explique : « Notre objectif est de créer un agent d'IA doté d'une autonomie sélective. Ces systèmes doivent assister les cliniciens dans leur prise de décision, sans jamais la remplacer complètement. Il est donc essentiel que les résultats générés par l'IA soient compréhensibles par les cliniciens et que les systèmes indiquent clairement les incertitudes liées à leurs résultats. La responsabilité du diagnostic et du traitement restera toujours du ressort de l'humain. »
Le déploiement local permet le contrôle institutionnel
Un deuxième axe de l'étude porte sur le contrôle technique du système d'IA. Les modèles d'IA et l'ensemble du traitement des données s'exécutent intégralement au sein d'une infrastructure locale. Ceci confère aux établissements de santé un meilleur contrôle sur le lieu de traitement des données et sur les modèles d'IA utilisés. L'infrastructure sur site fournit la base technique nécessaire à la gestion de la protection des données, des versions des modèles, des droits d'accès et des processus de surveillance au sein de chaque établissement.
Kather considère également cela comme une condition préalable à un développement responsable de l'IA médicale en Europe : « Les appels à ralentir le développement de l'IA vont, à mon avis, dans la mauvaise direction. En médecine, nous n'en sommes qu'aux balbutiements : les systèmes d'IA, tels que nos agents, commencent à peine à révéler leur potentiel, et les patients n'en ont jusqu'à présent tiré que très peu de bénéfices. »
« Nous devons accélérer le rythme, et non le ralentir. L’essentiel est de développer ces systèmes de manière sûre, transparente et respectueuse de la souveraineté des données – par exemple, en les exécutant intégralement au sein de l’hôpital. Mais pour que cela fonctionne, l’Europe doit aussi jouer un rôle dans le développement des technologies fondamentales, notamment des modèles de langage, au lieu de se contenter de s’appuyer sur des technologies développées ailleurs. »
Prochaines étapes vers l'utilisation clinique
L'étude met également en lumière des questions qui doivent être résolues avant tout déploiement clinique potentiel. Les chercheurs ont constaté des différences de précision diagnostique entre les groupes de patients. Les raisons pour lesquelles les cas simulés impliquant des patients âgés, en particulier, ont donné des résultats moins bons, restent floues et nécessiteront des investigations supplémentaires.
De plus, ces résultats reposent sur des simulations rétrospectives utilisant des données cliniques existantes, et non sur des tests réalisés dans le cadre de la pratique clinique courante. « Nos résultats montrent que nous avons franchi une étape importante vers des agents d'IA médicale plus fiables. Nous souhaitons maintenant étudier la performance de cette approche dans des conditions réalistes, avec la participation de cliniciens et sur un plus large éventail de maladies et de données cliniques », explique Li Zhang, premier auteur de la publication et chercheur au sein de l'équipe de Kather.
Un autre axe de recherche concerne l'efficacité. L'estimation de la fiabilité nécessitant actuellement des simulations répétées pour chaque cas, l'équipe s'efforce de réduire le coût de calcul sans compromettre la qualité des résultats. Outre les chercheurs de Dresde, des scientifiques du Centre national des maladies tumorales (NCT) de Heidelberg, rattaché à l'hôpital universitaire de Heidelberg, ont également contribué à cette étude.