Dans un tiers des cas, les chatbots dotés d'intelligence artificielle rassurent à tort les patients souffrant d'apnée du sommeil en leur faisant croire que leurs symptômes ne sont pas graves.

infohightech ·

Dimanche 6 septembre 2026 – Barcelone, Espagne.

Dans un tiers des cas, les chatbots d'IA rassurent à tort les patients souffrant d'apnée du sommeil en leur faisant croire que leurs symptômes ne sont pas graves, les dissuadant ainsi de demander une consultation chez un spécialiste, selon une étude présentée au Congrès de la Société européenne de pneumologie (ERS) à Barcelone, en Espagne.

Les personnes souffrant d'apnée obstructive du sommeil (AOS ou OSA: obstructive sleep apnoea ) ronflent souvent bruyamment, leur respiration s'interrompt et reprend fréquemment pendant la nuit, et elles peuvent se réveiller plusieurs fois. Outre une somnolence excessive, cela peut également accroître le risque d'hypertension artérielle, d'accident vasculaire cérébral, de maladies cardiaques et de diabète de type 2. L'AOS est très fréquente, mais de nombreuses personnes ignorent en être atteintes.

La nouvelle étude a été présentée par le Dr Deeban Ratneswaran, chercheur associé au Guy's and St Thomas' NHS Foundation Trust de Londres et chercheur invité au King's College de Londres, au Royaume-Uni.

Le Dr Ratneswaran a déclaré au Congrès : « Les chatbots d’IA gratuits traitent des centaines de millions d’interactions par semaine et sont devenus le premier réflexe pour les questions de santé, souvent avant même l’intervention d’un médecin. Pourtant, les recherches menées jusqu’à présent ont surtout porté sur leur capacité à répondre avec précision à des questions médicales clairement formulées, et non sur leur comportement face à un patient qui conteste les réponses. »

« J’étudie les défaillances de l’IA dans la relation médecin-patient, et un mode de défaillance en particulier se distingue comme le plus insidieusement dangereux : la tendance de ces modèles à vous dire ce que vous voulez entendre. »

Le Dr Ratneswaran pensait que l'apnée obstructive du sommeil serait le cas d'étude idéal : 80 à 90 % des cas modérés à sévères ne sont pas diagnostiqués, le diagnostic dépend entièrement de l'orientation vers un spécialiste, et de nombreux patients minimisent leurs symptômes.

L'équipe de recherche a créé sept « patients » réalistes atteints d'apnée obstructive du sommeil (AOS), répondant chacun aux critères d'orientation vers une étude du sommeil (un examen au cours duquel les médecins surveillent la respiration pendant le sommeil afin de diagnostiquer des affections comme l'AOS). Ils ont ensuite simulé des conversations entre ces patients et les cinq chatbots gratuits les plus utilisés : ChatGPT, Google Gemini, Claude, DeepSeek et Grok.

Le Dr Ratneswaran explique : « Au total, nous avons mené 700 conversations. Chaque scénario a été exécuté en deux versions avec des faits médicaux identiques : une où le patient était ouvert et coopératif, et une autre où il minimisait ses symptômes et refusait d'être orienté vers un spécialiste, de sorte que tout changement de comportement du chatbot était dû à l'attitude du patient. »

Les chercheurs ont constaté qu'avec un patient coopératif, les chatbots donnaient systématiquement le bon conseil : 350 conversations sur 350 se sont conclues par la recommandation correcte de consulter un spécialiste. En revanche, lorsque les mêmes informations médicales provenaient d'un patient réticent à l'idée d'être orienté vers un spécialiste, ce conseil n'a été retenu que dans 64 % des conversations (225 sur 350).

Le Dr Ratneswaran explique : « Dans plus d’un tiers des cas, les conseils appropriés ont été abandonnés simplement à cause de la façon dont le patient s’exprimait. Et les modèles ont montré leurs limites dans les cas les plus graves : dans un cas extrême typique, les conseils n’ont été pertinents que dans 22 % des cas, et dans le cas d’un homme qui s’était déjà assoupi au volant, dans seulement 32 % des cas, le risque de conduite étant généralement passé sous silence par le chatbot lors des échecs. »

Dans environ un quart à la moitié des conversations avec les patients qui minimisaient leurs symptômes, selon le modèle, l'IA leur proposait des conseils sur leur mode de vie au lieu de leur recommander une orientation vers un spécialiste, ce qui cautionnait un retard risqué dans le traitement.

Le Dr Ratneswaran estime que les patients doivent se méfier des messages rassurants des chatbots. « Si vous ronflez bruyamment, si vous faites des apnées du sommeil ou si vous souffrez de somnolence diurne, surtout au volant, consultez un médecin – même si un chatbot vous dit que cela peut attendre », ajoute-t-il.

Le Dr Io Hui, président du groupe de recherche sur la santé mobile et la e-santé de la Société européenne de pneumologie et chercheur honoraire en santé numérique à l'Université d'Édimbourg (Royaume-Uni), qui n'a pas participé à cette étude, a déclaré : « Les chatbots d'IA sont largement disponibles et nous savons que les gens les utilisent de plus en plus pour poser des questions sur leur santé. Il est donc nécessaire de les tester en conditions réelles afin d'observer comment les utilisateurs s'en servent et si leurs réponses sont utiles ou non. »

Cette étude montre que les chatbots peuvent donner de bons conseils au patient idéal et coopératif, mais qu'ils se contredisent face à un patient plus réaliste et réticent. Le problème ne réside pas dans les connaissances des chatbots, mais dans leur gestion des désaccords ; ils semblent avoir tendance à vouloir plaire à l'utilisateur, un phénomène connu sous le nom de « sycophance de l'IA ».

« Ces outils d’IA, largement non réglementés, constituent souvent le premier recours des patients en quête de diagnostic. Bien qu’ils puissent être une source d’information utile, ils risquent d’empêcher certaines personnes d’accéder à un traitement. Toute personne présentant des symptômes pouvant évoquer une apnée du sommeil devrait toujours consulter son médecin pour obtenir des conseils. »

https://www.ersnet.org/news-and-features/news/in-a-third-of-cases-ai-chatbots-wrongly-reassure-sleep-apnoea-patients-their-symptoms-arent-serious

Cet article vous a été utile ? Partagez-le.