Une équipe internationale d’universitaires, de professionnels de la santé et de technologues pilote un effort mondial sur les lignes directrices de sécurité à destination du public lors de l’utilisation de chatbots de santé basés sur l’IA.

Face à l’intérêt croissant du public pour l’IA en matière de santé, des chercheurs de l’Université de Birmingham pilotent un programme mondial visant à élaborer le premier guide de référence pour naviguer en toute sécurité parmi les informations de santé disponibles sur les chatbots alimentés par l’IA.

L’initiative est annoncée aujourd’hui dans un article publié dans Nature Health . L’équipe du projet invite le public à contribuer à l’élaboration du The Health Chatbot Users’ Guide ou Guide d’utilisation du chatbot santé, une ressource conçue pour proposer une approche pragmatique et neutre axée sur la réduction des risques et l’optimisation des bénéfices pour les utilisateurs.

Avec l’avènement des grands modèles de langage d’IA (LLM) tels que ChatGPT, Copilot, Claude et Gemini, des millions de personnes dans le monde utilisent déjà des chatbots à usage général, notamment pour interpréter les symptômes et simplifier le jargon médical.

L’utilisation de chatbots généralistes dans le domaine de la santé n’est plus une hypothèse future ; c’est une réalité actuelle. Dr Joseph Alderman, auteur principal

Toutefois, cette équipe d’universitaires, de professionnels de la santé et de technologues avertit que ces outils existent actuellement dans un vide de gouvernance, laissant aux utilisateurs le soin de faire la distinction entre les informations fondées sur des preuves et les conseils « hallucinés » ou factuellement incorrects.

Le Dr Joseph Alderman, maître de conférences clinicien à l’Institut national de recherche en santé et soins (NIHR) de l’Université de Birmingham et auteur principal de l’article, a déclaré : « L’utilisation de chatbots généralistes dans le domaine de la santé n’est plus une simple hypothèse ; c’est une réalité. Ignorer cette évolution expose le public à un environnement informationnel complexe et parfois dangereux. Notre objectif n’est pas de freiner l’innovation, mais de nous adapter aux besoins du public. Ce guide vise à fournir aux utilisateurs les outils et les connaissances nécessaires pour utiliser ces puissants outils en toute sécurité. »

L’équipe du projet souligne plusieurs risques importants associés aux interactions avec les chatbots de santé, notamment :

• Inexactitudes médicales : l’IA fournit des conseils médicaux plausibles mais incorrects.
• L’effet de chambre d’écho : les modèles d’IA optimisés pour favoriser l’agrément peuvent simplement refléter les croyances existantes (et potentiellement erronées) d’un utilisateur au lieu de lui apporter le défi nécessaire.
• Biais algorithmiques : le risque que l’IA renforce les biais sociaux qui exacerbent les inégalités de santé existantes.
• Protection des données : menaces à la sécurité et à la confidentialité des informations de santé personnelles sensibles.

Charlotte Blease, chercheuse en intelligence artificielle appliquée à la santé à l’université d’Uppsala et à la faculté de médecine de Harvard, chercheuse principale du projet et auteure de Dr Bot, a déclaré :

« Les chatbots de santé sont devenus le moyen le plus accessible au monde d’obtenir un premier avis médical ; ils s’adressent souvent aux patients avant même qu’un médecin ne les contacte. Le danger réside dans la navigation avec ces outils sans guide. Notre responsabilité est de veiller à ce que cette première conversation informe plutôt qu’elle n’induit en erreur, et qu’elle donne aux patients les moyens d’agir. »

Ce projet est un effort international majeur mené par des chercheurs de l’Université de Birmingham et du University Hospitals Birmingham NHS Foundation Trust, en collaboration avec des experts de plus de 20 institutions à travers le monde.

Ce guide est conçu et mis en œuvre en collaboration avec des partenaires publics. Trois co-chercheurs publics et un comité de pilotage public ont été mandatés pour définir l’orientation du programme, afin de garantir que le guide final soit accessible à tous les groupes d’âge et à tous les niveaux d’alphabétisation.

https://www.birmingham.ac.uk/news/2026/world-first-safety-guide-for-public-use-of-ai-health-chatbots