Les scientifiques peuvent-ils concevoir un détecteur de mensonges pour les chatbots dotés d’intelligence artificielle ?
infohightech ·
Demandez un avis médical à un chatbot IA et il pourrait vous recommander d’aller à l’hôpital alors que vous souffrez simplement d’indigestion. Selon des experts de l’université Northeastern, l’un des principaux problèmes des chatbots IA actuels est qu’ils peuvent encore diffuser de fausses informations.
Et les chercheurs ne comprennent toujours pas vraiment comment remonter aux causes des erreurs de calcul ou des tentatives de tromperie d’un chatbot, car ils ne maîtrisent pas suffisamment la façon dont les modèles d’IA produisent leurs réponses, expliquent-ils.
Malgré les progrès en matière de puissance de calcul, de données d’entraînement de meilleure qualité et de nouvelles techniques d’apprentissage par renforcement, les modèles d’IA restent en grande partie une énigme.
« Lorsque nous utilisons ces systèmes, nous ne connaissons pas leurs algorithmes », a déclaré David Bau, professeur au Khoury College of Computer Sciences.
Un modèle d’IA, issu d’un laboratoire de recherche comme OpenAI ou Anthropic, effectue des milliards de calculs mathématiques pour produire une seule réponse — un nombre si colossal qu’il est souvent impossible pour les chercheurs de déchiffrer le processus. C’est pourquoi, selon eux, l’IA est qualifiée de « boîte noire ».
Le problème fondamental des modèles d’IA est que, contrairement aux systèmes logiciels traditionnels, les humains ne les programment pas explicitement pour fonctionner, a ajouté Byron Wallace, professeur au Khoury College of Computer Sciences qui, comme Bau, travaille sur l’interprétabilité de l’IA.
Bien que des humains participent à la construction et à l’entraînement des modèles, une fois opérationnels, ces systèmes fonctionnent de manière indépendante pour trouver leurs réponses aux questions posées, a-t-il expliqué.
Suivi des réseaux neuronaux en action
Ces deux dernières années, Bau a travaillé en coulisses au sein du National Deep Inference Fabric (NDIF) de l’Université Northeastern, un laboratoire basé à Northeastern et spécialisé dans l’IA, afin de comprendre le fonctionnement des modèles d’IA.
De nombreux systèmes d’IA utilisés aujourd’hui reposent sur des réseaux neuronaux, des algorithmes logiciels conçus pour fonctionner de manière similaire au cerveau humain. Au NDIF, Bau a utilisé des machines d’IRM théoriques pour étudier les connexions synaptiques qui sous-tendent le fonctionnement de ces réseaux neuronaux.
Plus précisément, Bau et son équipe utilisent des modèles d’IA open source, gratuits et accessibles à tous – contrairement aux modèles privés d’Anthropic et d’OpenAI –, des supercalculateurs et une bibliothèque logicielle spécialisée appelée NNsight, qui permet de visualiser l’activité des neurones du modèle lorsqu’il répond à des requêtes.
Mais comprendre le fonctionnement interne de l’IA ne représente qu’une partie du problème.
Un détecteur de mensonges pour l’IA
Il est tout aussi important de développer une « boîte blanche » pour l’IA, que Bau décrit de manière générale comme un détecteur de mensonges pouvant servir à déceler les cas où une IA trompe de manière convaincante.
Lorsque les chercheurs parlent de construire un détecteur de mensonges pour l’IA, ils font référence à la capacité de repérer certains schémas dans l’activité du réseau neuronal du modèle d’IA qui indiquent qu’il trompe un utilisateur.
L’objectif est de partager ces schémas avec les utilisateurs de ces systèmes afin qu’ils puissent détecter les comportements trompeurs des chatbots, a déclaré Bau.
L’intelligence artificielle revêt une importance croissante car son utilisation se généralise, notamment pour obtenir des conseils de vie, des consultations médicales et même pour gérer ses finances. Or, elle peut, à leur insu, fournir des informations fausses ou trompeuses, et les chercheurs doivent trouver des solutions pour y remédier.
« L’IA a atteint un niveau de développement tel qu’il nous faut reconnaître qu’il s’agit d’une science à part entière et que, comme toute science, elle soulève des questions de sécurité », a déclaré Bau. « Mais son développement est si rapide que je crains que notre capacité à créer une IA ne soit bien plus avancée que notre capacité à devenir des scientifiques compétents et responsables à son sujet. »
Wallace, dont les recherches ont mis en évidence des biais raciaux dans les systèmes d’IA générative utilisés dans le domaine de la santé, a ajouté que, sans outils permettant de comprendre le fonctionnement de ces systèmes, les utilisateurs pourraient se mettre en danger.
Mettre en commun l’expertise pour exposer les objectifs cachés
Dans sa quête de solutions, Bau, en collaboration avec le Khoury College of Computer Sciences de l’Université Northeastern, a formé le Consortium international pour l’IA interprétable, ou ICINAi.
Selon Bau, ce groupe est composé de plus de 40 universitaires du monde entier travaillant dans le domaine de l’IA et développant des solutions d’IA « boîte blanche ». Ils réalisent ce travail en partageant des modèles d’IA, des méthodes de test et des ressources de calcul.
Wallace, membre du nouveau consortium, a souligné que, compte tenu de l’ampleur et de la complexité de la recherche, l’union des forces avec un groupe diversifié d’experts contribuera à accélérer les progrès.
Une grande partie des travaux consistera à déceler les cas où un modèle d’IA fournit des explications erronées en dissimulant des informations par des pratiques trompeuses, a déclaré Wallace. Ils permettront également de déterminer quand les modèles peuvent avoir des objectifs cachés et des biais.
« Pour moi, l’un des grands espoirs de l’interprétabilité est qu’elle permettra aux experts du domaine — des personnes comme les cliniciens — de mieux comprendre comment un modèle est parvenu à une disposition particulière afin de mieux faire confiance à ses résultats », a déclaré Wallace.
Beth Mynatt, doyenne du Khoury College of Computer Sciences, a déclaré que le nouveau consortium « réunit la rare combinaison d’expertise technique et d’objectif commun que requiert la situation actuelle ».
« L’objectif n’est pas de freiner l’IA, mais de combler le fossé entre la vitesse à laquelle ces systèmes sont développés et notre compréhension encore lacunaire de leur fonctionnement », a déclaré Mynatt. « ICINAi créera les données scientifiques et les indicateurs indispensables pour redéfinir le développement de l’IA et lui permettre de servir la société de manière fiable et sûre. »
Établir les fondements de la sécurité de l’IA
Bau et son équipe ont déjà commencé ce travail en collectant des données détaillées sur les situations où les modèles d’IA adoptent un comportement flagorneur lorsqu’ils répondent à des questions médicales, par exemple.
Bau a déclaré que les travaux menés au sein du consortium et du NDIF sont comparables aux travaux fondamentaux réalisés dans d’autres sciences liées à la sécurité. En biologie, par exemple, les chercheurs ont passé des décennies à suivre des atomes marqués dans les cellules afin de mieux comprendre la fonction de l’ADN dans l’organisme, a-t-il expliqué.
L’objectif est de réaliser le même travail de fond pour l’IA.
« Il faut laisser les scientifiques avoir les moyens de comprendre ce qui se passe réellement avec ces IA », a déclaré Bau. « Il faut pouvoir les analyser en profondeur et voir ce qu’elles contiennent. »
https://news.northeastern.edu/2026/10/05/ai-lie-detector-research