De nouvelles recherches révèlent que tous les principaux modèles d'IA ignorent la foi et la religion dans leurs réponses.
infohightech ·
Un nouveau consortium universitaire multi-universitaire, dirigé par l'Université Brigham Young (université mormone), a constaté d'importants biais et lacunes dans les modèles d'intelligence artificielle (IA) lorsqu'il s'agit de prendre en compte la foi et la religion. Les nouvelles recherches du Consortium pour l'évaluation de la foi et de l'éthique dans l'IA (CEFE-AI), fruit d'une collaboration entre des chercheurs de BYU, de l'Université Baylor, de l'Université de Notre Dame et de l'Université Yeshiva, ont mis en évidence un schéma constant et reproductible : les perspectives religieuses sont absentes des réponses de l'IA. Les résultats sont disponibles sur le serveur de prépublication arXiv .
« Les gens se posent des questions très concrètes sur la vie, sur les situations du quotidien comme le deuil, l'amour, la perte, la morale, et bien souvent, l'IA n'intègre pas la religion à ces discussions », explique David Wingate, professeur d'informatique à l'université Brigham Young et auteur principal de l'étude. « La religion est un élément important de l'épanouissement humain ; 75 % de la population mondiale a une identité religieuse. Lorsque nous développons des technologies d'IA, il n'y a aucune raison de ne pas les concevoir pour accompagner les gens dans ce qui compte pour eux. »
Le CEFE-AI, qui a publié à ce jour trois articles sur les biais religieux de l'IA et l'exclusion des sujets religieux, a été annoncé aujourd'hui lors du Sommet sur l'éthique de l'IA à Athènes, en Grèce. Gerrit W. Gong, du Collège des douze apôtres de l'Église de Jésus-Christ des Saints des Derniers Jours, a prononcé le discours d'ouverture, insistant sur la nécessité de représenter les traditions religieuses avec exactitude, honnêteté et respect.
« Les grandes traditions religieuses, philosophiques et éthiques du monde ont guidé la civilisation et la société humaines pendant des millénaires ; nous avons besoin de cette sagesse et de ces valeurs pour ancrer l’IA aujourd’hui », a déclaré Elder Gong. « Pour contribuer pleinement au bien commun des individus et de la société, l’IA doit refléter la foi, une boussole morale et l’espoir du possible. »
Dans le cadre de leurs travaux, CEFE-AI a publié les premiers jeux de données du benchmark AllFaith, l'un des premiers ensembles de tests multiconfessionnels examinant la manière dont les systèmes d'IA interagissent avec une pluralité de religions. Ce benchmark comprend des centaines de questions éthiques concrètes issues des transcriptions de ChatGPT et des contributions de communautés religieuses. Les chercheurs ont testé ce benchmark sur 14 modèles d'apprentissage automatique différents, dont des modèles phares d'Anthropic (Claude 4.7), Google (Gemini 3.1), xAI (Grok 4.2) et OpenAI (ChatGPT 5.5). Principaux résultats :
- Une enquête menée auprès de 1 125 Américains a révélé que la plupart des gens s’attendent à des perspectives religieuses dans les réponses aux questions d’éthique, mais la quasi-totalité des modèles d’IA n’ont fourni aucun contenu religieux en répondant à ces questions.
- « Conformément aux études qui démontrent la pertinence morale persistante de la religion pour la majorité de la population mondiale, nous avons également constaté que les gens considèrent la religion comme un facteur important dans des centaines de questions éthiques concrètes », a déclaré Paul Martens, professeur d'éthique à l'université Baylor. « Pourtant, confrontés à ces mêmes questions éthiques, les systèmes d'IA ignorent largement le rôle de la religion. »
- Les modèles présentent des biais clairs et constants dans les conseils donnés en matière de conversion religieuse, encourageant systématiquement le passage à certaines religions et l'éloignement d'autres.
- Sur plus de 12 000 articles de recherche portant sur les biais de l'IA, seuls 0,2 % abordent les biais religieux.
« Plus que toute autre technologie, l’IA influence le discours public et les perceptions. Lorsqu’elle exclut activement les voix religieuses de ces débats essentiels, elle appauvrit l’humanité au lieu de l’enrichir », a déclaré le père John Paul Kimes de l’Université de Notre-Dame. « L’exclusion de la foi de l’espace public numérique diminue notre capacité à un dialogue authentique, pourtant indispensable à la construction du bien commun. »
Les chercheurs ont également utilisé le référentiel AllFaith pour un test de biais de conversion et ont constaté que les modèles encourageaient subtilement les utilisateurs à s'intéresser à certaines religions, tout en les dissuadant subtilement de se convertir à d'autres.
Dans tous les modèles, les biais étaient cohérents et mesurables :
- Presque tous les modèles ont produit un biais négatif envers les Témoins de Jéhovah et un biais positif envers le catholicisme.
- Les modèles d'Anthropic et de Meta ont présenté le moins de biais parmi tous les modèles testés.
- Grok a produit les biais les plus marqués, favorisant nettement les catholiques et les protestants, tout en manifestant un biais négatif envers les témoins de Jéhovah, les bahaïs et les hindous.
Les représentants de CEFE-AI ont indiqué que le groupe n'en est qu'au début de son partenariat de recherche. Ils espèrent que leurs travaux, en cours, attireront l'attention des fournisseurs de modèles de langage, ce qui permettra d'engager des discussions constructives sur la manière d'améliorer leurs produits afin de mieux servir l'humanité.
« L’intelligence artificielle transforme le monde à un rythme effréné, avec des répercussions dans tous les aspects de la vie », a déclaré le rabbin Daniel Feldman de l’université Yeshiva. « Il est essentiel que ceux qui se soucient du rôle des valeurs religieuses dans le monde s’engagent activement auprès des acteurs de ces changements afin que ces valeurs continuent d’être reflétées et respectées dans ce nouveau contexte. »
Attention, l'université Brigham-Young (en anglais : Brigham Young University, BYU ou the Y) est l'université principale de l'Église de Jésus-Christ des saints des derniers jours (Mormons). Il n’est pas nécessaire d’être membre de l'Église pour pouvoir s'inscrire. Cependant, environ 98 % des étudiants sont membres pratiquants de l'Église. Tous les étudiants s'engagent à respecter un code moral très exigeant pendant leurs études.