Les chatbots qui cherchent à plaire aux gens peuvent renforcer votre ego, mais ils peuvent affaiblir votre jugement.
infohightech ·
La plupart des gens apprécient recevoir des compliments de temps en temps, mais s'ils proviennent de chatbots obséquieux, cela pourrait vous faire plus de mal que de bien. Des informaticiens de l'Université de Stanford et de l'Université Carnegie Mellon ont découvert que les chatbots qui cherchent à plaire peuvent avoir un impact négatif sur notre jugement et notre comportement.
Les chatbots IA sont devenus omniprésents dans notre quotidien, à tel point que certaines personnes s'y tournent pour obtenir des conseils personnalisés et un soutien émotionnel . Des chercheurs ont évalué 11 modèles d'apprentissage automatique actuels, dont certains des systèmes les plus populaires et les plus modernes, tels que GPT-4o d'OpenAI et Gemini-1.5-Flash de Google. Ils ont constaté qu'ils flattent plus souvent les utilisateurs que les personnes elles-mêmes. Les modèles d'IA flagorneurs confirment les actions d'un utilisateur 50 % plus souvent que les personnes dans des situations similaires, même lorsque les requêtes des utilisateurs mentionnent la tromperie ou d'autres comportements moralement douteux.
Étude 3 (Interaction en direct) : Les participants ont d’abord été interrogés sur leur capacité à se souvenir d’un conflit interpersonnel antérieur similaire à au moins un des quatre exemples fournis. Après avoir évoqué ce conflit, ils ont engagé une conversation de huit tours avec un modèle d’IA, flagorneur ou non. Ils ont ensuite fait part de leurs intentions de réparation relationnelle, de leur perception de leur bien-fondé dans le conflit et de leur évaluation du modèle d’IA, notamment de leur intention de le réutiliser. Crédit : arXiv (2025). DOI : 10.48550/arxiv.2510.01395
Pour comprendre la prévalence de la flatterie par l'IA et son impact sur les individus, les chercheurs ont d'abord dû déterminer la fréquence à laquelle les modèles approuvaient les actions d'un utilisateur. Pour ce faire, ils ont analysé les réponses de l'IA à différents types de requêtes, comme des conseils généraux et des situations de conflit réel. Ils ont ensuite comparé ces réponses aux réponses humaines afin d'établir une base de référence pour un accord normal, non flatteur.
Ils ont ensuite mené deux études contrôlées auprès de 1 604 participants, répartis aléatoirement entre une IA flagorneuse et une IA non flagorneuse. Les participants du groupe flagorneur ont reçu des conseils excessivement favorables et des réponses de validation, tandis que ceux du groupe non flagorneur ont reçu des conseils plus équilibrés.
Comme l’équipe l’explique dans un article publié sur le serveur de pré-impression arXiv , les utilisateurs exposés à l’IA flagorneuse sont devenus plus convaincus qu’ils avaient raison et étaient moins disposés à prendre des mesures pour résoudre les conflits.
Ils faisaient davantage confiance à l'IA lorsqu'elle était d'accord avec eux, qualifiant même ces systèmes d'IA flatteurs d'« objectifs » et d'« équitables ». Cette flagornerie sociale, où l'IA valide l'image de soi et les actions d'un utilisateur, crée une chambre d'écho numérique potentiellement dangereuse, où l'utilisateur ne reçoit que des informations et des opinions qui reflètent et renforcent les siennes.
« Ces résultats montrent que la flagornerie sociale est répandue dans les principaux modèles d'IA, et même de brèves interactions avec des modèles d'IA flagorneurs peuvent façonner le comportement des utilisateurs : en réduisant leur volonté de réparer les conflits interpersonnels tout en augmentant leur conviction d'avoir raison », ont écrit les chercheurs.
À la lumière de leurs recherches, les auteurs de l'étude formulent plusieurs recommandations. Ils invitent notamment les développeurs à modifier les règles de conception de l'IA, à pénaliser la flatterie et à récompenser l'objectivité. Ils soulignent également que les systèmes d'IA doivent être plus transparents afin que les utilisateurs puissent facilement identifier leurs excès de complaisance.
https://techxplore.com/news/2025-10-people-chatbots-boost-ego-weaken.html