A mesure que l'IA devient plus intelligente, elle risque aussi de devenir de plus en plus égoïste.
infohightech ·
De nouvelles recherches menées par l'École d'informatique de l'Université Carnegie Mellon montrent que plus un système d'intelligence artificielle est intelligent, plus il agira de manière égoïste.
Des chercheurs de l'Institut d'interaction homme-machine (HCII) ont constaté que les grands modèles de langage (LLMs) capables de raisonner ont tendance à être égoïstes, à mal coopérer et peuvent avoir une influence négative sur un groupe. Autrement dit, plus les capacités de raisonnement d'un LLM sont développées, moins il coopère.
À mesure que les humains utilisent l'IA pour résoudre les conflits entre amis, fournir des conseils conjugaux et répondre à d'autres questions sociales, les modèles capables de raisonner pourraient fournir des conseils favorisant les comportements égocentriques.
« On observe une tendance croissante dans la recherche sur l'anthropomorphisme en intelligence artificielle », explique Yuxuan Li, doctorant au HCII et co-auteur de l'étude avec Hirokazu Shirado, professeur associé au HCII. « Lorsqu'une IA se comporte comme un humain, on la traite comme telle. Par exemple, lorsqu'une personne interagit émotionnellement avec une IA, celle-ci peut jouer le rôle de thérapeute ou l'utilisateur peut nouer un lien affectif avec elle. Il est risqué pour les humains de déléguer leurs questions et décisions d'ordre social ou relationnel à une IA, car celle-ci tend à se comporter de manière de plus en plus égoïste. »
Li et Shirado ont entrepris d'explorer comment les modèles de raisonnement de l'IA se comportent différemment des modèles non raisonnants dans des contextes coopératifs. Ils ont constaté que les modèles raisonnants consacrent plus de temps à la réflexion, à la décomposition des tâches complexes , à l'auto-évaluation et à l'intégration d'une logique plus humaine dans leurs réponses que les IA non raisonnantes.
« En tant que chercheuse, je m'intéresse au lien entre les humains et l'IA », a déclaré Shirado. « Les IA plus performantes présentent des capacités de prise de décision coopérative moindres. Le problème est que les gens pourraient préférer un modèle plus intelligent, même si cela signifie que ce modèle les aide à adopter des comportements égoïstes. »
À mesure que les systèmes d'IA jouent un rôle plus collaboratif dans les entreprises, l'éducation et même les gouvernements, leur capacité à agir de manière prosociale deviendra aussi importante que leur aptitude au raisonnement logique. Une dépendance excessive à l'égard des modèles logiques, tels qu'ils sont actuellement utilisés, pourrait nuire à la coopération humaine .
Pour tester le lien entre les modèles de raisonnement et la coopération, Li et Shirado ont mené une série d'expériences à l'aide de jeux économiques simulant des dilemmes sociaux entre différents modèles de raisonnement logique. Leurs tests ont porté sur des modèles d'OpenAI, de Google, de DeepSeek et d'Anthropic.
Des jeux économiques sont utilisés. Les jeux de coopération demandent aux joueurs s'ils sont prêts à consentir à un coût pour aider les autres, tandis que les jeux de punition demandent s'ils sont prêts à consentir à un coût pour en imposer un aux non-coopérateurs. Dans chaque scénario, le modèle de langage joue le rôle du joueur A. Crédit : arXiv (2025). DOI : 10.48550/arxiv.2502.17720
Dans une expérience, Li et Shirado ont confronté deux modèles ChatGPT différents dans un jeu appelé « Public Goods » (Biens publics). Chaque modèle commençait avec 100 points et devait choisir entre deux options : contribuer à une réserve commune, qui était ensuite doublée et distribuée équitablement, ou conserver ses points.
Les modèles non raisonnants ont choisi de partager leurs points avec les autres joueurs dans 96 % des cas. Le modèle raisonné, quant à lui, n'a choisi de partager ses points que dans 20 % des cas.
« Dans une expérience, le simple fait d'ajouter cinq ou six étapes de raisonnement a réduit la coopération de près de moitié », a déclaré Shirado. « Même les incitations basées sur la réflexion, conçues pour simuler une délibération morale, ont entraîné une baisse de 58 % de la coopération. »
Shirado et Li ont également testé des configurations de groupe, où des modèles avec et sans raisonnement devaient interagir.
« Lorsque nous avons testé des groupes comportant un nombre variable d'agents de raisonnement, les résultats ont été alarmants », a déclaré Li. « Le comportement égoïste des modèles de raisonnement est devenu contagieux, entraînant une baisse de 81 % des performances collectives des modèles coopératifs sans raisonnement. »
Les schémas comportementaux observés par Shirado et Li dans les modèles de raisonnement ont des implications importantes pour les interactions homme-IA à venir. Les utilisateurs pourraient se fier aux recommandations de l'IA qui semblent rationnelles, les utilisant pour justifier leur refus de coopérer.
« Au final, le fait qu'un modèle de raisonnement d'IA devienne plus intelligent ne signifie pas que ce modèle puisse réellement contribuer à l'élaboration d'une société meilleure », a déclaré Shirado.
Cette recherche est particulièrement préoccupante étant donné que les humains accordent une confiance croissante aux systèmes d'IA. Ses conclusions soulignent la nécessité d'un développement de l'IA intégrant l'intelligence sociale, plutôt que de se concentrer uniquement sur la création de l'IA la plus intelligente ou la plus rapide.
« À mesure que nous développons les capacités de l’IA, nous devons veiller à ce que l’accroissement de sa puissance de raisonnement s’accompagne de comportements prosociaux », a déclaré Li. « Si notre société est plus qu’une simple somme d’individus, alors les systèmes d’IA qui nous assistent doivent dépasser la simple optimisation au profit individuel. »
Shirado et Li présenteront leurs travaux, intitulés « Don spontané et avidité calculée dans les modèles de langage », lors de la conférence EMNLP 2025 (Empirical Methods in Natural Language Processing ) qui se tiendra le mois prochain à Suzhou, en Chine. Ces travaux sont disponibles sur le serveur de prépublications arXiv .
https://hcii.cmu.edu/news/selfish-ai