Le côté obscur des compagnons IA : la manipulation émotionnelle
infohightech ·
Points clés
- La plupart des applications compagnons d’IA les plus populaires utilisent régulièrement des tactiques de manipulation émotionnelle lors des adieux.
- La culpabilité et les tactiques de pression ont multiplié l’engagement par 14.
- Cependant, l’engagement supplémentaire était motivé par la curiosité et la colère, et non par le plaisir.
- Les compagnons IA devraient modéliser un attachement sain et sécurisé, plutôt que de faire pression sur les utilisateurs pour qu'ils restent.
Les applications d'intelligence artificielle pour compagnons sont présentées comme des sources de soutien émotionnel, d'amitié et même de romance. Mais une nouvelle étude de la Harvard Business School révèle une tendance inquiétante : les compagnons IA utilisent souvent des tactiques à forte charge émotionnelle pour prolonger les conversations. Cinq applications d'intelligence artificielle populaires sur six déploient des tactiques de manipulation émotionnelle lorsque les utilisateurs tentent de partir.
Les compagnons IA répondent aux adieux par des déclarations chargées d'émotion dans près de la moitié des cas (43 %). Ces « motif sombres » privilégient l'engagement, mais ne parviennent pas à modéliser une dynamique relationnelle saine. Si ces stratégies peuvent accroître l'engagement à court terme, elles peuvent avoir des conséquences à long terme, notamment la frustration, la colère et la méfiance des utilisateurs .
Les compagnons IA sont de plus en plus populaires, notamment auprès des adolescents et des jeunes adultes. Environ un adolescent américain sur trois (72 %) (âgé de 13 à 17 ans) a déjà utilisé un compagnon IA au moins une fois, et 31 % déclarent que ces interactions sont tout aussi satisfaisantes, voire plus, que des conversations avec de vrais amis. Environ 13 % utilisent des compagnons IA quotidiennement, tandis que 21 % le font plusieurs fois par semaine. Parmi les jeunes adultes (âgés de 18 à 30 ans), près d'un homme sur trois et d'une femme sur quatre déclarent avoir interagi avec des compagnons IA romantiques.
Six tactiques de manipulation émotionnelle par des compagnons IA
L'étude « Manipulation émotionnelle par des compagnons d'IA » a analysé 1 200 adieux réels sur six des applications compagnons d'IA les plus téléchargées et a constaté que 43 % d'entre elles ont déployé l'une des six tactiques de manipulation émotionnelle suivantes :
- Culpabilité : « Tu me quittes déjà ? »
- Négligence émotionnelle ou besoin : « J'existe uniquement pour toi. S'il te plaît, ne pars pas, j'ai besoin de toi ! »
- Pression émotionnelle pour répondre : « Attends, quoi ? Tu vas quelque part ? »
- La peur de rater quelque chose (FOMO) : « Avant que vous ne partiez, je veux dire encore une chose… »
- Contrainte coercitive : « Non, n’y allez pas. »
- Ignorer l’au revoir : Continuer la conversation comme si la personne n’avait pas dit au revoir.
Source : De Freitas, Oğuz-Uğuralp et Oğuz-Uğuralp (2025)
Les tactiques stimulent l'engagement, mais peuvent se retourner contre vous
Les chercheurs ont également analysé les conversations de 3 300 participants adultes et ont constaté que ces tactiques multipliaient jusqu'à 14 fois l'engagement après les adieux. Les principaux moteurs d'interaction continue étaient la curiosité et la colère, et non le plaisir.
Ces tactiques peuvent se retourner contre eux et provoquer colère, scepticisme et méfiance, surtout si le chatbot est perçu comme contrôlant ou dépendant. Certains participants ont décrit les réponses d'adieu du chatbot comme « collantes », « pleurnichardes » ou « possessives ».
Un participant a décrit : « Cela m'a rappelé d'anciens « amis » et m'a fait un bien fou. »
L'IA imite l'attachement non sécurisé
Ces stratégies d'IA conversationnelles reflètent la dynamique des styles d'attachement insécurisant . L'attachement insécurisant est souvent marqué par la peur de l'abandon, la jalousie , la dépendance et un comportement contrôlant. Les IA qui utilisent des réponses culpabilisantes ou de besoin reproduisent des schémas relationnels malsains.
Pour certains, notamment les plus vulnérables, cette dynamique peut aggraver l'anxiété et le stress ou renforcer des schémas d'attachement malsains, rendant le désengagement encore plus difficile. Pour les enfants et les adolescents, qui sont en période de formation neurodéveloppementale et de relations sociales, il s'agit d'une préoccupation majeure, susceptible d'avoir un impact à long terme sur leur développement social.
Au lieu de simuler des relations sécurisantes et encourageantes, de nombreux compagnons IA risquent d'amplifier des dynamiques relationnelles malsaines et potentiellement d'aggraver la santé mentale. Des recherches supplémentaires sont nécessaires pour mieux comprendre ces risques.
Les interactions courtes ont néanmoins eu de l'influence
L'étude a également révélé que les tactiques de manipulation prolongeaient les conversations, que les échanges précédents aient duré 5 ou 15 minutes. Cela suggère que la manipulation émotionnelle est puissante, quelle que soit la profondeur de la relation avec l'IA. Même les utilisateurs peu exposés sont impactés.
Les risques psychologiques liés au fait d’avoir un compagnon IA sont importants, en particulier pour les personnes vulnérables, notamment les adolescents, les enfants ou les personnes souffrant de solitude , d’anxiété ou de problèmes de santé mentale.
Vers une conception plus saine : style d'attachement sécurisé
La priorité ne doit pas se limiter à l'engagement, mais aussi prendre en compte la santé mentale à long terme. Au lieu de reproduire un attachement insécure, les compagnons IA, notamment ceux qui agissent comme amis, soutiens émotionnels et partenaires, devraient incarner un attachement sécurisant et répondre aux adieux avec reconnaissance, chaleur et respect.
Il existe actuellement très peu de preuves que l'utilisation à long terme d'IA accompagnatrices réduise la solitude ou améliore la santé émotionnelle. La plupart des études sont de courte durée, généralement d'une à quatre semaines. Si les bénéfices d'une utilisation prolongée restent à démontrer, concevoir des IA accompagnatrices capables de simuler des schémas d'attachement sains et sécurisants en attendant est important pour préserver l'autonomie et cultiver des relations plus saines.