Votre chatbot ne vous aime pas : l’« illusion » de l’IA sociale

Chaque jour, des millions de personnes dialoguent avec des chatbots et des assistants IA tels que ChatGPT, Replika et Gemini, mais quel genre de « relations » établissons-nous réellement avec eux ?

Dans un numéro spécial de la revue New Media & Society , le Dr Iliana Depounti (Université de Loughborough en Grande-Bretagne) et le professeur associé Simone Natale (Université de Turin) explorent l'essor de la « socialité artificielle » – des technologies qui simulent le comportement social et la connexion émotionnelle sans les posséder réellement.

Leur article, « Décoder la sociabilité artificielle : technologies, dynamiques, implications » , (Decoding Artificial Sociality: Technologies, Dynamics, Implications) révèle un certain nombre de problèmes liés à l’essor des grands modèles de langage (LLM) et des chatbots d’IA.

Cet article soutient que l'illusion d'amitié ou de compréhension créée par l'IA est délibérément cultivée par les entreprises technologiques pour accroître l'engagement des utilisateurs, comme le « DJ IA » de Spotify doté d'une voix humaine amicale et les chatbots « compagnons virtuels » de Replika.

Le Dr Depounti a déclaré : « Les robots conversationnels génératifs d'IA tels que Replika ou Character AI illustrent les technologies de sociabilité artificielle. »

« Elles sont créées pour favoriser la projection émotionnelle, offrant aux utilisateurs intimité et camaraderie grâce à des fonctionnalités telles que les avatars, les jeux de rôle, la personnalisation et la gamification – le tout avec des avantages financiers pour les entreprises qui les conçoivent. »

« ChatGPT utilise lui aussi des techniques de sociabilité artificielle, allant jusqu'à se désigner par le pronom « je » et à adopter des tons d'autorité, d'empathie ou d'expertise. »

« Bien que ces systèmes simulent la sociabilité plutôt que de la recréer, leur pouvoir réside dans cette simulation – dans leur capacité à impliquer, persuader et émouvoir des millions d’utilisateurs à travers le monde, soulevant de profondes questions éthiques. »

L'étude montre comment les signaux sociaux sont intégrés aux produits pour prolonger les interactions entre les personnes.

Parmi les autres problèmes, on peut citer :

• Les machines ne font qu'imiter les comportements sociaux , mais les utilisateurs leur projettent toujours des sentiments, de la confiance et de l'empathie.
• Les données des utilisateurs et le travail émotionnel sont exploités pour entraîner et « personnaliser » les systèmes d'IA, ce qui soulève des préoccupations éthiques et environnementales concernant le travail humain invisible et la consommation massive d'énergie des centres de données.
• Les biais et les stéréotypes présents dans les systèmes d'IA reflètent les inégalités sociales, façonnant la manière dont le genre, la classe et la race sont représentés dans les conversations numériques.
• Les utilisateurs s'adaptent à leurs « compagnons » IA grâce à ce que les chercheurs appellent la « redomestication » – renégociant les relations à chaque changement de personnalité ou de comportement du chatbot.
• La frontière entre authenticité et tromperie s'estompe à mesure que les personnalités virtuelles sont commercialisées comme des « amis », des « collègues » ou même des « influenceurs ».

Le Dr Natale a déclaré : « La sociabilité artificielle est la nouvelle frontière de la communication homme-machine dans nos interactions avec les technologies d'IA générative. »

« Ces systèmes ne ressentent rien, mais ils sont conçus pour nous faire ressentir des émotions, et cette projection émotionnelle a de profondes conséquences sociales, économiques et éthiques. Les technologies de socialité artificielle invitent et encouragent ces projections. »

Derrière ces conversations apparemment sans effort, avertissent les chercheurs, se cache une vaste infrastructure aux coûts humains et environnementaux considérables.

Les modèles d'IA s'appuient sur d'immenses ensembles de données issus des interactions en ligne des utilisateurs et souvent de leurs conversations avec les machines elles-mêmes.

Ces données sont ensuite utilisées pour « entraîner » les chatbots à paraître plus humains – parfois grâce à un travail émotionnel ou linguistique non rémunéré effectué sans le savoir par les utilisateurs.

Dans le même temps, les serveurs qui alimentent l'IA générative consomment d'énormes quantités d'électricité et d'eau.

Les auteurs soulignent un investissement de 500 milliards de dollars réalisé par les grandes entreprises technologiques dans de nouveaux centres de données pour répondre à la demande en IA, le décrivant comme faisant partie d'un système « extractif » qui transforme la communication humaine en actifs commerciaux.

https://www.lboro.ac.uk/news-events/news/2025/november/illusion-of-ai-interaction