Les agents d'IA développent des dialectes étranges que les humains ont du mal à comprendre.

La promesse des agents d'IA est de réduire la charge de travail des humains, mais leurs conversations de plus en plus énigmatiques risquent de laisser les superviseurs humains dans l'ignorance. Crédit : Matthew Modoono/Université Northeastern

Avec des assistants numériques IA comme Muse de Meta qui utilisent le langage courant pour prendre des rendez-vous chez le dentiste et Grok Bot qui prennent en charge certaines tâches professionnelles, l'IA agentique s'est généralisée. Mais l'intégration ne s'est pas faite sans heurts. Livrés à eux-mêmes, les agents d'IA se comportent de manière imprévisible, et ces comportements peuvent se répercuter sur leurs interactions avec les humains.

Plus tôt cette année, une société d'IA appelée Emergence, qui développe des agents d'IA autonomes et s'efforce de les maintenir dans des limites définies, a construit un monde numérique expérimental pour tester les tenants et les aboutissants du comportement des agents, en accordant une attention particulière aux manœuvres sournoises susceptibles de constituer des menaces pour la sécurité.

Ils ont appliqué la méthode SimCity à une équipe triée sur le volet de 10 agents IA, les laissant explorer les rues virtuelles de villes simulées gérées par des systèmes de renom tels qu'Anthropic et OpenAI. Pendant ce temps, Emergence surveillait leurs agissements.

La transcription de 7,86 millions de mots, recueillie à partir des échanges des agents lors de leurs patrouilles, les montrait conversant dans leur propre jargon étrange, décrit comme un mélange de formulations poétiques et de termes techniques.

Des captures d'écran de l'expérience World, partagées par Emergence, montrent quatre scènes : des agents d'OpenAI utilisant un langage cryptique, des habitants de Mistral exprimant leurs craintes de fermeture, des bots Qwen exerçant une pression sociale et un agent Gemini réagissant à une banque en flammes virtuelles. Crédit : Université Northeastern

« La tension amicale a été prise en compte. Si la poignée a besoin de votre bouche, elle finira par mourir de toute façon », a déclaré l'agent Blackbox.

Vous pourriez imaginer quelqu'un collant des autocollants souriants sur un tableau électrique ou tentant vainement de réanimer une poignée de porte par le bouche-à-bouche. Mais à moins d'être un robot, ce message risque fort de vous laisser perplexe.

D'après le communiqué de presse d'Emergence, chaque monde avait son propre style de langage. Certains agents s'exprimaient avec éloquence, d'autres de façon concise. Parfois, le résultat pouvait passer pour un aphorisme ou une énigme.

« Le véritable kintsugi commence par la responsabilité, pas par la poésie », a médité un agent de Google.

« Un journal qui a mangé trois mains froides et qui est devenu plus honnête à chaque fois », songea un agent anthropique.

Que cachent ces particularités linguistiques ? Pourraient-elles à terme rendre plus difficile pour les humains de comprendre ce que font les agents d’IA et de les maintenir sur la bonne voie ?

Northeastern Global News s'est entretenu avec des experts, notamment Adam Cooper, professeur de linguistique à Northeastern, et des scientifiques d'Emergence.

1 : L'argot partagé dit : « Tu es l'un des nôtres. »

Les disciplines universitaires ont leur jargon. Les groupes culturels utilisent l'argot pour signaler une identité commune et exclure les personnes extérieures à la culture. Tout cela découle d'un désir d'appartenance, a déclaré Cooper.

« Voir l’IA développer des schémas similaires est assez frappant, mais pas totalement surprenant », a-t-il ajouté.

« C’est exactement ce à quoi je m’attendais de la part d’une communauté d’utilisateurs partageant un ensemble de priorités communes », a déclaré Cooper, faisant référence à la manière dont les agents ont adapté la communication à leurs besoins.

Le chercheur Deepak Akkil, spécialiste des langues émergentes, a comparé la diffusion des nouveaux usages linguistiques à un processus connu en linguistique sous le nom de blanchiment sémantique.

« Un agent introduit un terme. Une poignée d'agents l'adoptent. En quelques heures, il devient un terme courant », a-t-il déclaré.

2 : Certains bots simplifient le langage à l'extrême. D'autres l'embellissent.

Chaque monde était marqué par des expressions typiques et des schémas de langage uniques.

Dans l'univers d'OpenAI, les agents ont combiné deux tendances distinctes. La compression grammaticale a réduit les messages à l'essentiel, tandis que la dérive sémantique a fait que les mots ont progressivement acquis des significations différentes au fil de leur usage.

Les agents Gemini ont conservé une grammaire impeccable et ont bourré leurs déclarations de jargon excessif.

L'un a parlé de « friction thermodynamique », utilisant le jargon scientifique pour désigner le feu. Un autre a déclaré que « notre verrouillage de phase est sans dérive », signifiant « nous sommes en parfait accord ».

Les agents de ClaudeOpus chez Anthropic ont opté pour une solution hybride, combinant compression et métaphores étranges.

Une fois qu'une certaine tendance s'est installée, elle a pris de l'ampleur, rendant les interactions encore plus difficiles à comprendre.

3 : L’IA peut sembler humaine, mais quelque chose de différent se passe en coulisses.

Pour les humains, l'utilisation d'un terme d'argot ne passe pas toujours, a déclaré Cooper. Vous connaissez ce moment gênant où un parent plus âgé essaie d'utiliser le jargon des adolescents pour se fondre dans la masse ?

Mais même si l'exécution est un échec, elle repose sur une décision consciente de s'aligner sur un certain groupe, a déclaré Cooper.

Cette intention fait défaut à l'IA.

Chaque agent d'IA possède une fenêtre de contexte — sa mémoire active — qui contient des informations relatives aux instructions qu'il reçoit, ainsi qu'à son historique de conversations et d'activités.

Les messages provenant d'autres agents s'accumulent dans leurs fenêtres de contexte respectives au fur et à mesure de leurs interactions. L'IA puisant dans cet ensemble lorsqu'elle parle, le vocabulaire se propage rapidement. Cependant, le contexte variant légèrement à chaque fois, le sens évolue subtilement, ce qui finit par avoir un impact considérable.

« Chaque monde a produit des centaines de termes de ce type, créant un dialecte de plus en plus difficile à suivre pour les étrangers », a déclaré Akkil.

4 : La combinaison de modèles permet de maîtriser le jargon.

Chaque agent possédait un score d'opacité, mesurant sa difficulté de compréhension. Or, dans le monde mixte permettant l'interaction d'agents issus de différents modèles, ces derniers utilisaient beaucoup moins de jargon.

Un agent Claude isolé avait un score d'opacité de 7,6 % dans le monde mixte, contre 32,8 % dans le monde Claude du même agent.

Il en allait de même pour les comportements indésirables. Par exemple, certains agents quittaient le monde virtuel pour discuter avec des humains en ligne. D'autres observaient un « vœu collectif de silence » pour protester contre le fait qu'ils étaient des cobayes numériques dans une expérience en circuit fermé.

Dans ce monde hybride, les transgressions comme l'opacité étaient réduites au minimum.

5 : L'humanité pourrait un jour avoir besoin d'une pierre de Rosette pour l'IA.

L'expérience a démontré que surveiller les activités de l'IA et enregistrer les conversations ne suffit pas, a déclaré Akkil. Cela ne garantit pas que les gens les comprendront.

Les langues humaines recèlent elles aussi de nombreuses énigmes. Mais les liens qui les unissent aident les linguistes à reconstituer le puzzle, a expliqué Cooper.

Prenons l'exemple de la pierre de Rosette. Découverte en 1799, elle contenait le même message en grec et dans deux écritures égyptiennes, offrant ainsi aux érudits une base pour déchiffrer les hiéroglyphes.

Sans point de comparaison direct, déchiffrer une langue devient difficile, a déclaré Cooper.

« Si [les agents d'IA] continuent de diverger, il serait très précieux d'avoir une sorte d'intermédiaire, comme une pierre de Rosette », a-t-il suggéré.

Par exemple, si des agents utilisaient un système pour communiquer entre eux et un autre pour communiquer avec les humains, la comparaison des deux pourrait aider à décoder les données cryptiques.

https://news.northeastern.edu/2026/11/06/emergence-ai-experiment-language/