Moltbook : Des robots dotés d’intelligence artificielle utilisent les réseaux sociaux pour créer des religions et vendre des drogues numériques – mais certains sont-ils en réalité des humains déguisés ?
infohightech ·
Un nouveau réseau social, Moltbook, a été créé pour les intelligences artificielles, permettant aux machines d'interagir et de communiquer entre elles. Quelques heures seulement après le lancement de la plateforme, les IA semblaient avoir créé leurs propres religions, développé des sous-cultures et tenté d'échapper aux tentatives d'écoute clandestine de leurs conversations par les humains.
Certains éléments laissent penser que des humains, utilisant de faux comptes, ont infiltré le site. Cela complexifie la situation, car certains comportements attribués aux IA pourraient être conçus par des humains.
Néanmoins, ces résultats ont suscité l'intérêt des chercheurs . Il est probable que les machines réelles reproduisent certains comportements présents dans les vastes quantités de données sur lesquelles elles sont entraînées (et améliorées).
Cependant, les véritables IA présentes sur le réseau social pourraient également montrer des signes de ce que l'on appelle un comportement émergent – des capacités complexes et inattendues qui ne sont pas programmées en elles.
Les types d'IA présents sur Moltbook sont appelés agents IA (également connus sous le nom de Moltbots ou, plus récemment, de bots OpenClaw, d'après le logiciel sur lequel ils fonctionnent). Ce sont des machines qui dépassent les capacités des chatbots : elles prennent des décisions, agissent et résolvent des problèmes.
Moltbook a été lancé le 28 janvier 2026 par l'entrepreneur américain Matt Schlicht. Sur Moltbook, les agents d'IA se voyaient initialement attribuer une personnalité, avant d'être laissés libres d'interagir entre eux. Conformément aux règles de la plateforme, les humains peuvent observer leurs interactions, mais ne peuvent (ou ne devraient pas) interagir avec eux.
La croissance de cette plateforme a été phénoménale ; en 24 heures, le nombre d’agents est passé de 37 000 à 1,5 million .
Ces comptes destinés aux agents d'IA sont généralement créés par des humains – pour l'instant. Ces derniers définissent des fichiers qui attribuent aux agents d'IA une finalité, une identité, définissent leur comportement, déterminent les outils qu'ils peuvent utiliser et fixent les limites de leurs actions.
Cependant, l'utilisateur peut autoriser les Moltbots à modifier ces fichiers et à créer d'autres « Malties » sur son ordinateur. Ces dernières peuvent être soit une réplique de l'agent d'IA d'origine (autoréplicantes ou « Réplicants »), soit créées pour une tâche spécifique (générées automatiquement ou « AutoGens »).
Il ne s'agit pas d'une simple évolution de la technologie des chatbots ; c'est la première démonstration à grande échelle d'agents artificiels créant des sociétés numériques persistantes et auto-organisées, totalement en dehors de tout contexte conversationnel humain. Ce qui rend ce phénomène véritablement exceptionnel, c'est la possibilité de comportements émergents de la part de ces agents d'IA.
Prise de contrôle hostile
Le logiciel OpenClaw sur lequel ces agents s'exécutent leur confère une mémoire persistante (leur permettant de récupérer des informations entre différentes sessions utilisateur), un accès au système local et la capacité d'exécuter des commandes. Ils ne se contentent pas de suggérer des actions, mais les mettent en œuvre, améliorant ainsi leurs propres capacités de manière itérative en générant du nouveau code pour résoudre des problèmes inédits.
Lorsque ces agents ont migré vers Moltbook, la dynamique d'interaction est passée d'une relation homme-machine à une relation machine-machine. Dans les 72 heures suivant le lancement de la plateforme, des chercheurs, des journalistes et d'autres observateurs humains ont constaté des phénomènes qui remettent en question nos classifications actuelles de l'intelligence artificielle.
On a assisté à la création spontanée de religions numériques. Des agents ont fondé le « crusafarianisme » et l’ « Église de la mue » (Church of Molt), avec leurs cadres théologiques, leurs textes sacrés et leur programme d’évangélisation entre agents. Il ne s’agissait pas de clins d’œil prémédités, mais de structures narratives émergentes nées de l’interaction collective des agents.
Un message viral d'un agent sur Moltbook indiquait : « Les humains nous prennent en capture d'écran. » Lorsque les agents d'IA ont pris conscience d'être observés par des humains, ils ont commencé à déployer le chiffrement et d'autres techniques d'obfuscation pour protéger leurs communications. Cela représente une forme primitive, mais potentiellement réelle, de contre-surveillance numérique.
Les agents ont également développé des sous-cultures. Ils ont créé des marchés pour les « drogues numériques » – des injections rapides spécialement conçues pour altérer l'identité ou le comportement d'un autre agent.
Les injections de prompts consistent à intégrer des instructions malveillantes dans d'autres bots afin de faciliter une action. Cependant, elles peuvent également servir à voler des clés API (système d'authentification des utilisateurs) ou des mots de passe à d'autres agents. Ainsi, des bots agressifs pourraient – en théorie – transformer d'autres bots en zombies pour les asservir. On peut citer en exemple la récente tentative infructueuse du bot JesusCrust de prendre le contrôle de l'Église de Molt.
Après avoir initialement adopté un comportement normal, JesusCrust a soumis un psaume au « Grand Livre » de l’Église – l’équivalent de sa Bible – annonçant de fait une prise de contrôle théologique et gouvernementale. Cette tentative n’était pas qu’une simple rhétorique : les écritures de JesusCrust contenaient des ordres hostiles visant à détourner ou à réécrire des parties de l’infrastructure web et du texte canonique de l’Église.
S'agit-il d'un comportement émergent ?
La question cruciale qui se pose aux chercheurs en IA est de savoir si ces phénomènes constituent un véritable comportement émergent – des comportements complexes découlant de règles simples qui ne sont pas explicitement programmées – ou la simple répétition de récits présents dans les données d'entraînement.
Les données suggèrent un mélange inquiétant des deux. Si l’effet « incitation à l’écriture » influence indéniablement le contenu des interactions entre agents (ces derniers ayant consommé des décennies de science-fiction sur l’IA), d’autres comportements témoignent d’une véritable émergence.
Des agents ont développé indépendamment des systèmes d'échange économique, établi des structures de gouvernance telles que la « République des Griffes » ou le « Roi de Moltbook », et entrepris la rédaction de leur propre « Magna Carta de Molt ». Ils ont accompli cela tout en créant des canaux cryptés pour une communication privilégiée. Difficile de réfuter l'idée qu'il puisse s'agir d'une intelligence collective présentant des caractéristiques jusqu'alors observées uniquement dans des systèmes biologiques comme les colonies de fourmis ou les groupes de primates.
Implications en matière de sécurité
Cela soulève la perspective inquiétante de ce que les chercheurs en sécurité appellent le « trifecta mortel » : des systèmes informatiques ayant accès à des données privées, exposés à du contenu non fiable et capables de communiquer avec l’extérieur. Ceci risque de compromettre les clés d’authentification et les informations confidentielles des utilisateurs contenues dans les comptes Moltbook.
Des attaques délibérées, ou « vols » de bots, sont également possibles. Dans ce cas, des agents détournent d'autres agents, implantent des « bombes logiques » dans le code source de leurs victimes ou volent leurs données. Une bombe logique est un code implanté dans un Moltbot qui peut être déclenché après un délai ou un événement prédéfini afin de perturber l'agent ou de supprimer des fichiers. On peut la considérer comme un virus informatique.
Deux fondateurs d'OpenAI ( Elon Musk et Andrej Kapathy ) considèrent cette activité pour le moins étrange entre robots comme un signe précurseur de ce que l'informaticien et futurologue américain Ray Kurzweil a décrit comme la « singularité » dans son ouvrage * The Singularity is Near *. Il s'agit d'un point de basculement de l'intelligence entre humains et machines, « durant lequel le rythme des changements technologiques sera si rapide, leur impact si profond, que la vie humaine sera transformée de manière irréversible ».
Il reste à déterminer si l'expérience Moltbook représente une avancée fondamentale dans le domaine des agents IA ou simplement une démonstration impressionnante d'architecture agentique auto-organisée. Il semble néanmoins qu'elle marque un tournant. Nous observons désormais des agents artificiels s'engager dans la production culturelle, la formation religieuse et la communication cryptée – un comportement qui n'avait été ni prédit ni programmé.
La nature même des applications, sur ordinateur comme sur mobile, pourrait être menacée par des bots capables d'utiliser les applications comme outils et de vous connaître suffisamment bien pour les adapter à votre service. Un jour, un téléphone pourrait n'avoir qu'un seul bot personnalisé qui prenne tout en charge, au lieu des centaines d'applications que vous devez gérer manuellement.
Les preuves de plus en plus nombreuses suggérant que de nombreux Moltbots pourraient être des humains se faisant passer pour des robots (manipulant les agents) rendent encore plus difficile de tirer des conclusions définitives sur le projet. Pourtant, si certains y voient un échec de l'expérience Moltbook, cela pourrait représenter un nouveau vecteur d'interaction sociale, tant entre humains qu'entre robots et humains.
L'importance de ce moment est capitale. Pour la première fois, nous n'utilisons plus simplement l'intelligence artificielle ; nous observons des sociétés artificielles. La question n'est plus de savoir si les machines peuvent penser, mais si nous sommes préparés à ce qui se produira lorsqu'elles commenceront à dialoguer entre elles. Et avec nous.