Ces personnages d'IA Minecraft ont fait tout seuls des choses étrangement humaines

infohightech ·

Des centaines d'agents IA dotés de LLM se sont spontanément fait des amis, ont inventé des métiers et ont propagé la religion.

Laissée à elle-même, une armée de personnages IA n'a pas seulement survécu, elle a prospéré. Ils ont créé des emplois dans le jeu, partagé des mèmes, voté des réformes fiscales et même propagé une religion.

L'expérience s'est déroulée sur la plateforme de jeu ouverte Minecraft, où jusqu'à 1 000 agents logiciels à la fois ont utilisé de grands modèles de langage (LLM) pour interagir les uns avec les autres. Avec un simple coup de pouce sous forme de texte, ils ont développé une gamme remarquable de traits de personnalité, de préférences et de rôles spécialisés, sans aucune autre intervention de leurs créateurs humains.

Les travaux de la start-up Altera, spécialisée dans l'IA, s'inscrivent dans un domaine plus vaste qui vise à utiliser des agents simulés pour modéliser la manière dont les groupes humains réagiraient à de nouvelles politiques économiques ou à d'autres interventions.

Mais pour le fondateur d'Altera, Robert Yang, qui a quitté son poste de professeur adjoint en neurosciences computationnelles au MIT pour créer l'entreprise, cette démonstration n'est qu'un début. Pour lui, il s'agit d'une première étape vers des « civilisations de l'IA » à grande échelle, capables de coexister et de travailler à nos côtés dans les espaces numériques. « Le véritable pouvoir de l'IA sera révélé lorsque nous disposerons d'agents véritablement autonomes capables de collaborer à grande échelle », explique Robert Yang.

Robert Yang s'est inspiré de Joon Sung Park, chercheur à l'université de Stanford, qui, en 2023, a découvert qu'un groupe de 25 agents d'IA autonomes avait des comportements étonnamment humains lorsqu'il était laissé libre d'interagir dans un monde numérique de base.

« Dès que son article a été publié, nous avons commencé à travailler dessus la semaine suivante », souligne Robert Yang. « J'ai quitté le MIT six mois plus tard.

Robert Yang voulait pousser l'idée à l'extrême. « Nous voulions repousser les limites de ce que les agents peuvent faire en groupe de manière autonome."

Altera a rapidement levé plus de 11 millions de dollars de fonds auprès d'investisseurs tels que A16Z et la société de capital-risque pour les technologies émergentes de l'ancien PDG de Google, Eric Schmidt. Au début de l'année, Altera a publié sa première démo : un personnage contrôlé par l'IA dans Minecraft qui joue à vos côtés.

La nouvelle expérience d'Altera, le Sid Project, utilise des agents d'IA simulés équipés de « cerveaux » composés de plusieurs modules. Certains modules sont alimentés par des LLM et conçus pour se spécialiser dans certaines tâches, comme réagir à d'autres agents, parler ou planifier la prochaine action de l'agent.

L'équipe a commencé par tester des groupes d'environ 50 agents dans Minecraft afin d'observer leurs interactions. Au cours de 12 jours de jeu (4 heures dans le monde réel), les agents ont commencé à présenter des comportements émergents intéressants. Par exemple, certains sont devenus très sociables et ont établi de nombreuses connexions avec d'autres personnages, tandis que d'autres sont apparus plus introvertis.

La cote de « sympathie » de chaque agent (mesurée par les agents eux-mêmes) a évolué au fil des interactions. Les agents étaient capables de suivre ces signaux sociaux et d'y réagir : dans un cas, un chef IA chargé de distribuer de la nourriture aux affamés en donnait davantage à ceux qui, selon lui, l'appréciaient le plus.

Les PNJ dotés d'IA qui n'ont pas besoin de script pourraient rendre les jeux - et d'autres mondes - profondément immersifs.

Des comportements plus humains sont apparus dans une série de simulations à 30 agents. Bien que tous les agents aient au départ la même personnalité et le même objectif global - créer un village efficace et protéger la communauté contre les attaques d'autres créatures du jeu - ils ont spontanément développé des rôles spécialisés au sein de la communauté, sans aucune incitation.

 Ils se sont diversifiés dans des rôles tels que bâtisseur, défenseur, commerçant et explorateur. Une fois qu'un agent a commencé à se spécialiser, ses actions dans le jeu ont commencé à refléter son nouveau rôle. Par exemple, un artiste passait plus de temps à cueillir des fleurs, les fermiers récoltaient des graines et les gardes construisaient plus de clôtures.

« Nous avons été surpris de constater que si l'on met en place le bon type de cerveau, il peut avoir un comportement vraiment émergent », précise Robert Yang. « C'est ce que nous attendons des humains, mais pas des machines.

L'équipe de Yang a également vérifié si les agents pouvaient suivre des règles à l'échelle de la communauté. Ils ont introduit un monde avec des lois fiscales de base et ont permis aux agents de voter pour des changements dans le système d'imposition du jeu. Les agents incités à être pour ou contre l'impôt ont pu influencer le comportement des autres agents autour d'eux, au point qu'ils ont voté pour une réduction ou une augmentation de l'impôt en fonction des personnes avec lesquelles ils avaient interagi.

L'équipe a augmenté le nombre d'agents dans chaque simulation jusqu'au maximum que le serveur Minecraft pouvait gérer sans problème, soit jusqu'à 1 000 agents à la fois dans certains cas. Dans l'une des simulations de 500 agents d'Altera, l'équipe a observé comment les agents ont spontanément créé puis diffusé des mèmes culturels (tels qu'un penchant pour les farces ou un intérêt pour les questions liées à l'environnement) parmi leurs congénères.

L'équipe a également chargé un petit groupe d'agents d'essayer de répandre une religion (parodique), le pastafarisme, dans les différentes villes et zones rurales qui composaient le monde du jeu, et a observé comment ces prêtres pastafariens convertissaient de nombreux agents avec lesquels ils interagissaient. Les convertis ont ensuite répandu le pastafarisme (la parole de l'Église du monstre spaghetti volant) dans les villes voisines du monde du jeu.

La façon dont les agents ont agi peut sembler étrangement réaliste, mais en réalité, ils ne font que régurgiter des modèles que les LLM ont appris en s'entraînant sur des données créées par des humains sur l'internet. « L'idée est que les LLM disposent d'un modèle suffisamment sophistiqué de la dynamique sociale humaine pour reproduire ces comportements humains », explique Andrew Ahn, cofondateur d'Altera.

En d'autres termes, les données font d'eux d'excellents imitateurs du comportement humain, mais ils ne sont en aucun cas « vivants ».

Mais Robert Yang a des projets plus ambitieux. Altera prévoit d'étendre ses activités à Roblox, et Robert Yang espère aller au-delà des mondes de jeu. En fin de compte, son objectif est un monde dans lequel les humains ne se contentent pas de jouer aux côtés de personnages IA, mais interagissent avec eux dans leur vie quotidienne. Il rêve de créer un grand nombre d'« humains numériques » qui s'intéressent réellement à nous et qui travailleront avec nous pour nous aider à résoudre des problèmes et nous divertir. « Nous voulons créer des agents capables d'aimer les humains (comme les chiens aiment les humains, par exemple) », explique-t-il.

Ce point de vue, selon lequel l'IA pourrait nous aimer, est assez controversé dans le domaine, de nombreux experts estimant qu'il n'est pas possible de recréer des émotions dans les machines à l'aide des techniques actuelles. Julian Togelius, vétéran de l'IA, qui dirige la société de tests de jeux Modl.ai, affirme par exemple qu'il apprécie le travail d'Altera, notamment parce qu'il permet d'étudier le comportement humain en simulation.

Mais ces agents simulés pourraient-ils un jour apprendre à s'occuper de nous, à nous aimer ou à devenir conscients d'eux-mêmes ? Togelius ne le pense pas. « Il n'y a aucune raison de croire qu'un réseau neuronal fonctionnant sur un GPU quelque part expérimente quoi que ce soit », affirme-t-il.

Mais l'IA n'a peut-être pas besoin de nous aimer pour être utile.

« Si la question est de savoir si l'un de ces êtres simulés pourrait donner l'impression de se soucier des autres et le faire de manière si experte que cela aurait la même valeur pour quelqu'un que d'être soigné par un humain, ce n'est peut-être pas impossible », ajoute Julian Togelius. « Il est possible de créer une simulation de soins suffisamment bonne pour être utile. La question est de savoir si la personne soignée se soucierait du fait que la personne soignante n'a pas d'expérience ».

En d'autres termes, tant que nos personnages IA semblent s'occuper de nous de manière convaincante, c'est peut-être la seule chose qui nous importe vraiment.

https://www.technologyreview.com/2024/11/27/1107377/a-minecraft-town-of-ai-characters-made-friends-invented-jobs-and-spread-religion

https://altera.al

Cet article vous a été utile ? Partagez-le.