L'IA générative apprend à un chien robot à se déplacer dans un nouvel environnement

infohightech ·

Un nouveau système pourrait permettre de former des robots entièrement dans des mondes générés.

Il n'est pas facile d'apprendre aux robots à naviguer dans de nouveaux environnements. Il est possible de les former à l'aide de données physiques et réelles provenant d'enregistrements effectués par des humains, mais ces données sont rares et coûteuses à collecter. Les simulations numériques constituent un moyen rapide et évolutif de leur apprendre à faire de nouvelles choses, mais les robots échouent souvent lorsqu'on les sort des mondes virtuels et qu'on leur demande d'effectuer les mêmes tâches dans le monde réel.

Il existe désormais une option potentiellement meilleure : un nouveau système qui utilise des modèles génératifs d'IA en conjonction avec un simulateur de physique pour développer des terrains d'entraînement virtuels qui reflètent plus fidèlement le monde physique. Les robots formés à l'aide de cette méthode ont obtenu un taux de réussite plus élevé dans les tests du monde réel que ceux formés à l'aide de techniques plus traditionnelles.

Les chercheurs ont utilisé le système, appelé LucidSim, pour entraîner un chien robot au parkour, en lui faisant enjamber une boîte et monter des escaliers alors qu'il n'avait jamais vu de données réelles. Cette approche démontre à quel point l'IA générative peut être utile lorsqu'il s'agit d'apprendre à des robots à accomplir des tâches difficiles. Elle soulève également la possibilité de les former dans des mondes entièrement virtuels. Ces travaux ont été présentés la semaine dernière lors de la conférence sur l'apprentissage des robots (CoRL).

Le parkour (PK) est une méthode d'entraînement pour franchir toutes sortes d'obstacles dans des environnements urbains ou naturels, comme les forêts

« Nous sommes au milieu d'une révolution industrielle dans le domaine de la robotique », explique Ge Yang, post-doctorant au laboratoire d'informatique et d'intelligence artificielle du MIT, qui a travaillé sur le projet. « Il s'agit de notre tentative de comprendre l'impact de ces modèles [d'IA générative] en dehors de leurs objectifs initiaux, dans l'espoir que cela nous conduise à la prochaine génération d'outils et de modèles.

LucidSim utilise une combinaison de modèles d'IA générative pour créer les données visuelles d'entraînement. Les chercheurs ont d'abord généré des milliers de messages-guides pour ChatGPT, en lui demandant de créer des descriptions d'une série d'environnements représentant les conditions que le robot rencontrerait dans le monde réel, y compris différents types de temps, d'heures de la journée et de conditions d'éclairage. Parmi ces descriptions, citons « une ancienne ruelle bordée de maisons de thé et de petites boutiques pittoresques, chacune présentant des ornements et des calligraphies traditionnels » et « le soleil illumine une pelouse quelque peu négligée et parsemée de taches sèches ».  

Ces descriptions ont été introduites dans un système qui associe des données géométriques et physiques en 3D à des images générées par l'IA, créant ainsi de courtes vidéos qui dessinent une trajectoire que le robot doit suivre. Le robot s'appuie sur ces informations pour déterminer la hauteur, la largeur et la profondeur des objets qu'il doit parcourir - une boîte ou un escalier, par exemple.

Les chercheurs ont testé LucidSim en demandant à un robot quadrupède équipé d'une webcam d'effectuer plusieurs tâches, notamment de localiser un cône de signalisation ou un ballon de football, de passer par-dessus une boîte et de monter et descendre des escaliers. Le robot a obtenu de meilleurs résultats que lorsqu'il utilisait un système formé à partir de simulations traditionnelles. En 20 essais de localisation du cône, LucidSim a obtenu un taux de réussite de 100 %, contre 70 % pour les systèmes entraînés à partir de simulations standard. De même, LucidSim a atteint le ballon de football lors de 20 autres essais dans 85 % des cas, contre seulement 35 % pour l'autre système.

Enfin, lorsque le robot utilisait LucidSim, il a réussi les 10 essais de montée d'escalier, contre seulement 50 % pour l'autre système.

De gauche à droite : Phillip Isola, Ge Yang et Alan Yu

Ces résultats devraient encore s'améliorer à l'avenir si LucidSim s'appuie directement sur des modèles vidéo génératifs sophistiqués plutôt que sur une combinaison de modèles de langage, d'image et de physique, explique Phillip Isola, professeur associé au MIT qui a participé à la recherche.

Selon Mahi Shafiullah, doctorant à l'université de New York, qui utilise des modèles d'IA pour former des robots, l'approche adoptée par les chercheurs pour utiliser l'IA générative est novatrice et ouvrira la voie à de nouvelles recherches plus intéressantes. Il n'a pas participé au projet.

La direction la plus intéressante que je vois personnellement est un mélange de données réelles et réalistes « imaginées » qui peut aider nos méthodes actuelles, gourmandes en données, à s'adapter plus rapidement et mieux », déclare-t-il.

Selon Zafeirios Fountas, chercheur principal chez Huawei spécialisé dans l'IA inspirée par le cerveau, la capacité de former un robot à partir de zéro en se basant uniquement sur des situations et des scénarios générés par l'IA est une réalisation importante et pourrait s'étendre au-delà des machines à des agents d'IA plus généralisés.

Le terme « robot » est ici utilisé de manière très générale ; nous parlons d'une sorte d'IA qui interagit avec le monde réel », explique-t-il. « Je peux imaginer que cela soit utilisé pour contrôler toute sorte d'informations visuelles, depuis les robots et les voitures auto-conduites jusqu'au contrôle de votre écran d'ordinateur ou de votre smartphone.

En ce qui concerne les prochaines étapes, les auteurs souhaitent essayer de former un robot humanoïde à l'aide de données entièrement synthétiques, ce qui, ils le reconnaissent, est un objectif ambitieux, car les robots bipèdes sont généralement moins stables que leurs homologues quadrupèdes.

Ils s'intéressent également à un nouveau défi : utiliser LucidSim pour entraîner les bras robotisés qui travaillent dans les usines et les cuisines. Les tâches qu'ils doivent accomplir requièrent beaucoup plus de dextérité et de compréhension physique que de courir autour d'un paysage.

« Prendre une tasse de café et la verser est un problème très difficile et ouvert », explique Philip Isola. « Si nous pouvions prendre une simulation augmentée d'une IA générative pour créer une grande diversité et former un agent très robuste capable d'opérer dans un café, je pense que ce serait très intéressant.

https://www.technologyreview.com/2024/11/12/1106811/generative-ai-taught-a-robot-dog-to-scramble-around-a-new-environment

Cet article vous a été utile ? Partagez-le.