Un entretien de deux heures suffit pour cerner avec précision vos valeurs et vos préférences, selon une nouvelle étude de Stanford et de Google DeepMind.

Imaginez que vous vous asseyez avec un modèle d’IA pour un entretien oral de deux heures. Une voix amicale vous guide tout au long d’une conversation qui porte sur votre enfance, vos souvenirs de formation, votre carrière et votre opinion sur la politique d’immigration. Peu de temps après, une réplique virtuelle de vous est capable d’incarner vos valeurs et vos préférences avec une précision étonnante.

C’est désormais possible, selon un nouvel article d’une équipe comprenant des chercheurs de Stanford et de Google DeepMind, qui a été publié sur arXiv et n’a pas encore fait l’objet d’un examen par les pairs.

Dirigée par Joon Sung Park, doctorant en informatique à Stanford, l’équipe a recruté 1 000 personnes en fonction de leur âge, de leur sexe, de leur race, de leur région, de leur niveau d’études et de leur idéologie politique. Ces personnes ont été payées jusqu’à 100 dollars pour leur participation. À partir des entretiens menés avec ces personnes, l’équipe a créé des agents reproduisant ces individus. Pour vérifier si les agents imitaient bien leurs homologues humains, les participants ont effectué une série de tests de personnalité, d’enquêtes sociales et de jeux de logique, deux fois chacun, à deux semaines d’intervalle ; puis les agents ont effectué les mêmes exercices. Les résultats ont été similaires à 85 %.

Si vous pouvez avoir un tas de petits « vous » qui courent partout et qui prennent réellement les décisions que vous auriez prises, je pense que c’est en fin de compte l’avenir », déclare Joon Sung Park.

Dans l’article, les répliques sont appelées agents de simulation, et leur création vise à permettre aux chercheurs en sciences sociales et dans d’autres domaines de mener plus facilement des études qui seraient coûteuses, peu pratiques ou contraires à l’éthique si elles étaient réalisées avec de vrais sujets humains. Si l’on peut créer des modèles d’IA qui se comportent comme de vraies personnes, on peut les utiliser pour tester toutes sortes de choses, de l’efficacité des interventions sur les médias sociaux pour lutter contre la désinformation aux comportements qui provoquent les embouteillages.

Ces agents de simulation sont légèrement différents des agents qui dominent aujourd’hui les travaux des principales entreprises d’IA. Baptisées agents basés sur des outils (tool-based agents), ces modèles sont conçus pour faire des choses à votre place, et non pour converser avec vous. Par exemple, ils peuvent saisir des données, récupérer des informations que vous avez stockées quelque part ou, un jour, réserver des voyages pour vous et planifier des rendez-vous. Salesforce a annoncé ses propres agents basés sur des outils en septembre, suivi par Anthropic en octobre, et OpenAI prévoit d’en lancer en janvier, selon Bloomberg.

Les deux types d’agents sont différents mais ont des points communs. La recherche sur les agents de simulation, comme ceux présentés dans cet article, devrait permettre de renforcer les agents d’IA en général, explique John Horton, professeur associé de technologies de l’information à la Sloan School of Management du MIT, qui a fondé une entreprise pour mener des recherches à l’aide de participants simulés par l’IA.

« Cet article montre comment on peut faire une sorte d’hybride : utiliser de vrais humains pour générer des personas qui peuvent ensuite être utilisés de manière programmatique/in-simulée d’une manière qui ne serait pas possible avec de vrais humains », a-t-il précisé .

Cette recherche s’accompagne de mises en garde, dont la moindre n’est pas le danger qu’elle met en évidence. Tout comme la technologie de génération d’images a facilité la création d’imitations profondes de personnes sans leur consentement, toute technologie de génération d’agents soulève des questions quant à la facilité avec laquelle les gens peuvent créer des outils pour personnifier d’autres personnes en ligne, en disant ou en autorisant des choses qu’ils n’avaient pas l’intention de dire.

Les méthodes d’évaluation utilisées par l’équipe pour déterminer dans quelle mesure les agents d’intelligence artificielle reproduisaient les personnes correspondantes étaient également assez simples. Il s’agit notamment de l’enquête sociale générale (General Social Survey), qui recueille des informations sur les caractéristiques démographiques, le bonheur, les comportements, etc. d’une personne, et d’évaluations des cinq grands traits de personnalité : ouverture à l’expérience, conscience professionnelle, extraversion, agréabilité et névrosisme.

Ces tests sont couramment utilisés dans la recherche en sciences sociales, mais ne prétendent pas saisir tous les détails uniques qui font de nous des êtres humains. Les agents d’IA ont également moins bien réussi à reproduire les humains dans des tests comportementaux tels que le « jeu du dictateur », qui vise à mettre en lumière la manière dont les participants considèrent des valeurs telles que l’équité.

Les outils d’IA capables d’accomplir des tâches plus complexes sont la prochaine grande nouveauté. Voici comment ils fonctionneront.

Pour construire un agent d’IA qui reproduise bien les gens, les chercheurs devaient trouver des moyens de distiller notre singularité dans un langage que les modèles d’IA puissent comprendre. Pour ce faire, ils ont opté pour des entretiens qualitatifs, explique Joon Sung Park. Il explique qu’il a été convaincu que les entretiens sont le moyen le plus efficace d’apprendre à connaître quelqu’un après avoir participé à d’innombrables podcasts à la suite d’un article qu’il a écrit en 2023 sur les agents génératifs et qui a suscité un grand intérêt dans ce domaine. « Je participais à un entretien de deux heures avec un podcast et, après l’entretien, j’avais l’impression que les gens en savaient beaucoup sur moi maintenant », explique-t-il. « Deux heures peuvent être très puissantes. »

Ces entretiens peuvent également révéler des particularités qui sont moins susceptibles d’apparaître dans une enquête. « Imaginez que quelqu’un ait eu un cancer et qu’il ait finalement été guéri l’année dernière. Il s’agit là d’une information tout à fait unique qui en dit long sur la façon dont vous vous comportez et dont vous envisagez les choses », explique-t-il. Il serait difficile d’élaborer des questions d’enquête qui suscitent ce genre de souvenirs et de réponses. »

Les entretiens ne sont cependant pas la seule option. Les entreprises qui proposent de créer des « jumeaux numériques » d’utilisateurs, comme Tavus, peuvent demander à leurs modèles d’IA d’ingérer des courriels de clients ou d’autres données. Hassaan Raza, PDG de Tavus, explique qu’il fallait généralement un ensemble de données assez important pour reproduire la personnalité d’une personne de cette manière, mais ce nouvel article suggère une méthode plus efficace.

« Ce qui est vraiment intéressant ici, c’est qu’ils montrent que vous n’avez peut-être pas besoin d’autant d’informations », explique Hassaan Raza, qui ajoute que son entreprise va expérimenter cette approche. « Et si vous parliez à un intervieweur IA pendant 30 minutes aujourd’hui et 30 minutes demain ? Nous nous en servirons ensuite pour construire un jumeau numérique de vous. »

https://www.technologyreview.com/2024/11/20/1107100/ai-can-now-create-a-replica-of-your-personality