Vous souhaitez avoir votre propre clone dystopique ? L’université de Stanford a tout ce qu’il vous faut.

Des chercheurs de l’Université de Stanford ont développé des agents d’intelligence artificielle capables de prédire le comportement humain avec une précision remarquable. Une étude récente, dirigée par le Dr Joon Sung Park et son équipe, démontre qu’une interview de deux heures fournit suffisamment de données pour que l’IA reproduise les modèles de prise de décision humaine avec une précision normalisée de 85 % .

Les clones numériques d’une personne physique vont au-delà des deepfakes ou des « adaptations de bas niveau » connues sous le nom de LoRA (Low-rank adaptation) . Ces représentations précises de personnalités pourraient être utilisées pour profiler les utilisateurs et tester leurs réponses à divers stimuli, des campagnes politiques aux propositions de politiques, en passant par les évaluations d’humeur et même des versions plus réalistes des avatars d’IA actuels.

L’équipe de recherche a recruté 1 052 Américains, soigneusement sélectionnés pour représenter diverses catégories démographiques en termes d’âge, de sexe, de race, de région, d’éducation et d’idéologie politique. Chaque participant a participé à une conversation de deux heures avec un intervieweur IA, produisant des transcriptions d’une moyenne de 6 491 mots. Les entretiens, suivant une version modifiée du protocole du projet American Voices, ont exploré les histoires de vie, les valeurs et les perspectives des participants sur les questions sociales actuelles.

Et c’est tout ce dont vous avez besoin pour être profilé et avoir un clone.

Mais contrairement à d’autres études, les chercheurs ont adopté une approche différente pour traiter les données des entretiens. Au lieu de se contenter d’introduire des transcriptions brutes dans leurs systèmes, les chercheurs ont développé un module de « réflexion d’expert ». Cet outil d’analyse examine chaque entretien sous différents angles professionnels : le point de vue d’un psychologue sur les traits de personnalité, le point de vue d’un économiste comportemental sur les modèles de prise de décision, l’analyse des positions idéologiques par un politologue et l’interprétation contextuelle d’un expert en démographie.

Une fois cette analyse multidimensionnelle effectuée, l’IA est plus capable de comprendre correctement le fonctionnement de la personnalité du sujet, en obtenant une vision plus approfondie que ce qui pourrait être obtenu en essayant simplement de prédire le comportement le plus probable en fonction des statistiques. Le résultat est un groupe d’agents IA alimentés par GPT-4o avec la capacité de reproduire le comportement humain dans différents scénarios contrôlés.

Les tests se sont révélés remarquablement efficaces. « Les agents génératifs reproduisent les réponses des participants à l’Enquête sociale générale avec une précision de 85 % par rapport à celle des participants qui reproduisent leurs propres réponses deux semaines plus tard, et ils ont des performances comparables dans la prédiction des traits de personnalité et des résultats dans les réplications expérimentales », indique l’étude. Le système a montré des prouesses similaires dans la réplication des traits de personnalité des Big Five, atteignant une corrélation de 0,78, et a démontré une précision significative dans les jeux de prise de décision économique avec une corrélation normalisée de 0,66. (Un coefficient de corrélation de 1 indiquerait une corrélation positive parfaite.)

Il convient de noter en particulier que le système réduit les biais entre les groupes raciaux et idéologiques par rapport aux approches traditionnelles basées sur la démographie, ce qui semble être un problème pour de nombreux systèmes d’IA, qui ont du mal à trouver un équilibre entre les stéréotypes (supposer qu’un sujet présenterait des traits du groupe dans lequel il est inclus) et le fait d’être trop inclusif (éviter les hypothèses factuelles statistiques/historiques pour être politiquement correct).

« Notre architecture réduit les biais de précision entre les groupes raciaux et idéologiques par rapport aux agents disposant de descriptions démographiques », ont souligné les chercheurs, suggérant que leur méthode basée sur des entretiens pourrait être très utile dans le profilage démographique.

Mais ce n’est pas la première tentative d’utilisation de l’IA pour profiler des personnes.

Au Japon, la plateforme CLONEdev d’alt Inc. expérimente la génération de personnalité par l’intégration de données de journal de bord. Son système combine un traitement avancé du langage avec la génération d’images pour créer des clones numériques qui reflètent les valeurs et les préférences des utilisateurs. « Grâce à notre technologie PAI, nous nous engageons à œuvrer à la numérisation de l’ensemble de la race humaine », a déclaré alt In dans un article de blog officiel .

Parfois, il n’est même pas nécessaire de passer un entretien personnalisé. Prenons l’exemple de MileiGPT . Un chercheur en IA argentin a pu peaufiner un master en open source avec des milliers d’heures de contenu accessible au public et reproduire les modèles de communication et les processus de prise de décision du président argentin Javier Milei. Ces avancées ont conduit les chercheurs à explorer l’idée de « jumeaux numériques » pensants et sensibles, qui, selon des analystes et experts en technologie comme Rob Enderle, pourraient être pleinement fonctionnels dans les dix prochaines années.

Et bien sûr, si les robots IA ne prennent pas votre travail, votre jumeau IA le fera probablement. « L’émergence de ces robots nécessitera une réflexion approfondie et une prise en compte éthique, car une réplique pensante de nous-mêmes pourrait être incroyablement utile aux employeurs », a déclaré Enderle à la BBC. « Que se passerait-il si votre entreprise créait un jumeau numérique de vous et disait : « Hé, vous avez ce jumeau numérique à qui nous ne versons aucun salaire, alors pourquoi continuons-nous à vous employer ? » »

Les choses peuvent paraître un peu effrayantes. Non seulement les deepfakes imiteront votre apparence, mais les clones d’IA pourront imiter vos décisions en se basant sur un bref profilage de votre comportement. Bien que les chercheurs de Stanford aient pris soin de mettre en place des garde-fous, il est clair que la frontière entre identité humaine et identité numérique devient de plus en plus floue. Et nous la franchissons déjà .

https://decrypt.co/293162/stanford-researchers-ai-agents-human-behavior