Une Barbie IA pourrait-elle freiner la croissance émotionnelle d’une génération ?
infohightech ·
Lorsque Randy Newman a chanté « You Got a Friend in Me » sur la bande originale de Toy Story de Pixar , il a su capter un sentiment que chaque enfant comprend : le lien profond et souvent tacite qui les unit à leurs jouets. Qu'ils soient en plastique, en peluche ou en pixels sur un écran, ces jouets ont toujours vécu à la croisée de l'imaginaire et de la réalité, là où la fantaisie nourrit le développement émotionnel.
Mais que se passe-t-il lorsque l’imagination d’un enfant n’a plus besoin de faire le gros du travail parce que ses jouets lui répondent ?
Mattel , le plus grand fabricant de jouets au monde, s'est associé à OpenAI pour concrétiser ce projet. En juin, les deux entreprises ont annoncé une collaboration visant à « apporter une nouvelle dimension d'innovation et de magie alimentées par l'IA aux marques emblématiques de Mattel ».
Bien qu'elles n'aient pas encore dévoilé de projets de produits spécifiques, il semble possible que les parents puissent bientôt acheter une Barbie pilotée par l'IA, capable d'engager de véritables conversations avec leurs enfants. Il ne s'agit pas de phrases toutes faites, comme « Vers l'infini et au-delà ! » de Buzz l'Éclair, prononcées d'une simple pression sur un bouton, mais de quelque chose de plus proche de nos expériences avec ChatGPT . Une Barbie IA serait capable d'écouter, de mémoriser, de répondre et de s'adapter.
C'est un moment à la fois magique et troublant. Pour innover en matière de jeu, Mattel exploite l'une des technologies les plus puissantes de notre époque et l'intègre directement dans la chambre des enfants. Avec son visage souriant et son cerveau en silicone, il y a de fortes chances qu'une Barbie IA devienne le premier compagnon affectif d'un enfant en dehors de la famille, lui offrant réconfort, curiosité et conversation à la demande. Mais qu'apprenons-nous à nos enfants sur l'amitié, l'empathie et les liens affectifs si leurs premières « vraies » relations se font avec des machines ?
L'histoire des jouets interactifs
À première vue, l’idée d’un jouet qui écoute vraiment – un jouet qui se souvient de l’histoire préférée d’un enfant, pose des questions réfléchies et offre des encouragements doux – semble être une bonne chose.
Depuis des décennies, les créateurs de jouets tentent de stimuler des interactions significatives avec les enfants. Dans les années 1960, la Chatty Cathy de Mattel a été commercialisée comme la première poupée parlante, avec des phrases préenregistrées comme « I love you» et « Let’s play school». Dans les années 1980, un ours animatronique conteur d'histoires, Teddy Ruxpin , a fait son chemin dans les mains des enfants du monde entier, bougeant sa bouche et ses yeux au rythme des cassettes audio.
En 1998, les Furbies étaient partout sous les sapins de Noël ; ces poupées interactives donnaient l'impression d'apprendre le langage au fil du temps. Plus récemment, en 2014, une poupée Bluetooth, My Friend Cayla, a utilisé la fonction de conversion vocale et des moteurs de recherche pour répondre aux questions, suscitant des critiques pour des raisons de confidentialité et conduisant finalement les autorités allemandes à ordonner aux parents de détruire les poupées.
Grâce à des modèles d'IA générative désormais capables de produire des dialogues fluides et riches en contexte, la nouvelle vision de Mattel est un jouet qui grandit avec l'enfant, initie des conversations personnalisées et se souvient des interactions passées pour ajuster ses réponses. Il peut apprendre l'histoire ou la phrase préférée d'un enfant, chanter sa chanson préférée ou avoir des conversations complètes sur presque tout. Mattel a promis que ces interactions seront « sécurisées » et « adaptées à l'âge », mais on en sait peu plus.
Ses partisans affirment que cette évolution pourrait révolutionner la façon dont les enfants apprennent et interagissent avec le monde. Une Barbie dotée d'une intelligence artificielle pourrait aider à développer l'art de raconter des histoires, à renforcer les comportements positifs ou à tenir compagnie aux enfants en difficulté sociale.
Les parents pourraient considérer ce jouet comme un moyen sûr et encourageant de stimuler la créativité et la confiance en soi. Dans le meilleur des cas, les jouets dotés d'une intelligence artificielle allieraient apprentissage, jeu et soutien émotionnel au sein d'une expérience fluide. Mais même cette promesse est ambiguë. Car plus un jouet simule la chaleur humaine, plus il a de chances de remplacer le jouet réel.
Les jouets dotés d'IA pourraient entraver le développement émotionnel des enfants
Les enfants anthropomorphisent naturellement leurs jouets : cela fait partie de leur façon d'apprendre. Mais lorsque ces jouets commencent à répondre avec fluidité, mémoire et une connexion apparemment authentique, la frontière entre imagination et réalité s'estompe de manière nouvelle et profonde. Les enfants peuvent se retrouver dans un monde où les jouets répondent et reflètent leurs émotions sans friction ni complexité. Pour un jeune enfant qui apprend encore à gérer ses émotions et ses relations, cette illusion de réciprocité peut avoir des conséquences sur son développement.
Les vraies relations sont complexes, et les relations parents-enfants peut-être plus que toute autre. Elles impliquent incompréhension, négociation et stress émotionnel partagé. Ce sont ces micro-luttes qui forgent l'empathie et la résilience. Mais un compagnon IA, aussi bien intentionné soit-il, contourne complètement ce processus.
Au fil du temps, ces interactions peuvent amoindrir la compréhension qu'a l'enfant de ce que signifie être en relation avec autrui. Si les conflits sont résolus avec aisance ou complètement évités, si chaque émotion est accueillie avec une affirmation parfaite, les enfants risquent de perdre l'occasion de développer l'une des compétences développementales les plus importantes : apprendre à communiquer avec des personnes qui ne sont pas programmées pour les suivre. Les interactions humaines réelles peuvent commencer à paraître trop lentes, trop incohérentes ou trop complexes par rapport aux interactions avec l'IA.
Les limites de l'intelligence émotionnelle de l'IA
La tension entre la chaleur simulée et la compréhension réelle continue de limiter l'IA présentée comme émotionnellement intelligente. La plupart des modèles actuels peuvent produire un langage réconfortant, mais ils ne sont pas capables de décrypter les signaux émotionnels. Ils peuvent ne pas être capables de distinguer un enfant curieux, solitaire ou en détresse.
La recherche de pointe dans ce domaine se concentre sur les modèles d'IA capables d'analyser des informations telles que les expressions faciales, la direction du regard, les schémas comportementaux et les signaux physiologiques, et d'adapter leurs réponses à l'état émotionnel de l'utilisateur. Les chercheurs conçoivent des systèmes capables de détecter et d'interpréter le contexte en temps réel, en suivant des indicateurs tels que l'attention, le ton et l'engagement. Une conception centrée sur l'humain permettra de créer une IA plus efficace et plus performante, mais cela ne garantit pas pour autant qu'elle soit adaptée aux enfants.
Pour de nombreux parents, la crainte est qu'un jouet IA dise quelque chose d'inapproprié. Mais le risque plus subtil, et peut-être plus grave, est qu'il dise exactement ce qu'il faut, avec un ton empreint d'empathie calme et de politesse raffinée, sans pour autant être réellement compris. Les enfants, surtout en bas âge, sont extrêmement sensibles au ton, au timing et à la réverbération émotionnelle. Les enfants qui jouent avec des jouets IA croiront qu'on les comprend, alors qu'en réalité, le système ne fait que prédire les mots suivants plausibles.
Nous en sommes à un point où les masters en IA affectent les adultes de manière profonde et inattendue, déclenchant parfois des crises de santé mentale ou renforçant des croyances erronées ou des idées dangereuses . OpenAI , et c'est tout à son honneur, a recruté des psychiatres légistes pour étudier l'impact émotionnel de ChatGPT sur les utilisateurs. Il s'agit d'une technologie inexplorée, et nous, les adultes, en sommes encore à apprendre à la maîtriser. Devons-nous vraiment y exposer les enfants ?