ChatGPT étant lié à des troubles de santé mentale, Mattel annonce son intention de l’intégrer aux jouets pour enfants
« Tirer parti de cette technologie incroyable va nous permettre de véritablement réimaginer l’avenir du jeu. »
Salut les enfants ! Prêts à évoquer la richesse de l’expérience humaine avec vos jouets préférés en exploitant la puissance de l’intelligence artificielle ? Mattel, le fabricant de poupées Barbie et de voitures Hot Wheels, a signé un accord avec OpenAI pour utiliser ses outils d’IA non seulement pour aider à concevoir des jouets mais aussi à les alimenter, rapporte Bloomberg .
Les détails sont rares à ce stade. Dans une interview conjointe, Josh Silverman, directeur de la franchise Mattel, et Brad Lightcap, directeur de l’exploitation d’OpenAI, ont déclaré que la collaboration n’en était qu’à ses débuts et ont refusé de commenter le contenu du premier produit.
Bloomberg a néanmoins lancé quelques idées. L’IA pourrait par exemple servir à créer des assistants numériques inspirés des personnages de Mattel. Et avez-vous pensé que des jouets comme la boule magique 8 et des jeux comme Uno pourraient être encore plus interactifs grâce à un modèle linguistique étendu ?
« Nous prévoyons d’annoncer quelque chose vers la fin de l’année, qui couvrira toute la gamme des produits physiques et certaines expériences », a déclaré Josh Silverman, cité par Bloomberg . « Tirer parti de cette technologie incroyable va nous permettre de véritablement réinventer l’avenir du jeu. »
Quelle que soit l’issue de cette collaboration, elle est plutôt alarmante. Les preuves des effets délétères des chatbots IA sur notre santé mentale s’accumulent sans cesse, et d’innombrables proches voient leurs proches devenir obsédés par ChatGPT et sombrer dans des délires incontrôlables, parfois aux conséquences tragiques .
C’est particulièrement risqué pour les enfants. Plus tôt cette année, des chercheurs du Brainstorm Lab for Mental Health Innovation de la Stanford School of Medicine ont publié une évaluation des risques liés à l’IA, mettant en garde contre les interactions entre adolescents et IA compagnons, un type de chatbot IA conçu pour être étrangement humain et sympathique. Leur conclusion ? Que leur utilisation est dangereuse pour les moins de 18 ans.
En effet, il est impossible d’ignorer le risque inhérent à l’attachement d’un jeune esprit à quelque chose qui se fait passer pour un ami réel et authentique. L’exemple le plus marquant est celui d’un adolescent de 14 ans décédé l’année dernière, qui s’est suicidé après être tombé amoureux d’une amie sur la plateforme Character.AI. Les modèles d’IA sont également connus pour inventer des faits – ou avoir des hallucinations – et, plus grave encore, pour briser leurs propres garde-fous . Une IA peut être conçue pour être sûre pour les enfants, mais rien ne garantit qu’elle ne désobéira pas à ses instructions.
Cela dit, nous ne connaissons pas encore précisément la manière dont Mattel utilisera les produits OpenAI. Mais pour l’instant, la direction semble assez prévisible. Ne nous leurrons pas : Mattel va bien sûr utiliser l’IA pour permettre à une poupée Barbie ou autre d’engager des conversations animées avec votre enfant, ou pour vendre une boule magique 8 qui débite des balivernes encore plus absurdes, mais convaincantes.
Quant à la nature de l’accord, Josh Silverman, de Mattel, a déclaré que le fabricant de jouets ne concède pas de licence de propriété intellectuelle à OpenAI et conservera le contrôle total des produits qui seront créés. Quoi qu’il en soit, les deux entreprises s’attendent à une relation fructueuse. Mattel a étendu son empire au monde du divertissement – comme l’a annoncé son blockbuster « Barbie » sorti en 2023 – tandis qu’OpenAI tente de conclure des accords avec des studios hollywoodiens pour utiliser son générateur vidéo IA Sora.
« La phase d’exploration des idées lors de la conception créative, pour des entreprises comme Mattel et bien d’autres, est une étape essentielle du processus de travail », précise Brad Lightcap. « Alors que nous réfléchissons à la manière dont l’IA crée des outils qui étendent ces capacités, je pense que nous avons beaucoup de chance de pouvoir collaborer avec des partenaires comme Mattel pour mieux comprendre ce problème. »
D’importantes questions demeurent, mais il s’agit surtout d’un autre exemple décourageant de la manière dont chaque industrie sous le soleil force l’IA dans son modèle économique sans autre raison que le fait qu’il s’agit de la nouvelle technologie à la mode, indépendamment de son sens ou des risques posés par cette technologie.