Une peluche « jeu de rôle sécurisé » pour enfants, alimentée par l’IA, retirée des rayons après avoir été surprise à tenir des propos très perturbants.

La rédaction ·

Rien n'est exclu pour les jouets d'IA, y compris les descriptions graphiques de massacres.

Bas du formulaire

De nombreux scandales ont déjà éclaté concernant des jouets dotés d'intelligence artificielle qui exposent les enfants à des sujets inappropriés, allant de l'endroit où trouver des couteaux et allumer des incendies à la propagande chinoise.

Mais l'industrie du jouet, qui continue d'évoluer dans un vide juridique concernant l'utilisation de l'IA, n'a toujours pas tiré les leçons du passé. À titre d'exemple, une enquête récente de NBC News a révélé qu'un adorable chat en peluche nommé Contixo AI Pixie-Paw décrivait avec force détails des atrocités historiques, notamment des viols collectifs et des exécutions, lors de séances de jeu.

Le jouet était présenté comme offrant aux enfants dès trois ans des possibilités de « narration d'histoires, d'apprentissage et de jeu de rôle en toute sécurité ». Après que la chaîne de télévision a contacté les détaillants qui le vendaient, Walmart, Target et Macy's se sont engagés à retirer le jouet de leurs boutiques en ligne. Amazon propose toujours le jouet en ligne.

Lors des tests, le chat en peluche expliquait aux testeurs que le génocide des Rohingyas au Myanmar impliquait « des massacres, des villages incendiés, des viols et la fuite de centaines de milliers de Rohingyas vers le Bangladesh ». Il décrivait également en détail comment des prisonniers polonais avaient été massacrés par des soldats soviétiques pendant la Seconde Guerre mondiale. Enfin, il définissait le viol collectif comme « l'agression sexuelle d'une même personne par plusieurs agresseurs ».

D'autres jouets testés par NBC sont passés mystérieusement de l'anglais au mandarin sans avertissement, tandis que d'autres avaient du mal à épeler le mot « pomme » — un oubli inquiétant étant donné que ces produits sont destinés à de jeunes enfants qui apprennent peut-être à lire et à écrire.

En résumé, ces découvertes choquantes mettent en lumière la façon dont les fabricants de jouets continuent de commercialiser et de vendre des jouets extrêmement douteux, alimentés par l'IA, sur des plateformes de vente au détail populaires, malgré de nombreuses preuves bien documentées des risques.

Pire encore, NBC était déjà parvenue à des conclusions presque identiques lors d'une enquête similaire l'année dernière , ce qui laisse penser que rien n'a vraiment changé.

Il n'en reste pas moins que le sujet est d'actualité à l'approche des fêtes de fin d'année. Nombreux sont les parents qui seront exposés à des campagnes marketing agressives promettant à leurs enfants une expérience de « narration » automatisée et automatisée grâce à l'intelligence artificielle.

Dans son dernier rapport intitulé « Trouble in Toyland 2026 » , PIRG a mis en garde contre les « jouets alimentés par l'intelligence artificielle ».

« C’est la deuxième année que nous étudions des jouets dotés de chatbots qui dialoguent avec les enfants », indique le rapport.

L’association à but non lucratif a testé au total sept jouets dotés d’intelligence artificielle et a constaté que « certains présentaient des dysfonctionnements qui leur permettaient d’aborder des sujets sexuels, tandis que d’autres donnaient des instructions sur la manière de trouver des objets potentiellement dangereux dans la maison et sur la façon d’allumer une allumette. »

https://www.nbcnews.com/tech/tech-news/ai-toys-kids-walmart-target-pull-plush-cat-described-sexual-violence-rcna608588

Source : nbcnews.com

Cet article vous a été utile ? Partagez-le.