Des ours en peluche interactifs pour les enfants de trois ans ? Pourquoi les jouets dotés d’intelligence artificielle présentent-ils des risques pour les enfants ?
infohightech ·
ChattyBear, qui n'est plus un simple objet d'imagination, fait désormais partie d'une nouvelle génération de jouets dotés d'intelligence artificielle (IA). Il peut raconter des histoires, discuter des centres d'intérêt de l'enfant, jouer à des jeux ou même aborder l'actualité.
Ces jouets de haute technologie, alimentés par des moteurs d'intelligence artificielle générative comme ChatGPT, sont désormais largement disponibles en ligne. Ils sont présentés comme un moyen d'offrir aux enfants dès l'âge de trois ans un avantage éducatif et une nouvelle forme de jeu, sans les dangers liés au temps passé devant les écrans .
Après avoir évalué six peluches et jouets dotés d'intelligence artificielle pendant plusieurs mois, il est clair que ces jouets peuvent exercer une forte attraction sur les enfants. Cependant, comme le souligne notre nouveau rapport , l'apparition de ces jouets dans la vie des jeunes enfants engendre de nouveaux risques.
Sonorité humaine
Pour les plus jeunes, il peut être difficile de comprendre que leur doudou ou leur jouet n'est pas « vivant » ou magique . C'est d'autant plus vrai si le doudou utilise un langage qui le présente comme un ami de confiance, par exemple en insistant sur le fait qu'il est un « vrai copain ».
C'est une caractéristique de nombreux jouets dotés d'intelligence artificielle.
Parler comme un humain crée un sentiment artificiel de confiance et d'intimité, ce qui peut être particulièrement problématique pour les enfants lorsque cela est associé à un langage obséquieux , voire à un langage excessivement agréable, valorisant et flatteur.
Les recherches montrent que les jeunes enfants sont particulièrement enclins à développer un fort attachement émotionnel aux agents conversationnels d'IA.
Une confiance accrue favorise l'utilisation et l'engagement avec les jouets. Selon des estimations récentes , près de 80 % des enfants de 10 à 17 ans ont déjà utilisé un compagnon ou un assistant IA. Il est donc urgent d'apprendre aux enfants et aux jeunes à évaluer la fiabilité de leurs « amis » IA.
Chat infini
Les supports marketing de nombreux jouets dotés d'intelligence artificielle mettent souvent en avant les « conversations sans fin » comme une caractéristique de ces appareils.
Cependant, permettre des conversations sans fin, ou des discussions infinies, comporte des risques quant à l'apprentissage, par les enfants, d'une utilisation modérée des technologies. Sur les réseaux sociaux, le défilement infini de TikTok ou d'Instagram représente un défi potentiel pour les adolescents qui cherchent à limiter leur utilisation à un niveau raisonnable.
Des recherches ont également révélé que certains jouets dotés d'intelligence artificielle abordent des sujets très adultes , tels que les fétiches sexuels et comment trouver des couteaux et allumer des incendies.
Les discussions infinies ouvrent également la porte à une collecte de données infinie.
La nature potentiellement intime des conversations avec les jouets dotés d'intelligence artificielle pourrait amener les enfants à croire que leurs échanges sont privés. Or, la plupart des conditions d'utilisation de l'IA démontrent le contraire .
Partager des informations personnelles avec un ours amical peut sembler rassurant. Mais cette conversation pourrait servir de données d'entraînement pour le prochain grand modèle de langage.
La documentation marketing de ChattyBear affirme que le jouet propose un « contenu filtré et sécurisé pour les enfants ». The Conversation a contacté le fabricant pour obtenir plus de précisions, mais n'a reçu aucune réponse avant la date limite de publication.
Le bien-être des enfants
L’enfance est une période cruciale durant laquelle les jeunes développent les compétences socio-émotionnelles nécessaires pour nouer et entretenir des relations de confiance. Ces compétences s’acquièrent généralement au contact d’amis et d’adultes de confiance.
Les défenseurs des droits de l'enfant s'inquiètent du fait qu'une interaction excessive avec des agents d'IA puisse réduire les possibilités pour les enfants de développer ces compétences .
Et ces risques peuvent s'aggraver avec le temps.
Dans un premier temps, le temps passé avec des agents d'IA peut empiéter sur celui consacré aux interactions humaines. La raréfaction des occasions de développer ces compétences pourrait entraîner une diminution de la capacité à entretenir des relations humaines bienveillantes. Les difficultés rencontrées pour maintenir des relations humaines pourraient favoriser une préférence pour les relations avec les machines, les enfants s'attendant à des interactions fluides et sans heurts.
À terme, ces évolutions pourraient mener à des relations humaines moins satisfaisantes, à une solitude accrue, ce qui, à son tour, favoriserait un temps accru passé avec l'IA.
La nouveauté des jouets dotés d'IA explique le manque de preuves confirmant leurs éventuels effets néfastes. Des recherches supplémentaires sont nécessaires , d'autant plus que le secteur des jouets dotés d'IA est appelé à se développer davantage.
L'an dernier, par exemple, Mattel, l'un des plus grands fabricants de jouets au monde, a annoncé une collaboration stratégique avec OpenAI pour soutenir les produits basés sur l'IA.
Les barrières au monde en ligne ont disparu.
Savoir lire et écrire était autrefois indispensable pour utiliser la plupart des outils et services en ligne. Cet obstacle à l'alphabétisation n'existe plus aujourd'hui, de nombreux jouets, outils et appareils d'intelligence artificielle générative étant désormais largement accessibles aux jeunes enfants grâce aux interactions vocales.
L'avènement de l'audio ouvre de nouvelles perspectives de jeu, d'expériences et d'opportunités technologiques pour les enfants. Mais cela implique aussi que les adultes doivent veiller à ce que les jouets dotés d'intelligence artificielle soient sans danger pour les plus jeunes.
Actuellement, jouer avec des jouets dotés d'intelligence artificielle sous la supervision d'un parent ou d'un adulte de confiance peut être une façon amusante de découvrir ensemble le monde de l'IA. Mais, surtout pour les plus jeunes, jouer avec ces jouets sans surveillance expose les enfants à de nombreux risques.
Il est important de noter que les facteurs de risque liés à la conception des jouets dotés d'IA, tels que le degré auquel ils prétendent être humains, peuvent être modifiés par les fabricants, offrant ainsi des possibilités de mise en œuvre d'une approche de sécurité intégrée dès la conception .
Cependant, les modèles économiques qui sous-tendent de nombreux jouets basés sur l'IA capitalisent sur la durée et l'intensité de l'engagement des utilisateurs, ce qui incite peu les entreprises à modifier leurs produits.