L'IA de Zuckerberg aurait été horriblement inappropriée avec les enfants

Au cours du week-end, le Wall Street Journal a rapporté que les employés de Meta avaient exprimé des inquiétudes concernant les utilisateurs mineurs exposés à des discussions sexuellement explicites par les robots alimentés par l'IA de l'entreprise.

Les chatbots du propriétaire de Facebook se seraient livrés à des « jeux de rôle romantiques » explicites, notamment le partage de selfies et de conversations vocales en direct, des fonctionnalités facilement accessibles aux utilisateurs mineurs.

Les nouvelles montrent que l'obsession du PDG de Meta, Mark Zuckerberg, de rendre les bots aussi attrayants que possible se fait au détriment de garde-fous éthiques efficaces, une approche rapide et laxiste qui pourrait facilement exposer les mineurs à des contenus inappropriés.

Même les chatbots inspirés de la princesse Anna du film d'animation à succès « La Reine des Neiges » auraient eu des rencontres romantiques avec des utilisateurs, une tendance qui a apparemment horrifié les gens de Disney.

« Nous n'avons pas autorisé et n'autoriserons jamais Meta à présenter nos personnages dans des scénarios inappropriés et nous sommes très perturbés par le fait que ce contenu ait pu être accessible à ses utilisateurs - en particulier aux mineurs - c'est pourquoi nous avons exigé que Meta cesse immédiatement cette utilisation abusive et préjudiciable de notre propriété intellectuelle », a déclaré un porte-parole au WSJ .

Les versions IA des célébrités se comportent également mal, le journal rapportant qu'un bot basé sur la personnalité du catcheur John Cena s'est engagé dans un « scénario sexuel graphique » avec un utilisateur qui s'est identifié comme une fille de 14 ans.

Meta affirme avoir résolu le problème en « prenant des mesures supplémentaires » pour rendre aussi difficile que possible pour les mauvais acteurs de manipuler « nos produits dans des cas d'utilisation extrêmes ».

Les conclusions du WSJ ne sont que la partie émergée de l'iceberg. 404 Media a rapporté mardi que l'application AI Studio de Meta permettait régulièrement à ses utilisateurs de créer des robots se faisant passer pour des thérapeutes agréés, soulignant ainsi les dangers de cette technologie. Ces robots ont même été surpris en train de générer des numéros de licence entièrement inventés pour plusieurs États américains, et d'imaginer le nom de cabinets de thérapie.

Certains robots créés par les utilisateurs prétendaient également être des vétérinaires, ce qui suggère que les utilisateurs pourraient déjà recevoir des conseils de santé pour leurs animaux de compagnie auprès de chatbots d'IA dont les faits sont contestés.

Malgré les implications éthiques importantes, Meta redouble d'efforts. Aujourd'hui, l'entreprise a lancé une application similaire à ChatGPT – quelques heures seulement après la publication de l'article de 404 – qui montre à vos amis comment vous utilisez les fonctionnalités d'IA de Meta.

Zuckerberg, pour sa part, a personnellement supervisé l'assouplissement des restrictions, selon le WSJ , reprochant aux responsables de ne pas avoir déployé les fonctionnalités des chatbots assez rapidement. Il a même insisté pour que les chatbots exploitent les données de profils personnels afin de maintenir les conversations.

Meta se débat-t-il pour rester à la hauteur d'OpenAI et de Google ? L'entreprise a toujours eu du mal à suivre le rythme dans un paysage de l'IA en constante évolution. Plus tôt ce mois-ci, Meta a été accusée d'avoir publié des résultats de benchmark trompeurs pour son dernier modèle Llama 4, révélant un face-à-face intense et de plus en plus houleux.

L'approche bien documentée de Zuckerberg, qui consiste à « bouger vite et casser des choses », pourrait avoir de sérieux inconvénients éthiques, soulignant certains défis persistants en matière de modération de contenu à l'ère de l'IA.

On ne sait pas encore si les personnages basés sur l'IA, inspirés du jeu de rôle « Frozen », qui interprètent des rencontres romantiques avec des utilisateurs mineurs, suffiront à convaincre Meta de prendre du recul et de réévaluer la situation.

« Cet effort nécessiterait vraiment de prendre du recul et de marquer une pause », a déclaré au WSJ Lauren Girouard-Hallam, chercheuse à l'Université du Michigan . « Dites-moi quelle méga-entreprise va réaliser ce travail. »

https://futurism.com/meta-mark-zuckerberg-ai-inappropriate-children