Muse de Meta espionne tous vos amis et votre famille

infohightech ·

« Ils essaient de te connaître comme un ami, ce qui est franchement assez flippant. »

Le nouvel agent IA de Meta, Muse, est peut-être doté d’une mascotte toute mignonne, mais sous son apparence innocente se cache un vaste réseau de surveillance contrôlé par l’une des entreprises technologiques les plus puissantes — et les moins responsables — au monde.

Ce nouveau service tape-à-l’œil a gagné beaucoup de terrain ces dernières semaines, de nombreux critiques louant son utilité au quotidien — comme l’écrivait Eli Tan dans le New York Times , il a été « époustouflé », le qualifiant d’« application d’IA la plus utile que j’aie jamais utilisée ».

Mais à mesure que les chercheurs creusent un peu plus loin que la simple offre d’IA de Meta, il devient clair que Muse présente un inconvénient majeur : les utilisateurs ne renoncent pas seulement à leurs propres droits à la vie privée, mais aussi à ceux de leurs amis et de leur famille.

Comme le rapporte Wired, l’agent IA conserve des dossiers détaillés sur les personnes gravitant autour de ses utilisateurs, et collecte régulièrement de nouvelles informations à leur sujet. Ces mises à jour seraient effectuées toutes les heures, Muse ayant pour instruction interne de maintenir une « page pour chaque personne dans la vie de l’utilisateur ».

« Ce que j’ai compris — d’après toutes ces invites, les données sur les compétences du système et tout ce qu’ils intègrent à Muse — c’est qu’ils veulent comprendre les relations que vous entretenez avec de vraies personnes », a déclaré Karan Joshi, chercheur en sécurité de l’IA qui a extrait les invites internes de Muse et les a partagées avec Wired .

Autrement dit, Joshi explique qu’«ils essaient de vous connaître comme un ami, ce qui est franchement assez flippant».

Cette nouvelle survient après que les ingénieurs de Meta ont signalé une faille de sécurité majeure qui aurait permis aux utilisateurs de Muse de s’introduire dans la base de données Meta sur laquelle repose le fonctionnement de l’agent IA. Un correctif aurait été mis au point à la hâte juste avant le lancement de Muse, dans une course contre la montre, comme l’a confié un employé de Meta à 404 Media .

« De nombreux ingénieurs seniors pensent qu’il est inévitable que nous subissions une fuite massive de données à la suite de [Muse] », a expliqué un initié de Meta à 404 .

On ne sait pas exactement si les fichiers internes « amis et famille » auraient été inclus dans cette base de données, mais il semble évident que Muse comporte des risques importants en matière de sécurité et de confidentialité, non seulement pour l’utilisateur, mais aussi pour toutes les personnes de son entourage.

https://futurism.com/future-society/meta-muse-surveillance-privacy-friends-family

Cet article vous a été utile ? Partagez-le.