La RV sociale peut être amusante. Elle peut aussi être toxique.
Sydney Smith a dû faire face à des remarques obscènes et sexistes pendant plus d’un mois alors qu’elle jouait au jeu vidéo Echo VR. Mais la jeune femme de 20 ans a atteint son point de rupture cet été.
Echo VR place les joueurs dans le corps de robots futuristes, ce qui leur permet de s’affronter dans un jeu sportif en apesanteur, semblable à l’Ultimate Frisbee. Les joueurs, identifiés par un nom d’utilisateur qui flotte au-dessus de leur avatar, se répartissent en deux équipes et marquent des points lorsqu’ils lancent un disque dans le but de l’adversaire.
En juillet, Sydney Smith jouait à ce jeu sur un casque Oculus Quest 2 lorsqu’elle a manqué d’attraper le disque et a prononcé le mot « Fuc… » par frustration. Un joueur, qui avait proféré des insultes à l’encontre de ses coéquipiers auparavant, l’a rapidement remarqué. Le joueur a raillé Sydney Smith, disant à la résidente du Missouri qu’il l’avait enregistrée et qu’il allait « se branler » sur ses insultes.
Sydney Smith a essayé de trouver quel joueur l’avait harcelée, afin de pouvoir porter plainte. Mais c’était difficile car plusieurs personnes parlaient en même temps. Comme elle n’avait pas enregistré le match, elle n’a pas pu revoir la rencontre et chercher un nom d’utilisateur.
« Cela m’a vraiment dérangé », a-t-elle déclaré à propos de l’incident. « Je n’ai pas pu toucher au jeu pendant deux semaines après ça ».
Sydney Smith n’est pas la seule joueuse de réalité virtuelle qui a eu du mal à rapporter un affreux accrochage. Bien qu’Oculus et Echo VR, qui appartiennent tous deux à Facebook, disposent de moyens de signaler les utilisateurs qui enfreignent leurs règles, les personnes qui ont été victimes ou témoins de harcèlement et de comportements offensants dans des environnements virtuels affirment qu’un processus lourd les dissuade de déposer un rapport. Les modérateurs de contenu doivent examiner le comportement d’une personne, ainsi que ses paroles. (La politique VR d’Oculus stipule que les utilisateurs ne sont pas autorisés à suivre d’autres utilisateurs contre leur gré, à faire des gestes sexuels ou à bloquer les mouvements normaux d’une personne).
Alors que Facebook se concentre sur la création du métavers – un monde numérique en 3D où les gens peuvent jouer, travailler, apprendre et socialiser – la modération du contenu ne fera que devenir plus complexe. L’entreprise, qui s’est récemment rebaptisée Meta pour souligner ses ambitions, a déjà du mal à lutter contre les discours de haine et le harcèlement sur ses populaires plateformes de médias sociaux, où les gens laissent une trace de leurs remarques. Les espaces immersifs tels que Horizon Worlds envisagés par le PDG Mark Zuckerberg seront plus difficiles à contrôler.
Cette histoire est en partie basée sur les révélations faites par Frances Haugen, une ancienne employée de Facebook, à la Commission américaine des valeurs mobilières et des changes (US Securities and Exchange Commission), qui ont également été fournies au Congrès sous une forme expurgée par son équipe juridique. Un consortium d’organismes de presse a reçu des versions expurgées des documents obtenus par le Congrès.
« La question du harcèlement dans la RV est énorme », a déclaré Frances Haugen. « Il va y avoir de toutes nouvelles formes d’art sur la façon de harceler les gens qui sont sur le déni plausible ». L’entreprise technologique devrait embaucher beaucoup plus de personnes, et probablement recruter des volontaires, pour traiter ce problème de manière adéquate, a-t-elle ajouté.
Facebook compte plus de 40 000 personnes chargées de la sûreté et de la sécurité. L’entreprise ne précise pas combien d’entre elles se consacrent à sa plateforme de RV.
Un problème bien connu
Un message interne datant du 28 janvier, qui fait partie des révélations de Mme Haugen, montre que les employés de Facebook sont conscients des lacunes des systèmes de signalement de la RV.
Dans ce message, un employé anonyme de Facebook rapporte qu’il n’a pas passé un « bon moment » en utilisant l’application de RV sociale « Rec Room » sur le casque Oculus Quest, parce que quelqu’un scandait une insulte raciale. L’employé a tenté de dénoncer le « bigot », mais a déclaré ne pas être en mesure d’identifier le nom d’utilisateur. L’employé a déclaré avoir quitté le monde virtuel « en se sentant vaincu ».
Les utilisateurs de la salle de jeux peuvent signaler les joueurs en utilisant leur montre-bracelet virtuelle.
Rec Room est un bon exemple de ce que pourrait devenir le métavers. L’application permet aux gens d’habiller leurs avatars. Les utilisateurs peuvent discuter, créer ou jouer à des jeux tels que le paintball, le laser tag et le dodgeball avec d’autres utilisateurs de Rec Room.
L’employé de Facebook, qui utilise Rec Room pour la première fois, ne précise pas pourquoi il a été difficile d’identifier son interlocuteur. Les avatars de Rec Room affichent des lignes pour indiquer qu’ils sont en train de parler. Les utilisateurs peuvent également se retrouver dans l’onglet « Personnes » de l’application et voter pour expulser quelqu’un d’une pièce. Pour couper le son d’un autre joueur, un avatar lève la main.
Dans un courriel, Nick Fajt, PDG et cofondateur de Rec Room, a déclaré qu’un joueur utilisant la même insulte raciale a été banni après que d’autres joueurs l’aient signalé. Nick Fajt pense que le joueur banni est la même personne que l’employé de Facebook qui s’est plaint.
« Nous voulons que Rec Room soit une expérience amusante et accueillante pour tous, et nous passons beaucoup de temps à construire des systèmes et à développer nos équipes de modération pour atteindre cet objectif. Cependant, il y a toujours plus de travail à faire ici, et nous prévoyons de continuer à investir massivement pour nous améliorer », a-t-il déclaré.
La publication interne a suscité un fil de 106 commentaires. Un employé de Facebook a déclaré que Rec Room était bien classé dans une enquête menée par Facebook pour comprendre la « prévalence des problèmes d’intégrité/interactions abusives au niveau des applications ». Un autre employé a déclaré qu’Echo VR était également bien classé dans l’enquête.
« Nous constatons des problèmes similaires dans Echo VR où, alors que l’utilisateur est capable d’identifier l’agresseur, les personnes chargées d’évaluer l’abus sont parfois incapables de déterminer qui dit quoi », a déclaré un troisième employé.
Bill Stillwell, chef de produit d’Oculus pour la confidentialité et l’intégrité de la RV, a déclaré dans un communiqué que la société voulait que les gens « aient le sentiment de contrôler leur expérience de RV et de se sentir en sécurité sur notre plateforme ».
Les utilisateurs peuvent signaler les problèmes, et les développeurs disposent d’outils pour modérer leurs applications, explique Bill Stillwell. « Mais les outils peuvent toujours être améliorés », a-t-il ajouté. « Notre travail ne consiste pas seulement à identifier la technologie qui fonctionne pour aujourd’hui, mais aussi à inventer des outils entièrement nouveaux pour répondre aux besoins actuels et futurs de l’écosystème. »
Meta étudie un moyen de permettre aux utilisateurs d’enregistrer rétroactivement sur sa plateforme VR. Elle étudie également les meilleures façons d’utiliser l’intelligence artificielle pour lutter contre le harcèlement dans la RV, a déclaré Kristina Milian, une porte-parole de Meta. La société ne peut toutefois pas enregistrer tout ce que font les gens dans la RV, car cela constituerait une violation de la vie privée et consommerait de l’espace de stockage et de l’énergie dans les casques.
Andrew Bosworth, qui deviendra le directeur de la technologie de Meta, a déclaré aux employés, dans un mémo interne datant de mars, qu’il souhaitait que les mondes virtuels présentent « des niveaux de sécurité proches de ceux de Disney », mais a reconnu que la modération des utilisateurs « à une échelle significative est pratiquement impossible », selon le Financial Times.
Le harcèlement en ligne reste un problème majeur. Selon une étude publiée cette année par le Pew Research Center, quatre adultes américains sur dix ont été victimes de harcèlement en ligne, et les moins de 30 ans sont plus susceptibles d’être confrontés non seulement à du harcèlement mais aussi à des abus plus graves. Meta a refusé de dire combien de rapports Oculus a reçu au sujet de harcèlement ou de discours haineux.
Une étude de 2019 sur le harcèlement dans la RV, réalisée par des chercheurs d’Oculus, a également révélé que la définition du harcèlement en ligne est très subjective et personnelle, mais que le sentiment de présence dans la RV rend le harcèlement plus « intense. »
Brittan Heller, avocate chez Foley Hoag et directrice fondatrice du Center on Technology and Society de l’Anti-Defamation League, estime que la nature de la RV rendra difficile la modération du comportement des utilisateurs.
« Le défi du harcèlement dans la RV est sa présence », a déclaré Brittan Heller. « Cela semble réel, comme si une personne se plaçait à côté de vous et disait et faisait des choses qui violent votre espace personnel ».
Des joueurs toxiques
Facebook n’a pas développé Rec Room, mais le jeu est devenu disponible sur l’Oculus Quest en 2019 et l’Oculus Quest 2 en 2020. Il est disponible sur d’autres plateformes, comme Microsoft Windows et PlayStation, donc les utilisateurs de Quest pourraient interagir avec des utilisateurs de Rec Room sur d’autres services. Oculus propose un moyen de signaler les utilisateurs qui enfreignent ses règles. Mais il ne peut prendre des mesures que contre les utilisateurs de sa plateforme. Il ne peut pas, par exemple, désactiver un compte d’une autre plateforme, comme Xbox ou PlayStation.
Dans un hall d’Echo VR en novembre, un utilisateur (à gauche) dit à un autre joueur utilisant un changeur de voix : « Va t’enfoncer la bite dans la gorge ».
Pour comprendre les problèmes de harcèlement d’Echo VR et de Rec Room, j’ai enfilé un casque Oculus Quest et visité les deux mondes virtuels en novembre. Je n’ai pas tardé à être confronté à des comportements toxiques.
Dans un hall d’Echo VR, j’ai entendu un joueur dire à un autre utilisateur qui semblait désorienté : « Va t’enfoncer la bite dans la gorge », avant que l’agresseur ne disparaisse complètement. Un autre jour, j’ai entendu deux joueurs s’insulter, mais j’étais trop loin pour lire leurs noms d’utilisateur. Lorsque je me rapprochais, ils s’éloignaient, ce qui rendait difficile de voir qui parlait, même lorsqu’une icône sonore apparaissait au-dessus de la tête d’un robot.
Dans la Rec Room, un joueur a commencé à tirer sur d’autres personnes, dont mon avatar féminin, avec des confettis et à crier « Tu es gay maintenant ! ». Les autres utilisateurs de la Salle de jeux l’ont signalé pour avoir violé les règles de l’application.
Une partie du défi de la RV est que les joueurs sont nouveaux dans l’environnement. Ils doivent apprendre à tenir un objet et à se déplacer. Il n’est pas évident de savoir comment signaler les joueurs abusifs ou trouver des outils de sécurité.
Les deux jeux encouragent les utilisateurs à être gentils les uns envers les autres, en affichant des posters avec leur code de conduite. Ils ont également des modérateurs. Echo VR apprend aux nouveaux utilisateurs à couper le son des autres joueurs et à créer une bulle personnelle. Il est également possible de modifier la hauteur de sa voix afin de masquer son sexe. Le jeu n’inclut pas de tutoriel pour signaler les autres joueurs, bien que des informations soient disponibles en ligne dans un article de blog. Rec Room propose sur YouTube des tutoriels permettant de signaler et d’inhiber des joueurs.
En novembre, Rec Room a commencé à tester la modération vocale automatique. Dans un billet de blog, Rec Room explique que les utilisateurs pourraient commencer à remarquer que « la personne qui crie des insultes raciales voit rapidement son micro coupé, ou que la personne qui fait des déclarations sexuelles explicites à tout le monde autour d’elle est renvoyée dans son dortoir ».
Contrôler les gestes et les comportements
Jason Lemon, un Texan de 36 ans, a déclaré que le harcèlement verbal et le racisme dans la réalité virtuelle ne semblent pas différents des brimades similaires dans les jeux sur console.
Un panneau de contrôle dans Echo VR. Oculus demande aux utilisateurs de fournir un nom d’utilisateur et une preuve vidéo si vous soumettez un rapport d’abus.
« Ce qui rend Echo VR différent, c’est le type de maniérismes et de langage corporel que vous pouvez également repousser », a déclaré Lemon, qui est Noir. Il pense que les bulles personnelles devraient être automatiquement activées même si l’utilisateur n’a pas activé la fonction après que des buts ont été marqués, une période de temps mort où il a vu des joueurs se frotter aux autres ou faire des gestes sexuels.
Theo Young, 17 ans, a déclaré avoir commencé à remarquer des comportements plus toxiques, notamment des propos homophobes, dans les lobbies sociaux d’Echo VR au printemps dernier. Young, qui a suffisamment joué à Echo VR pour atteindre le plus haut niveau du jeu, a déclaré avoir arrêté de jouer lorsqu’il a vu d’autres joueurs harceler une joueuse. Le résident de l’Iowa a dit qu’il a essayé de dire à la joueuse comment couper le son ou rendre les autres fantômes, mais elle ne pouvait pas l’entendre parmi tous les utilisateurs criards qui se pressaient autour d’elle et faisaient des commentaires sexuels.
« C’est la partie qui m’a touché. Le fait de voir d’autres personnes passer un moment aussi horrible », a déclaré Theo Young. « J’ai abandonné le jeu assez durement après cette expérience. Ce n’était tout simplement plus amusant. »
Quant à Sydney Smith, elle pense qu’Echo VR devrait avoir un système de grève, un moyen d’identifier les joueurs en les pointant du doigt, ou des fonctionnalités pour que les avatars soient différents afin que tout le monde ne ressemble pas au même robot.
« Les entreprises doivent faire un pas en avant et trouver de nouvelles façons de modérer et de nous aider, dit-elle, car c’est nous qui sommes harcelés. »
https://support.oculus.com/articles/accounts/privacy-information-and-settings/conduct-in-vr-policy
https://www.oculus.com/blog/keeping-people-safe-in-vr-and-beyond/
https://www.ft.com/content/d72145b7-5e44-446a-819c-51d67c5471cf
https://medium.com/echo-games-blog/echo-vr-code-of-conduct-and-reporting-2195ccb7b9b5
https://blog.recroom.com/posts/2021/11/19/ensuring-be-excellent-to-each-other
