Modérer les médias sociaux est difficile. Modérer le métavers sera encore plus difficile.
Regarder un ami ou un membre de la famille utiliser un casque de RV est une expérience étrange. Ils gesticulent sauvagement, écorchant l’espace vide. Mais ils réagissent à ce qui ressemble à un ensemble de stimuli très réels : des méchants qu’il faut abattre, ou des couloirs hantés avec des fantômes à chaque coin de rue. Ça vous semble grotesque. Ça semble réel pour eux.
C’est pourquoi les agressions sexuelles dans le métavers sont un problème que nous ne pouvons pas nous permettre d’ignorer.
Mardi, une chercheuse de SumOfUs, une association à but non lucratif, a passé du temps dans Horizons Worlds, le monde VR phare de Meta. Il lui a fallu moins d’une heure pour être « violée », selon un rapport de l’organisation.
Qu’est-ce que cela signifie d’être agressé sexuellement dans le métavers ? Dans ce cas, la chercheuse a été coincée dans une pièce par deux avatars masculins. L’un de ces avatars s’est retrouvé face à face avec la chercheuse et a tenu des propos sexuellement abusifs, tandis que l’autre est resté en retrait et a apparemment bu dans une bouteille de vodka virtuelle.
Le rapport a fait l’objet de moqueries sur les médias sociaux, beaucoup affirmant que le mot « viol » est trop fort pour s’appliquer à ce qui s’est passé dans ce clip. Cette sémantique occulte le fait que les interactions virtuelles peuvent causer des traumatismes réels. Bien que le métavers soit relativement jeune, il existe déjà d’innombrables cas de franchissement de limites dans l’espace virtuel.
En février dernier, Nina Jane Patel, chercheuse en RV, a déclaré avoir été « violée collectivement » par quatre avatars masculins dans Horizon Worlds. Ils se sont agglutinés autour d’elle, réalisant des captures d’écran alors qu’ils tripotaient son personnage en lui disant, entre autres commentaires obscènes, « ne prétends pas que tu n’as pas aimé ça. » En juin dernier, une femme jouait au jeu de sport Echo VR avec des inconnus quand l’un d’entre eux a dit qu’il avait enregistré son discours pour « se branler » dessus plus tard.
Les abus dans le métavers sont probablement aussi endémiques qu’ils le sont sur les médias sociaux. Mais ces incidents illustrent à quel point ils peuvent être traumatisants en raison de l’expérience immersive que ces mondes offrent. L’idée de vivre dans un monde virtuel, autrefois un argument de vente de la RV, est retournée sur sa tête de la manière la plus sombre possible.
« C’était surréaliste », a déclaré Nina Jane Patel à propos de son expérience dans un billet de blog. « La réalité virtuelle a été essentiellement conçue pour que l’esprit et le corps ne puissent pas différencier les expériences virtuelles/numériques des expériences réelles. Dans une certaine mesure, ma réponse physiologique et psychologique était comme si cela s’était produit dans la réalité. »
Les mondes VR doivent offrir une meilleure protection et de meilleurs outils à leurs utilisateurs. Les modérateurs de médias sociaux ont déjà un travail difficile mais crucial, mais dans le métavers, ils devront probablement agir davantage comme une force de police patrouillant dans les rues d’une grande ville. Au lieu de supprimer le contenu après coup, ils devront repérer les abus au moment où ils se produisent.
Mais c’est beaucoup demander aux modérateurs, et il n’est pas certain qu’une entreprise soit préparée à ce type de réponse proactive.
Meta n’a pas répondu aux demandes de commentaires pour cette histoire.
Les métaverses sont des mondes ouverts tentaculaires dans lesquels des centaines ou des milliers de personnes se rencontrent. Cela peut se faire sous l’apparence d’un jeu, comme Fortnite ou World of Warcraft, ou de simulateurs sociaux comme Second Life. Il s’agit d’un concept ancien. La raison pour laquelle vous avez entendu cette expression si souvent au cours de l’année dernière est que les métavers évoluent vers leur prochaine phase.
Ce à quoi ressemble cette prochaine phase dépend de la personne à qui vous parlez. Lorsque les adeptes de la blockchain parlent du metaverse, ils font référence à de grands jeux en monde ouvert, imprégnés de NFT et de crypto-monnaies. Scott Stein, rédacteur en chef de CNET, affirme qu’il ne s’agit pas nécessairement d’une chose spécifique, mais plutôt d’une nouvelle façon d’interagir.
Ensuite, il y a la vision de Meta. Lorsque l’entreprise anciennement connue sous le nom de Facebook parle de « métavers », cela signifie un immense monde de réalité virtuelle qui simule le monde réel. Les métavers de blockchain seront sur les navigateurs des PC. Le métavers de Meta vit dans un casque de réalité virtuelle. (Mark Zuckerberg, PDG de Meta, a parlé d’intégrer potentiellement les NFT et d’autres jetons dans le métavers de sa société, mais on ne sait pas encore à quoi cela ressemblera).
L’avantage des métavers RV est qu’ils sont plus immersifs. Malheureusement, les abus sont aussi plus nombreux. C’est particulièrement vrai lorsque les utilisateurs sont équipés de gilets, qui leur permettent de ressentir réellement un toucher indésirable.
« C’était un cauchemar », dit Nina Jane Patel.
Modérer le métavers
Le metaverse sera sans doute plus difficile à modérer que les médias sociaux existants. Sur les médias sociaux, vous pouvez bloquer les personnes qui vous font de la peine et les modérateurs peuvent supprimer les contenus malveillants. Malgré ces avantages, des plateformes telles que Facebook et Twitter regorgent de contenus nuisibles.
En plus d’une modération poussée, les entreprises devront mettre en place des systèmes pour limiter les abus en premier lieu. Ce sera déjà un défi dans les métavers basés sur un navigateur où, comme dans les jeux MMO actuels, les dégâts peuvent être faits par le biais d’un chat vocal. Ce sera encore plus difficile dans les mondes RV où l’on peut être touché virtuellement et voir son espace envahi.
Andrew Bosworth, directeur technique de Meta, a déclaré que la modération des utilisateurs « à une échelle significative est pratiquement impossible », selon un mémo consulté par le Financial Times. Mais il a également qualifié le harcèlement généralisé de « menace existentielle » pour le succès du métavers.
Meta a bricolé des outils de sécurité au cours des derniers mois. Au fur et à mesure qu’elle peaufine Horizon Worlds, qui est toujours en version bêta, elle a ajouté des mesures de sécurité comme la fonction de bulle de délimitation. Si elle est activée, elle empêche les gens de s’approcher à moins d’un mètre de votre avatar.
« Nous avons beaucoup plus d’outils que nous n’en avons touché », a déclaré Aaron Stanton, co-créateur du jeu de tir à l’arc QuiVR sur Oculus. Après avoir été alertés qu’une femme était tripotée par un autre avatar dans le jeu, Stanton et son co-concepteur ont mis en place un geste permettant aux utilisateurs, s’ils se sentent menacés, de repousser les agresseurs.
Aujourd’hui directeur du VR Health Institute, Aaron Stanton estime que les développeurs de ces univers devraient se concentrer davantage sur les fonctions qui donnent du pouvoir aux utilisateurs. Le raisonnement d’Aaron Stanton n’est pas que la victime est responsable de sa propre protection. Au contraire, dit-il, les outils de protection sont souvent inadéquats et peuvent donner à la victime un sentiment d’impuissance. Mais il pense que les mondes RV ouvrent la porte à une meilleure modération que les plateformes de médias sociaux.
Il prend l’exemple d’un geste qui vous transforme en géant, capable d’écraser les harceleurs. Pour l’agresseur, votre avatar ne ferait que disparaître. Mais dans votre jeu, vous aurez l’impression d’avoir le pouvoir de vous sortir d’une mauvaise situation.
« Le problème des outils purement protecteurs est qu’ils laissent la menace à l’intérieur de l’oreillette », a-t-il déclaré. Les outils de protection « ne suppriment pas vraiment la menace, ils la piègent simplement en ligne. Je pense que nous avons besoin de solutions qui traitent réellement le problème sans forcer les joueurs à abandonner l’espace virtuel. »
De nombreuses incertitudes tourbillonnent autour du métavers. La plus importante est sans doute de s’assurer qu’il est construit d’une manière qui ne permette pas aux abus de prospérer comme c’est le cas actuellement sur Internet.
« Au cours des vingt dernières années, nous avons intégré l’internet dans notre vie quotidienne », écrit Jane Anne Patel. « Le non-négociable, cette fois-ci, est d’ignorer le côté obscur ».
https://www.sumofus.org/images/Metaverse_report_May_2022.pdf
https://drive.google.com/file/d/1558CIk75YtKrfNvJvQWkReG6VmxPpa81/view
https://twitter.com/echereeIRL/status/1532606374017789952
https://www.independent.co.uk/news/uk/home-news/metaverse-gang-rape-virtual-world-b2005959.html
https://ninajanepatel.medium.com/fiction-vs-non-fiction-d824c6edfbe2
https://www.ft.com/content/d72145b7-5e44-446a-819c-51d67c5471cf
