L’industrie des sexbots IA n’en est qu’à ses débuts. Elle soulève de nouvelles questions étranges et de nouveaux risques
infohightech ·
L'intelligence artificielle (IA) devient de plus en plus personnelle. Les chatbots sont conçus pour imiter les interactions humaines, et l'essor du chat vocal réaliste conduit de nombreux utilisateurs à nouer des liens émotionnels ou à rire avec des animateurs de podcasts virtuels .
Et c'est avant d'aborder les aspects vraiment intimes. Des recherches ont montré que le jeu de rôle sexuel est l'une des utilisations les plus courantes de ChatGPT, et des millions de personnes interagissent avec des systèmes basés sur l'IA conçus comme des compagnons virtuels, tels que Character.AI , Replika et Chai.AI .
Qu’est-ce que cela signifie pour l’avenir de la romance (humaine) ? Les perspectives sont alarmantes.
Mieux vaut être gentil avec votre maître de l’IA
Le service de compagnon IA le plus connu est Replika, qui permet à quelque 30 millions d’utilisateurs de créer des petites amies (ou des petits amis) numériques personnalisées.
Si les premières études indiquent que la plupart des utilisateurs de Replika sont des hommes, de race blanche et âgés de moins de 30 ans, d'autres groupes démographiques commencent à rattraper leur retard. Les robots sexuels masculins sont en préparation depuis quelques années. Et ils sont bien plus que de simples vibromasseurs avec ouvre-bocal intégré.
Moyennant un abonnement , les utilisateurs peuvent échanger des messages intimes ou des photos avec leurs partenaires IA. Plus d'un demi-million d'utilisateurs s'étaient abonnés avant que Replika ne désactive temporairement son module de « jeu de rôle érotique » début 2023, par crainte d'une réaction négative de la part des régulateurs, une mesure que les utilisateurs ont surnommée « La lobotomie ».
La « lobotomie » de Replika met en évidence une caractéristique clé des compagnons virtuels : leurs créateurs ont un contrôle total sur leur comportement. Les créateurs d'applications peuvent modifier ou supprimer le « partenaire » d'un utilisateur – et des millions d'autres – à tout moment . Ces systèmes lisent également tout ce que disent les utilisateurs, pour adapter les interactions futures et, bien sûr, les publicités.
Ces réserves ne semblent toutefois pas freiner l'industrie. De nouveaux produits prolifèrent. Une entreprise, Kindroid , propose désormais des conversations vocales avec jusqu'à 10 compagnons virtuels simultanément.
Le monde numérique n'est pas non plus une limite. Les vendeurs de poupées sexuelles tels que Joy Love Dolls proposent des sexbots interactifs dans la vie réelle , avec non seulement une couleur de peau et une taille de poitrine personnalisables, mais aussi un « contrôle complet » des fonctionnalités, notamment le mouvement, la chaleur et les « gémissements, les cris et même le flirt de votre poupée activés par l'IA, ce qui en fait une excellente compagne ».
Pour l'instant, les compagnons virtuels et les robots sexuels IA représentent un marché bien plus restreint que celui des réseaux sociaux, comptant des millions d'utilisateurs plutôt que des milliards. Mais comme l'a montré l'histoire de Facebook, Google et Amazon, les bizarreries numériques d'aujourd'hui pourraient devenir les géants mondiaux de demain.
Vers des petites amies IA issues de sources éthiques ?
La disponibilité de relations fondées sur l'IA est susceptible de donner lieu à toutes sortes de comportements éthiquement douteux de la part d'utilisateurs qui n'auront pas à en subir les conséquences dans le monde réel.
Bientôt, vous pourrez satisfaire tous vos désirs avec votre petite amie IA moyennant un supplément de prix. Si votre femme artificielle devient gênante, il vous suffit de demander à l'entreprise de désactiver son module d'envie, moyennant un certain prix, bien entendu. Vous pouvez également la supprimer et repartir à zéro avec autant de maîtresses IA que vous le souhaitez en parallèle.
La façon dont les gens nouent des relations a déjà été bouleversée par des applications de rencontres telles que Tinder et Bumble.
Que se passera-t-il si, à l'avenir, les personnes à la recherche de l'amour sont en concurrence avec des amants synthétiques parfaits, toujours disponibles et excités ? Au moins, ils pourront créer des répliques virtuelles de ces rendez-vous torrides qu'ils n'ont pas réussi à décrocher.
Et pour ceux qui n'ont pas les compétences nécessaires pour créer leurs propres compagnons virtuels, il y aura de nombreuses alternatives prêtes à l'emploi.
Une enquête de la chaîne ABC a révélé que l'utilisation de l'IA générative pour créer de faux influenceurs en manipulant les images des femmes sur les réseaux sociaux est déjà très répandue. Cela se fait généralement sans consentement pour vendre du contenu pornographique. Une grande partie de ce contenu dépeint des idéaux corporels inaccessibles, et certains représentent des personnes qui semblent au mieux avoir à peine atteint l'âge du consentement.
Une autre application possible ? Utiliser la technologie des sexbots IA pour ramener à la vie des célébrités telles que Marilyn Monroe et Clara Bow. Après tout, les morts ne peuvent plus refuser leur consentement.
Replika elle-même a été inspirée par le désir de sa fondatrice de recréer sa meilleure amie décédée grâce à un chatbot. De nombreuses personnes utilisent l'application pour garder leurs proches décédés à proximité . Quelle époque pour être en vie (ou mort) !
Le potentiel de manipulation émotionnelle des dictateurs et des catfishers inventifs est alarmant. Imaginez les ravages que pourraient causer des personnalités comme Vladimir Poutine ou Kim Jong-un si elles utilisaient cette technologie pour compléter les opérations de cyberespionnage déjà étendues de leur pays.
Peut-être verrons-nous bientôt des entreprises proposer des petites amies IA « issues de sources responsables » aux consommateurs les plus éthiques – cultivées de manière organique à partir de contenus récoltés de manière consensuelle, faisant la promotion d’obscénités socialement acceptables.
La société et l’État doivent agir maintenant
Alors que la solitude atteint des niveaux épidémiques (les sondages suggèrent que jusqu'à une personne sur quatre dans les pays de l'OCDE n'a pas de contact humain), la demande de sexbots ne fera que croître. Les entreprises répondront à cette demande à moins que la société et l'État ne fixent des limites claires à ce qui est acceptable.
Le sexe et la technologie ont toujours évolué ensemble. Tout comme la prostitution est « le plus vieux métier », les sites pornographiques font partie des plus anciens recoins d’Internet . Cependant, le potentiel dystopique des sexbots pour une monétisation de masse personnalisée et contrôlée par les entreprises de notre sphère la plus intime est sans précédent.
Les utilisateurs ne sont pas non plus totalement irréprochables. Il y a quelque chose de vicieux dans le fait de remplacer un être humain réel par une machine à désirer totalement soumise.
Les premières études suggèrent que le narcissisme est répandu parmi les utilisateurs de cette technologie. La normalisation de comportements sexuels nocifs tels que le viol, le sadisme ou la pédophilie est une mauvaise nouvelle pour la société.
Cependant, s'attaquer aux utilisateurs n'est probablement pas la meilleure façon de résoudre le problème. Nous devrions traiter l'utilisation de sexbots comme d'autres comportements potentiellement problématiques, comme les jeux d'argent.
Comme pour d’autres comportements problématiques où le problème vient davantage des fournisseurs que des utilisateurs, il est temps de demander des comptes aux fournisseurs de sexbots. Alors que nos liens avec l’IA deviennent de plus en plus intimes, il n’y a pas beaucoup de temps à perdre.