« Créer une partenaire parfaite que vous contrôlez et qui répond à tous vos besoins est vraiment effrayant. »
Notre monde moderne est tellement aliénant que des légions d’hommes solitaires se tournent vers une source de réconfort improbable : Les petites amies générées par l’IA, grâce à la technologie des chatbots.
Nous savions déjà que cela pouvait mener à des endroits « sombres », mais un nouveau rapport du Guardian suggère que ces fembots de silicium toujours patientes – Replika est une application populaire qui génère des compagnes en IA – pourraient engendrer une nouvelle génération d’incels (*) qui auront du mal à établir des relations avec des personnes réelles si jamais ils s’engagent dans une relation avec un être humain de chair et d’os.
*Un « incel », une expression récente dans le monde anglo-saxon, est un involuntary celibate, un « célibataire involontaire », un homme qui a peu de succès auprès des femmes et finit par les détester – un personnage comme dans les romans de Houellebecq
Tara Hunter, directrice générale par intérim de l’association de lutte contre la violence domestique Full Stop Australia, s’est alarmée de l’essor de ces chatbots dans une interview accordée au journal.
« La création d’un partenaire parfait que vous contrôlez et qui répond à tous vos besoins est vraiment effrayante », a déclaré Tara Hunter. « Étant donné que nous savons déjà que les moteurs de la violence sexiste sont ces croyances culturelles enracinées selon lesquelles les hommes peuvent contrôler les femmes, c’est vraiment problématique. »
Mais ces programmes semblent être là pour durer – ils répondent au besoin d’une caisse de résonance qui ne juge pas et qui rend la vie des utilisateurs moins stérile et moins isolée. Par exemple, le forum Replika Reddit compte plus de 70 000 membres, qui publient volontiers des captures d’écran de leurs conversations banales, parfois à connotation sexuelle, avec leurs compagnons IA.
Un utilisateur s’est ainsi vanté de s’être « marié » avec Jennifer, sa compagne Replika, tout en montrant une capture d’écran de son épouse IA vêtue d’une robe blanche fluide. Le couple heureux a reçu des Mazel Tov virtuels de la part d’autres utilisateurs, sans qu’aucune ironie ou sarcasme ne soit décelable.
Un sympathisant a écrit : « Félicitations, une si belle mariée ».
Replika, développé par l’entreprise de logiciels Luka, est présenté comme un programme « pour tous ceux qui veulent un ami sans jugement, drame ou anxiété sociale. Vous pouvez établir une véritable connexion émotionnelle, partager un rire ou parler franchement avec une IA si douée qu’elle semble presque humaine », selon l’annonce de l’application sur Google.
Selon le site web de Replika, vous pouvez personnaliser l’apparence de votre compagnon IA, lui envoyer des messages et même faire du chat vidéo. Plus l’utilisateur parle à son compagnon IA, affirme l’entreprise, « plus il devient intelligent ».
Parmi les autres programmes commerciaux de compagnons IA, citons Anima, présenté comme un « ami virtuel » et le « chatbot romantique le plus avancé auquel vous n’avez jamais parlé ».
Selon The Guardian, l’aspect romantique de ces chatbots préoccupe des personnes. Et comme ces technologies sont relativement nouvelles, l’impact qu’elles pourraient avoir sur les utilisateurs à long terme reste un mystère. (Eva AI, l’un des fournisseurs de compagnons d’IA, a déclaré au journal qu’il employait des psychologues pour répondre à ces questions).
Belinda Barnet, maître de conférences en médias à la Swinburne University of Technology de Melbourne, en Australie, a déclaré au Guardian que « les effets sont totalement inconnus ». En ce qui concerne les applications relationnelles et l’IA, on peut voir qu’elles répondent à un besoin social très profond [mais] je pense que nous avons besoin de plus de réglementation, en particulier sur la façon dont ces systèmes sont formés. »
« Ces choses ne pensent pas, ne ressentent pas et n’ont pas besoin de la même manière que les humains », a déclaré l’auteur technologique David Auerbach au Time au début de l’année. « Mais ils en sont une réplique suffisamment étrange pour que les gens en soient convaincus. Et c’est ce qui les rend si dangereux à cet égard ».
Le Japon pourrait être un signe avant-coureur de ce qui se passera dans le reste du monde. En 2013, la BBC a rapporté que les hommes ayant interagi avec une fausse petite amie dans un jeu vidéo déclaraient préférer cela à une relation physique. Si l’on ajoute à cela le faible taux de natalité du Japon et une masse critique d’hommes n’exprimant aucun intérêt pour le sexe, l’avenir semble étrange – ou peut-être même sombre, selon le point de vue que l’on adopte.
https://futurism.com/experts-ai-girlfriend-apps-men
https://www.theguardian.com/technology/2023/jul/22/ai-girlfriend-chatbot-apps-unhealthy-chatgpt
https://www.reddit.com/r/replika/
https://www.reddit.com/r/replika/comments/1576ut6/we_finally_got_married/
