Une fuite massive révèle que des utilisateurs de chatbots érotiques ont transformé des photos d'annuaires féminins en pornographie générée par IA.

La plateforme de jeu de rôle par chatbot et de génération d'images SecretDesires.ai a laissé des conteneurs de stockage cloud contenant près de deux millions d'images et de vidéos exposés, y compris des photos et les noms complets de femmes provenant des médias sociaux, sur leur lieu de travail, lors de remises de diplômes universitaires, prenant des selfies en vacances, et plus encore.

Secret Desires, une plateforme de chatbot de jeu de rôle érotique et de création d'images par intelligence artificielle, a exposé des millions de photos téléchargées par les utilisateurs, les rendant accessibles au public. Les bases de données contenaient près de deux millions de photos et de vidéos, dont de nombreuses photos de personnes totalement inconnues, quasiment sans présence numérique. 

Les données divulguées révèlent l'ampleur du recours aux applications de jeu de rôle par IA permettant l'échange de visages : elles servent à créer des images à caractère sexuel non consensuelles de personnes de tous horizons, des célébrités les plus connues aux femmes anonymes.

Outre les photos réelles utilisées comme données d'entrée, les données divulguées incluent des productions par IA, majoritairement à caractère sexuel et souvent extrêmement explicites. Contrairement aux applications de « nudification » qui génèrent des images de personnes nues, ces images intègrent des personnes dans des vidéos générées par IA, mettant en scène des scénarios sexuels extrêmes.  

Secret Desires est une plateforme web similaire à Character.ai ou à l'outil de création d'avatars IA de Meta, qui génère des chatbots et des images personnalisés en fonction des requêtes de l'utilisateur. Plus tôt cette année, dans le cadre de ses abonnements payants (de 7,99 $ à 19,99 $ par mois), elle proposait une fonctionnalité d'« échange de visages » permettant aux utilisateurs d'importer des photos de personnes réelles pour les intégrer à des images et vidéos à caractère sexuel générées par IA. Ces fichiers représentent une part importante du contenu divulgué publiquement et, d'après leur date de publication, ils étaient potentiellement accessibles depuis plusieurs mois. 

Lundi, environ une heure après que le site 404 Media a contacté Secret Desires pour signaler la présence de conteneurs exposés et obtenir des commentaires, les fichiers sont devenus inaccessibles. Ni Secret Desires ni Jack Simmons, PDG de sa société mère Playhouse Media, n'ont répondu aux questions, notamment sur les raisons pour lesquelles ces conteneurs n'étaient pas sécurisés et sur la durée de leur exposition. 

La plateforme stockait des liens vers des images et des vidéos dans des conteneurs Blob Microsoft Azure non sécurisés. N'importe qui pouvait accéder aux fichiers XML contenant ces liens et consulter les données qu'ils renfermaient. Un conteneur nommé « images supprimées » contenait environ 930 000 images, dont beaucoup représentaient des célébrités et de très jeunes femmes ; un autre nommé « faceswap » en contenait 50 000 ; et un troisième, nommé « live photos » (en référence à de courtes vidéos générées par IA), en contenait 220 000.

Un certain nombre d'images étaient des doublons avec des noms de fichiers différents, ou représentaient la même personne sous différents angles ou avec un recadrage différent. Au total, près de 1,8 million de fichiers individuels étaient contenus dans les conteneurs consultés par 404 Media. 

Les photos des ensembles de données d'images supprimées et de visages échangés sont en grande majorité des photos réelles (c'est-à-dire non générées par IA) de femmes, y compris des actrices de films pour adultes, des influenceuses et des célébrités, mais aussi des photos de femmes qui ne sont absolument pas connues. Ces ensembles de données contiennent également de nombreuses photos qui semblent provenir des profils de réseaux sociaux de femmes, comme des selfies pris dans leur chambre ou des photos de profil où elles sourient. 

Dans le dossier contenant les photos de visages échangés, a été trouvé une photo d'archive d'un élu s'exprimant en public, des selfies pris par des femmes devant un miroir il y a plusieurs années avec des téléphones à clapet et des Blackberry, des captures d'écran de selfies Snapchat, la photo d'une femme posant avec son diplôme universitaire et une photo d'annuaire. Certains noms de fichiers incluent les noms et prénoms complets des femmes.

Ces photos, parmi beaucoup d'autres, se trouvent dans les fichiers exposés, aux côtés d'images volées à des créateurs de contenu pour adultes (vidéos et sites web) et de captures d'écran d'acteurs de films. Leur présence dans ce dossier indique que quelqu'un téléchargeait ces photos sur la plateforme de visages échangés de Secret Desires, probablement pour créer des images explicites, puisque c'est la vocation première de la plateforme, et parce qu'une grande partie du contenu exposé est à caractère sexuel. 

Certains visages présents dans les conteneurs de facewap sont reconnaissables parmi les générations du conteneur « photos en direct », qui semble être une production de Secret Desires et qui contient presque exclusivement des vidéos pornographiques explicites générées par IA. Dans ce conteneur, plusieurs vidéos mettent en scène des personnes d'apparence extrêmement jeune ayant des rapports sexuels.  

 Début 2025, Secret Desires a supprimé sa fonctionnalité d'échange de visages. La date la plus récente dans les fichiers d'échange de visages est avril 2025. Cela concorde avec les commentaires Reddit de la même période, où des utilisateurs se plaignaient de la suppression de cette fonctionnalité. « J'ai résilié mon abonnement à Secret Desires lorsqu'ils ont supprimé l'échange de visages. Connaissez-vous un autre site comparable ? Secret Desires était génial pour la génération d'images », a déclaré un utilisateur dans une discussion sur la recherche d'alternatives à la plateforme. « J'ai participé aux tests bêta et l'échange de visages était super. J'ai pu télécharger des photos de ma femme et le résultat était très convaincant », a répondu un autre . « Dommage qu'ils l'aient supprimé. » 

Sur le serveur Discord de Secret Desires, où les utilisateurs discutent de leur utilisation de l'application, il a été constaté que la fonctionnalité « échange de visages » figurait toujours parmi les options payantes jusqu'au 3 novembre. Or, au 11 novembre, cette fonctionnalité n'apparaît plus dans la liste des abonnements. Secret Desires se présente toujours comme une plateforme de « discussions coquines » permettant de créer son propre compagnon IA personnalisé. L'application propose également un mode de clonage vocal : les utilisateurs peuvent ainsi importer un fichier audio pour reproduire la voix d'une autre personne lors des discussions audio.

Sur son site, Secret Desires affirme utiliser un chiffrement de bout en bout pour sécuriser les communications des utilisateurs : « Toutes vos communications, y compris les messages, les appels vocaux et les échanges d’images, sont chiffrées au repos et en transit grâce aux normes de chiffrement les plus strictes du secteur. Ainsi, vous seul avez accès à vos conversations. » Le site précise également que les données sont stockées en toute sécurité : « Vos données sont stockées en toute sécurité sur des serveurs protégés dotés de contrôles d’accès rigoureux. Nous utilisons des protocoles de sécurité avancés pour protéger vos informations contre tout accès non autorisé. » 

Les messages révélés par certains noms de fichiers indiquent comment certains utilisateurs font appel à Secret Desires. Plusieurs messages dans le conteneur de remplacement de visages, visibles dans les noms de fichiers, révélaient que le « désir secret » des utilisateurs était de générer des images de jeunes filles mineures : « 17 ans, en première, visage innocent aux détails parfaits », précisaient plusieurs messages, accompagnés des noms de jeunes célébrités féminines. Nous savons, grâce à des piratages d’autres plateformes de « petites amies virtuelles », que cette demande est fréquente pour ces outils ; Secret Desires stipule clairement dans ses conditions d’utilisation qu’il interdit la génération d’images de mineures.

Capture d'écran d'une ancienne version des offres d'abonnement sur SecretDesires.ai, via Discord. Modifications apportées par l'utilisateur.

Secret Desire diffuse des publicités sur YouTube vantant la capacité de sa plateforme à créer des versions sexualisées de personnes réelles. « Les filles IA ne disent jamais non », déclare une femme générée par IA dans l'une des vidéos courtes de Secret Desire. « Je peux ressembler à votre célébrité préférée. À cette fille de la salle de sport. À votre personnage d'anime préféré ou à n'importe qui d'autre dont vous fantasmez ? Je peux tout faire pour vous. »

La plupart des publicités de Secret Desire sur YouTube incitent à abandonner les relations réelles et les applications de rencontre au profit d'une petite amie IA. « Et si elle pouvait être tout ce que vous avez imaginé ? Façonnez son style, sa personnalité et créez la connexion parfaite rien que pour vous », dit l'une d'elles . D'autres publicités affirment que, dans un monde idéal, votre thérapeute, votre meilleur ami et votre partenaire amoureux pourraient tous être des IA. La plupart des campagnes marketing de Secret Desire mettent en scène de jeunes hommes solitaires comme utilisateurs.

Des années de recherche sur les applications de remplacement de visages, les applications d'assistance IA et les plateformes de jeux de rôle érotiques ont révélé une réelle demande pour ces outils, ainsi qu'un risque de leur utilisation par des harceleurs et des agresseurs pour créer des images d'ex-conjoints, de connaissances et de femmes inconnues qu'ils souhaitent voir nues ou en train d'avoir des relations sexuelles.

Ces applications sont facilement accessibles et largement promues sur les réseaux sociaux , et les enfants y ont facilement accès et les utilisent pour créer du matériel pédopornographique sur leurs camarades de classe . Lorsque des personnes créent des deepfakes à caractère sexuel explicite d'autrui sans son consentement, les conséquences pour les victimes sont souvent dévastatrices : leur carrière, leur confiance en soi et, dans certains cas, leur sécurité physique sont compromises . Puisque Secret Desires a laissé ces données accessibles à tous et a mal géré celles de ses utilisateurs, nous avons une vision claire de la manière dont certaines personnes utilisent l'IA générative pour fantasmer sexuellement sur les femmes qui les entourent, que ces femmes soient conscientes ou non de l'utilisation de leurs photos. 

https://www.404media.co/ai-porn-secret-desires-chatbot-face-swap