Skip to main content

26 Jan, 2024

Y aura-t-il des conséquences à tout ce porno dégoûtant de Taylor Swift ?

Y aura-t-il des conséquences à tout ce porno dégoûtant de Taylor Swift ?

La chanteuse a-t-elle un recours ?

Cette semaine, les sites de médias sociaux ont été inondés de pornographie de Taylor Swift générée par l’IA – et il est difficile de dire s’il y aura des conséquences réelles pour ceux qui les ont postés ou qui ont permis leur prolifération.

Selon le réseau social sur lequel vous vous trouvez, une recherche sur « Taylor Swift AI » pourrait produire le faux porno susmentionné ou, dans le cas de X-anciennement -Twitter, une vague de messages de soutien à la chanteuse superstar, qui a fait partie d’un effort viral réussi pour noyer les images beaucoup plus obscènes qui ont commencé à apparaître en masse plus tôt dans la semaine.

Toutefois, si vous aviez effectué une recherche sur le même terme une demi-journée plus tôt, il y a fort à parier que vous auriez été confronté à une avalanche de faux nus de Taylor Swift profondément pornographiques. Visiblement créées à l’aide de générateurs d’images IA, ces images ont d’abord montré la chanteuse dans diverses poses suggestives et en petite tenue lors de matchs de football américain des Kansas City Chiefs, dans un clin d’œil salace à son idylle avec Travis Kelce, l’ailier de l’équipe.

Peu après, cependant, des images beaucoup plus grossières ont commencé à circuler, y compris celles montrant la star – et ne dites pas que nous ne vous avons pas prévenus – en train de se livrer à des actes sexuels avec des personnages de « Sesame Street ».

Comme le rapporte 404 Media, les images semblent avoir commencé à circuler sur un canal Telegram dont le seul et répugnant objectif est de créer des images sexualisées non consensuelles de femmes à l’aide de l’IA, y compris celles qui se sont retrouvées sur les médias sociaux. Lorsque les images incriminées ont commencé à devenir virales sur Twitter, leurs utilisateurs ont plaisanté en disant que l’attention qu’elles suscitaient allait probablement « faire fermer cette merde ».

Bien que l’on ne sache pas si la chaîne Telegram a effectivement été fermée, le Daily Mail – entre autres – a rapporté que certains des comptes ayant partagé les faux nus ont été supprimés après que ses journalistes ont alerté des contacts chez X, Facebook, Instagram et Reddit de leur existence. Mais comme l’a souligné The Verge dans son propre rapport, l’un des messages viraux sur X est resté en ligne pendant au moins 17 heures avant d’être supprimé – un délai flagrant qu’il est difficile d’imaginer avant qu’Elon Musk ne rachète le réseau et ne réduise ses ressources en matière de modération de contenu.

Les lois sur l’IA étant très en retard par rapport à la technologie et à ses utilisations les plus néfastes, c’est évidemment aux réseaux sociaux qu’il incombe de retirer ce type de contenu. Mais d’autres questions pressantes se posent. Des entreprises comme OpenAI, Microsoft et MidJourney devraient-elles être responsables de la diffusion de contenus dégoûtants et abusifs créés à l’aide de leurs systèmes ? Qu’en est-il des magasins d’applications qui proposent des logiciels d’IA ?

Comme l’a fait remarquer l’avocate Carrie Golberg, spécialisée dans la défense des victimes d’abus numériques, l’App Store d’Apple et la boutique Google Play pourraient potentiellement faire preuve de « négligence de la part des vendeurs« , car ils hébergent les « produits malveillants qui créent les images ».

Pour l’instant, cependant, la loi n’a pas été testée – et n’est pas écrite, car les législateurs sont confrontés à l’évolution rapide de la technologie en temps réel.

Les législatures du monde entier débattent actuellement de lois sur les images d’IA non consensuelles. Il faudra donc un plan d’attaque sur plusieurs fronts pour faire tomber les responsables de ce genre d’actes répugnants – et si quelqu’un a la puissance juridique et le capital nécessaires pour faire appliquer la loi, c’est bien Swift.

« Il est difficile d’imaginer quelque chose de plus terrifiant pour les entreprises d’IA générative déjà confrontées à de multiples poursuites de niveau existentiel que le porno d’IA de Taylor Swift qui circule en ligne en ce moment », a ironisé l’ancien chroniqueur du LA Times Bryan Merchant. « Une année de sociétés d’IA parlant de chatbots et de générateurs d’images comme s’il s’agissait de l’avènement de SkyNet, avant d’être écrasées comme un insecte par l’équipe juridique de Taylor Swift, serait vraiment la chronologie la plus drôle. »

https://futurism.com/ai-taylor-swift-porn-consequences