Google modifie son moteur de recherche pour mieux dissimuler les "deepfakes" explicites

Google déploie de nouvelles fonctionnalités de sécurité en ligne qui facilitent le retrait des deepfakes explicites de la recherche à grande échelle et les empêchent d'apparaître en haut des résultats de recherche.

Lorsque les utilisateurs demandent avec succès la suppression d'un faux contenu explicite et non consensuel les représentant dans le moteur de recherche, les systèmes de Google s'efforceront désormais de filtrer tous les résultats explicites de recherches similaires les concernant et de supprimer les images en double.

"Ces protections ont déjà fait leurs preuves pour d'autres types d'images non consensuelles, et nous avons maintenant mis en place les mêmes capacités pour les fausses images explicites", a déclaré Emma Higham, chef de produit chez Google, lors de l'annonce. "Ces efforts sont destinés à rassurer les internautes, surtout s'ils craignent que des contenus similaires à leur sujet apparaissent à l'avenir".

Les requêtes Google Search qui recherchent intentionnellement de fausses images d'une personne réelle devraient plutôt faire apparaître un "contenu de haute qualité et non explicite"

Les classements de Google Search sont également ajustés pour mieux gérer les requêtes qui présentent un risque plus élevé de faire apparaître des contenus explicites falsifiés. Par exemple, les recherches qui visent intentionnellement à obtenir de fausses images d'une personne réelle (comme les images sexuellement explicites de Taylor Swift générées par l'IA qui ont circulé au début de l'année) devraient plutôt faire apparaître des "contenus non explicites de haute qualité", tels que des articles d'actualité pertinents. Les sites qui font l'objet d'un nombre important de suppressions pour de fausses images explicites seront rétrogradés dans le classement de Google Search.

Google indique que les mises à jour précédentes ont permis de réduire de plus de 70 % cette année l'exposition aux résultats d'images explicites pour les requêtes qui recherchent spécifiquement ce type de contenu truqué. L'entreprise travaille également sur un moyen de distinguer les contenus explicites réels - tels que les scènes de nudité d'un acteur consentant - des faux contenus explicites, de sorte que les images légitimes puissent toujours être affichées tout en rétrogradant les deepfakes.

Ces mises à jour font suite à des modifications similaires apportées par Google pour lutter contre l'apparition de contenus dangereux et/ou explicites en ligne. En mai, Google a commencé à interdire aux annonceurs de promouvoir des services de deepfake porno. Google a également élargi les types d'informations "doxxing" (1) qui peuvent être supprimées de la recherche en 2022 et a commencé à flouter les images sexuellement explicites par défaut en août 2023.

1. La divulgation de données personnelles, appelée doxing ou doxxing en anglais, est une pratique consistant à rechercher et à divulguer sur l'internet des informations sur l'identité et la vie privée d'un individu dans le but de lui nuire

https://www.theverge.com/2024/7/31/24210283/google-search-update-remove-explicit-deepfakes-results