Un nouveau système de génération de deepfake baptisé FSGAN peut échanger les visages des gens en temps réel, sans avoir besoin d’une formation/entrainement approfondie qu’un algorithme d’IA requiert normalement pour apprendre à quoi ressemble un visage spécifique.

Cela signifie que les deepfakes pourraient bientôt proliférer plus rapidement que jamais, selon le site web Motherboard, car la création de vidéos trompeuses et manipulées nécessite désormais moins de savoir-faire technique que jamais.

Échange de visage

Le système, conçu par des scientifiques de l’Université Bar-Ilan d’Israël, s’appuie sur une vidéo cible d’une personne, dont les mouvements et les expressions sont ensuite tracés sur le visage d’une autre personne. Avec ce système, seule une photo de la cible du deepfake est nécessaire pour leur faire dire ce que le créateur de la contrefaçon profonde veut, selon une étude publiée sur le serveur de pré-impression ArXiv le vendredi.

Dans une vidéo de démonstration, il est clair que les résultats ne sont pas parfaits. L’arrière-plan vacille et les jumelages de célébrités – comme Alfonso Cuaron croisé avec Regina King à 1:13 – sont plus comiques qu’autre chose. Mais il est facile de voir comment un mauvais acteur pourrait facilement utiliser cette technologie pour créer une propagande crédible.

Montrer le monde

Les ingénieurs à l’origine de cette nouvelle technologie de Deepfake ont dit qu’ils partageaient leur code avec le monde entier parce que le cacher n’empêcherait pas une technologie similaire d’apparaître, par Motherboard.

C’est une ligne commune des développeurs de deepfake : qu’ils publient leur technologie deepfake pour que quelqu’un – c’est-à-dire quelqu’un d’autre – puisse l’examiner et développer une sorte de contre-mesure pour la détection de deepfake. Si seulement il y avait un moyen plus facile, comme peut-être ne pas construire des deepfakes conviviaux pour les consommateurs en premier lieu.

Deepfake, ou hypertrucage ou permutation intelligente de visages, est une technique de synthèse d’images basée sur l’intelligence artificielle. Elle sert principalement à superposer des images et des vidéos existantes sur d’autres images et/ou vidéos (par exemple : le changement de visage d’une personne sur une vidéo). Le terme est un mot-valise formé à partir de deep learning (« apprentissage profond ») et de fake (« faux »). Les deepfakes sont surtout connus pour avoir été utilisés afin de créer de fausses vidéos érotiques (sextapes), mettant en scène des célébrités, et de la pornodivulgation (revenge porn). Cette technique peut être utilisée pour créer des infox et des canulars malveillants.

https://futurism.com/the-byte/system-easy-create-deepfakes

https://arxiv.org/pdf/1908.05932.pdf

https://www.vice.com/en_us/article/594qx5/there-is-no-tech-solution-to-deepfakes

https://deeplearn.org/arxiv/88668/fsgan:-subject-agnostic-face-swapping-and-reenactment