Aujourd’hui, plus personne ne peut échapper au deepfake et les logiciels se multiplient pour y arriver

L’intervieweur a demandé, « Est-ce que cette image est réelle » ? Il n’y a aucun moyen de le savoir. « Et cette vidéo ? » C’est difficile à dire. « Vous ne pouvez pas dire si c’est réel ou faux non plus. » Non. Pas sans l’analyser. « Eh bien, qu’en est-il de la prose ? Est-ce qu’un humain a écrit cette phrase ? » C’est possible, mais je ne serais pas surpris d’apprendre qu’elle a été générée par une machine. « Et la voix dans la vidéo ? » C’est soniquement parfait. Je dirais 60/40 que c’est une machine, mais j’aurais besoin d’entendre quelques phrases de plus pour en être sûr. « Donc, ce que vous dites, c’est que je ne peux pas faire confiance à mes yeux ou mes oreilles ? » Oui. C’est ce que je suis en train de dire. « Est-ce la fin de la vérité ? »

Voici un extrait d’une conversation avec un chroniqueur d’une publication spécialisée la semaine dernière sur les deepfakes. Il a examiné des échantillons aléatoires d’images fixes et de clips vidéo. Il a regardé quelques paragraphes de texte écrits dans différents styles littéraires. Et enfin, il a écouté des fichiers audio parlés et quelques bandes sonores entièrement mixées. Les échantillons n’étaient pas étiquetés, et il ne les avait vus avant l’entretien. Dans tous les cas, il était extrêmement difficile de dire (avec certitude) si le matériel avait été manipulé ou généré par ordinateur ou si nous voyions (et entendions) des enregistrements non modifiés d’êtres humains.

Les Deepfakes sont de plus en plus faciles à réaliser

Comme la plupart des technologies numériques, la qualité des deepfakes augmente à un rythme alarmant, et il est clair que même les outils de deepfake les plus complexes seront aussi faciles à utiliser que les filtres Instagram dans un avenir très proche. Pour prouver mon point de vue, voici quelques applications qui vous permettront de mieux comprendre les deepfakes.

– Zao – est la meilleure du lot, mais vous avez besoin d’un numéro de téléphone chinois pour l’utiliser. Android / iOS

– Deepfakes Web est un site web qui se passe de commentaires.

– Wombo est une application populaire de synchronisation labiale avec une touche d’originalité. Vous pouvez vous transformer en un visage chantant. Android / iOS

– Reface est une application grand public d’échange de visage. Android / iOS

– MyHeritage est un outil qui prend de vieilles photos et vous permet de les animer. C’est à la fois cool et effrayant. (Note : il s’agit d’une société d’enregistrement d’ADN qui utilise la technologie des deepfakes comme appât) Android / iOS

– FaceApp est l’une des premières réussites commerciales en matière de deepfakes basés sur des applications. Elle permet d’améliorer vos photos de profil ou vos portraits. C’est aussi amusant de changer son âge. Android / iOS

Et pendant que nous y sommes, allez visiter thispersondoesnotexist.com pour vous amuser avec les GAN (Generative Adversarial Networks). Chaque fois que vous rafraîchissez la page, vous verrez une nouvelle image d’une personne qui n’existe pas. Les images sont générées par ordinateur, et elles ne se répètent pas.

Si cette technologie peut être utilisée pour toutes sortes de productions cinématographiques et vidéo, elle peut aussi être utilisée de manière exceptionnellement mauvaise. La pornographie de vengeance figure en tête de liste, ou presque. Il a été interdit dans de nombreux États (comme il se doit). Mais comme je le dis souvent, « la technologie n’est ni bonne ni mauvaise – c’est la façon dont on l’utilise qui compte ».

La technologie n’est pas le problème

Il existe un célèbre clip vidéo de Nancy Pelosi datant de mai 2019 qui a été manipulé pour donner l’impression que la présidente du Parlement était ivre ou pire. Le clip viral n’est pas un deepfake ; il a simplement été ralenti avec un logiciel de montage vidéo commun.

À l’époque, Facebook a refusé de supprimer le clip – bien qu’il ait été prouvé qu’il avait été monté. YouTube l’a supprimé. Vous pouvez rechercher l’incident sur Google si vous souhaitez vous plonger dans le terrier des conditions générales. Cela dit, vous n’aurez aucun mal à trouver une copie de ce clip sur un grand nombre de sites Web aujourd’hui. Cela soulève de nombreuses questions. La technologie est-elle à blâmer ?

Nancy Pelosi Deepfake

Cette fake news a été créée avec la même technologie que celle utilisée pour monter la vidéo d’anniversaire de votre enfant. Nous n’allons pas réglementer les logiciels de montage vidéo.

Qu’en est-il de la personne ou des personnes qui ont créé la fausse nouvelle ? Doit-on les blâmer ? Oui. Mais ils n’ont enfreint aucune loi. Ce type de discours politique est protégé à 100 % par le premier amendement. Alors pourquoi en parler ?

Les gens croient ce qu’ils veulent croire

Il s’agit d’un exemple d’utilisation extrêmement basique de la manipulation vidéo. Il n’a fallu pratiquement aucune compétence pour le réaliser. Elle semble réelle, sauf si on vous montre la vidéo originale. Il est alors clair – sans l’ombre d’un doute – que la vidéo virale a été trafiquée et qu’elle est fausse.

Lorsqu’on leur a présenté les faits, en général, ceux qui voulaient penser du mal de Nancy Pelosi sont restés impassibles. Des excuses telles que « Oui, mais elle a la maladie d’Alzheimer » ou « C’est peut-être un faux, mais vous savez qu’elle boit » ou d’autres arguments similaires ont été utilisés pour ignorer la vérité. Sans surprise, les partisans du Président étaient heureux d’apprendre qu’il s’agissait d’un faux, puis furieux de l’attaque politique.

Ce test/groupe de discussion/sondage a été réalisé à de nombreuses reprises par un nombre incalculable d’instituts de sondage, de YouTubeurs, de TikTokers et même de journalistes réputés. Le point le plus important est que les fake news n’ont fait changer aucun esprit. Et, pire encore, les faits n’ont pas changé les esprits non plus.

En très peu de temps, cette technologie va devenir si performante qu’il sera impossible de distinguer le vrai du faux. Nous sommes sur le point d’entrer dans un monde de métaverses, de réalité mixte, virtuelle, augmentée et étendue. Mais la technologie ne sera pas le problème. Le dogme est le plus profond de tous les deepfakes, et les faits ne font pas le poids face au dogme.

https://www.shellypalmer.com/2021/10/the-deepest-deepfake-of-all/