Google filigrane les contenus créés par l'IA pour éviter les escroqueries et les tricheries
infohightech ·
C'était en avril 2018, un jour comme les autres, jusqu'à ce qu'arrive le premier texto demandant « Vous avez déjà vu ça ? ! » avec un lien vers YouTube. Quelques secondes plus tard, l'ancien président Barack Obama était à l'écran en train de prononcer un discours dans lequel il proclamait que le président Donald Trump « est un [explétif] total et complet ».
Sauf qu'il ne s'agissait pas de l'ancien président Obama. Il s'agissait d'une fausse vidéo produite par Jordan Peele et Buzzfeed. La vidéo, dans son intégralité, visait à sensibiliser le public aux capacités de l'IA dont nous disposions à l'époque pour créer des têtes parlantes avec des voix off. Dans ce cas, Peele a utilisé Barack Obama pour faire passer un message de prudence, de méfiance et d'utilisation de sources d'information fiables.
C'était il y a six ans et demi, soit plusieurs éons dans le temps de l'IA.
Comment pouvons-nous faire confiance à n'importe quelle source aujourd'hui ?
Depuis, la technologie de l'IA a fait d'innombrables progrès. Nous avons littéralement fait des bonds en avant par rapport à la technologie utilisée par Peele pour créer son « deepfake » d'Obama. Le GPT-2 a été présenté au public en 2019, et pouvait être utilisé pour générer du texte à l'aide d'une simple invite.
2021 a vu la sortie de DALL-E, un outil de génération d'images d'IA capable de tromper même les yeux les plus attentifs avec certaines de ses images photoréalistes. En 2022, ses capacités sont encore améliorées avec DALL-E 2. MidJourney est également sorti cette année-là. Tous deux utilisent des entrées textuelles pour le sujet, la situation, l'action et le style afin de produire des œuvres d'art uniques, y compris des images photoréalistes.
Une photo de chien à rayures tigrées sautant d'un toboggan alors qu'il vient d'attraper un frisbee. Il s'agit en fait d'une image générée par l'IA à l'aide d'ImageFX de Google, avec SynthID en filigrane.
En 2024, l'IA générative est devenue complètement folle. Make-A-Video de Meta permet aux utilisateurs de générer des vidéos de cinq secondes à partir de simples descriptions textuelles, et Movie Gen de Meta a porté la génération de vidéos par l'IA à de nouveaux sommets. OpenAI Sora, Google Veo, Runway ML, HeyGen... Avec des invites textuelles, nous pouvons désormais générer tout ce que notre imagination la plus folle peut imaginer. Peut-être même plus, car les vidéos générées par l'IA s'amusent parfois avec nos données, ce qui donne lieu à des images fascinantes et psychédéliques.
Synthesia et DeepBrain sont deux autres plateformes vidéo d'IA spécialement conçues pour fournir un contenu de type humain à l'aide d'avatars générés par l'IA, à l'instar des présentateurs de journaux télévisés qui diffusent les dernières nouvelles sur votre chaîne locale préférée - à ce propos, votre chaîne locale tout entière pourrait bientôt être générée par l'IA - comme la remarquable Channel One. Et il y en a tant d'autres.
Qu'est-ce qui est vrai et qu'est-ce qui est faux ? Qui peut faire la différence ? Certainement pas votre tante sur Facebook qui ne cesse de partager ces images ridicules. Les concepts de vérité, de réalité et de véracité sont attaqués, avec des répercussions qui se répercutent bien au-delà de l'écran. Afin de donner à l'humanité une chance de résister au tsunami de mensonges qui s'annonce, Google DeepMind a mis au point une technologie appelée SynthID, qui permet de filigraner et d'identifier les médias générés par l'IA.
SynthID permet de distinguer les contenus authentiques légitimes des contenus générés par l'IA en apposant un filigrane numérique sur les contenus générés par l'IA d'une manière que les humains ne pourront pas percevoir, mais qui sera facilement reconnaissable par les logiciels qui recherchent spécifiquement les filigranes.
Cela ne concerne pas seulement les vidéos, mais aussi les images, le son et même le texte. Selon Deepmind, cela se fait sans compromettre l'intégrité du contenu original.
Filigrane textuel AI
Les grands modèles de langage (LLM) comme ChatGPT utilisent des « jetons » (tokens en anglais) pour lire les données d'entrée et générer des données de sortie. Les jetons sont essentiellement des parties de mots ou de phrases, ou des mots entiers. Si vous avez déjà utilisé un LLM, vous avez probablement remarqué qu'il a tendance à répéter certains mots ou phrases dans ses réponses. Les modèles sont courants dans les LLM.
La manière dont SynthID filigrane les textes générés par l'IA est assez délicate. Pour faire simple, il manipule subtilement les probabilités des différents tokens dans le texte. Il peut modifier dix probabilités dans une phrase, des centaines sur une page entière, laissant ce que Deepmind appelle une « signature statistique » dans le texte généré.
SynthID utilise des algorithmes complexes de prédiction de jetons comme filigrane pour les fichiers texte
Le texte reste parfaitement lisible pour l'homme, et à moins d'avoir des compétences en reconnaissance de formes qui frisent le paranormal, vous n'auriez aucun moyen de vous en rendre compte.
Mais un détecteur de filigrane SynthID peut le faire, avec une précision croissante au fur et à mesure que le texte s'allonge. Et comme il n'y a pas de motifs de caractères spécifiques, le filigrane numérique devrait également être assez résistant à un certain degré d'édition de texte.
Filigrane AI audio et vidéo
Le contenu multimédia devrait être considérablement plus facile, puisque toutes sortes d'informations peuvent être codées dans des artefacts invisibles et inaudibles dans les fichiers. Pour l'audio, SynthID crée un spectrogramme du fichier et y insère un filigrane imperceptible par l'oreille humaine, avant de le reconvertir en forme d'onde.
Le spectrogramme en filigrane de SynthID d'un fichier audio
Les photos et les vidéos sont simplement dotées d'un filigrane incorporé dans les pixels de l'image de manière non destructive. Le filigrane reste détectable même si l'image ou la vidéo a été modifiée par des filtres ou un recadrage.
Le filigrane SynthID est imperceptible à l'œil nu, comme le montre l'image suivante
Google a mis la technologie SynthID en libre accès et encourage les entreprises qui créent des outils d'IA générative à l'utiliser. L'enjeu n'est pas seulement que les gens se fassent berner par des contrefaçons d'IA : les grandes entreprises elles-mêmes doivent s'assurer que le contenu généré par l'IA peut être distingué du contenu généré par l'homme pour une raison différente, afin que les modèles d'IA de demain soient formés sur du « vrai » contenu généré par l'homme plutôt que sur du BS généré par l'IA.
Si les modèles d'IA sont forcés de manger trop de leurs propres excréments, toutes les « hallucinations » qui prévalent dans les premiers modèles d'aujourd'hui deviendront une partie de la compréhension de la vérité de terrain par les nouveaux modèles. Google a tout intérêt à s'assurer que le prochain modèle Gemini est formé sur les meilleures données possibles.
En fin de compte, les systèmes tels que SynthID sont essentiellement fondés sur l'adhésion et, en tant que tels, les entreprises qui s'en abstiennent et dont les textes, images, vidéos et sons GenAI sont d'autant plus difficiles à détecter auront un argument de vente convaincant à proposer à tous ceux qui veulent vraiment déformer la vérité ou tromper les gens, qu'il s'agisse d'ingérence dans les élections ou d'enfants qui ne peuvent pas s'embêter à rédiger leurs propres devoirs.
Les pays pourraient peut-être légiférer pour rendre ces technologies de filigrane obligatoires, mais il y aura certainement des pays qui choisiront de ne pas le faire, et des opérations louches qui construiront leurs propres modèles d'IA pour contourner de telles restrictions.
Mais c'est un début, et même si vous ou moi pouvons encore nous laisser berner par les vidéos de Taylor Swift sur TikTok offrant des casseroles, avec la technologie SynthID, nous pourrons vérifier leur authenticité avant d'envoyer nos 9,99 dollars de frais de port.