Peut-être l’image deepfake la plus célèbre à ce jour : le pape en tenue de mode, créé par Pablo Xavier avec Midjourney. (Image : Wikimedia Commons)

Les images et vidéos générées par l’IA mettent en danger les processus démocratiques et sapent la confiance dans la société. Des chercheurs de l’ETH Zurich ont désormais développé une technologie de puce qui permet de rendre vérifiable l’authenticité des données de capteurs telles que les images et les vidéos.

L’intelligence artificielle (IA) permet aujourd’hui de manipuler photos, vidéos et enregistrements sonores avec une facilité déconcertante. Qu’il s’agisse de fausses déclarations de politiciens ou d’images trompeuses de régions en crise, les médias sociaux et les plateformes en ligne sont déjà remplis de ce que l’on appelle des « deepfakes ». Les conséquences pour la société et la démocratie sont graves : de plus en plus de personnes se laissent berner par de telles falsifications ou commencent à se méfier même des sources crédibles.

Des chercheurs de l’ETH Zurich ont donc développé une nouvelle technologie de capteurs qui intervient précisément à ce niveau. L’idée est la suivante : les données, les images ou les signaux audio sont signés de manière cryptographique dans une puce de capteur dès leur création. Grâce à cette signature, il est possible de prouver que les données proviennent effectivement d’une caméra ou d’un appareil d’enregistrement, quand elles ont été prises et qu’aucune manipulation n’a été effectuée.

« Si les données sont signées dès leur création, toute manipulation ultérieure laisse des traces », explique Fernando Cardes. Il est collaborateur scientifique à la chaire d’ingénierie des systèmes biologiques d’Andreas Hierlemann au Département des systèmes biologiques (BSSE) à Bâle et a participé au développement de la technologie.

« Pour manipuler les données, il faudrait attaquer physiquement la puce – un effort technique si important qu’il rendrait pratiquement impossible la production en masse de contenus manipulés pour les plates-formes de médias sociaux ».

Voici comment fonctionne la technologie : un événement réel (1) est enregistré par une caméra dont la puce du capteur génère au moment de la prise de vue à la fois les données d’image et une signature cryptographique (2). Une fois stockée dans un registre public (3), cette signature peut être utilisée ultérieurement pour vérifier que l’enregistrement est authentique et n’a pas été modifié (4). (Graphique créé avec l’IA : Felix Franke / ETH Zurich)

Vérification facile grâce à un registre public

Les signatures générées dans le capteur pourraient être enregistrées par les fabricants de caméras dans un registre accessible à tous et non modifiable (par ex. une blockchain). Il serait ainsi possible de vérifier à tout moment et de manière indépendante si les données présentes sont authentiques : Toute personne peut comparer la signature de la puce dans le registre avec les données originales et confirmer ainsi leur origine.

« Ainsi, il n’est plus guère important de savoir si une personne ou une technologie impliquée dans le traitement et la transmission des données est digne de confiance », explique Felix Franke, qui a participé au développement de la puce à l’ETH Zurich et qui est désormais professeur à l’Université de Bâle. « La confiance dans les contenus numériques diminue. Nous voulions développer une technologie qui permette aux gens de vérifier si quelque chose est authentique », ajoute-t-il.

En principe, cette technologie peut être intégrée dans n’importe quel type de capteur ou de caméra. Les plates-formes de médias sociaux pourraient à l’avenir vérifier automatiquement, dès le téléchargement, si les contenus sont authentiques. Et lorsque ce n’est pas le cas, les journalistes, les chercheurs ou les autorités pourraient vérifier eux-mêmes l’authenticité à l’aide d’outils simples.

La puce de détection est un prototype qui démontre la faisabilité technique. (Image : Caroline Arndt Foppa / ETH Zurich)

Le danger des deepfakes détecté à temps

L’idée des puces de détection est née comme projet annexe au Bio Engineering Laboratory de l’ETH Zurich. Bien avant que des systèmes d’IA comme ChatGPT ne dominent le débat public, on s’y occupait déjà du développement de capteurs très sensibles pour mesurer les signaux électriques des cellules vivantes.

Le groupe multidisciplinaire disposait également du savoir-faire nécessaire pour intégrer des fonctions cryptographiques supplémentaires directement dans les puces de capteurs. « Le danger des deepfakes était prévisible », se souvient Franke. Dès 2017, le projet de développer un capteur dont les données ne pourraient pas être manipulées à l’insu de l’utilisateur aurait donc vu le jour.

La puce présentée dans le document publié est un prototype fonctionnel et démontre la faisabilité technique. D’autres étapes sont encore nécessaires pour une utilisation commerciale. Les chercheurs sont néanmoins convaincus qu’il est possible de la développer en un produit fonctionnel et commercialisable avec les conditions et procédés technologiques actuels. En conséquence, ils ont déposé une demande de brevet. « Nous étudions actuellement comment réduire les efforts des fabricants de caméras et de capteurs lorsqu’ils souhaitent intégrer la nouvelle technologie dans leurs puces », explique Cardes.

https://ethz.ch/de/news-und-veranstaltungen/eth-news/news/2026/03/neue-chips-gegen-deepfakes.fr.html