La startup britannique Surf Security a lancé une version bêta de ce qu’elle prétend être le premier navigateur au monde doté d’une fonctionnalité intégrée conçue pour repérer les deepfakes générés par l’IA.
L’outil, disponible via le navigateur Surf ou sous forme d’extension, peut détecter avec une précision allant jusqu’à 98 % si la personne avec laquelle vous interagissez en ligne est un véritable humain ou une imitation d’IA, a déclaré la société.
La start-up londonienne spécialisée dans la cybersécurité utilise une technologie de réseau neuronal de « niveau militaire » pour détecter les deepfakes. Le système utilise des modèles d’espace d’état, qui détectent les clones générés par l’IA dans différentes langues et accents en analysant les trames audio pour détecter les incohérences.
« Pour maximiser son efficacité, nous avons mis l’accent sur la précision et la rapidité », a déclaré Ziv Yankowitz, directeur technique de Surf Security. Le réseau neuronal de l’outil est formé à l’aide de deepfakes créés par les principales plateformes de clonage vocal IA, a-t-il déclaré.
Le système est doté d’une fonction intégrée de réduction du bruit de fond pour clarifier le son avant le traitement. « Il peut détecter un deepfake audio en moins de 2 secondes », précise Ziv Yankowitz.
La nouvelle fonctionnalité est disponible pour les fichiers audio, y compris les vidéos en ligne ou les logiciels de communication tels que WhatsApp, Slack, Zoom ou Google Meet. Il suffit d’appuyer sur un bouton et le système vérifie si l’audio – enregistré ou en direct – est authentique ou généré par l’IA. Surf a déclaré qu’il ajouterait également à l’avenir la détection d’images par IA à la boîte à outils du navigateur.
Les deepfakes sont un problème croissant
Les deepfakes, qui utilisent l’IA pour créer de faux fichiers audio ou vidéo convaincants, constituent une menace croissante.
Cette semaine, des chercheurs de la BBC ont découvert des extraits audio truqués de David Attenborough , dont la voix est indiscernable de celle du célèbre présentateur. Plusieurs sites Internet et chaînes YouTube utilisent ces truquages pour lui faire dire des choses qu’il n’a jamais dites, sur la Russie ou sur les élections américaines.
Ce n’est là que la pointe d’un iceberg. Les deepfakes ont été utilisés pour permettre des fraudes à grande échelle , inciter à des troubles politiques par le biais de fausses informations et détruire des réputations en créant des contenus faux ou préjudiciables .
Surf a déclaré avoir lancé le nouveau détecteur de deepfakes pour aider à protéger les entreprises, les organisations médiatiques, la police et les armées du monde entier contre le risque croissant de clonage de l’IA.
Cependant, la lutte contre les deepfakes est une bataille continue entre des humains qui utilisent des machines à des fins bénéfiques, contre d’autres humains qui utilisent des machines à des fins néfastes.
« Les logiciels de clonage vocal par intelligence artificielle deviennent de plus en plus performants », a admis Ziv Yankowitz. « Comme dans le domaine de la cybersécurité, nous nous engageons à remporter une course aux armements en constante évolution. »
Surf prévoit de publier la version complète de son détecteur de deepfakes au début de l’année prochaine.
https://thenextweb.com/news/uk-startup-launches-worlds-first-ai-deepfake-detector-browser
