TikTok déploie un outil de détection de deepfakes pour les personnalités publiques afin de lutter contre la désinformation.

La rédaction ·

La fonctionnalité de « détection de ressemblance » de cette entreprise de médias sociaux est destinée aux politiciens confrontés au déluge de désinformation en ligne.

TikTok a annoncé vendredi avoir commencé à déployer une fonctionnalité optionnelle appelée « Likeness Detection » ou « Détection de ressemblance » pour aider les créateurs à trouver et à signaler sur la plateforme les contenus générés par l'IA qui utilisent leur image, alors que l'entreprise tente de lutter contre la désinformation générée par l'IA.

Cet outil vise à aider les personnalités publiques, notamment les membres du gouvernement, les politiciens et les comptes de partis politiques, à repérer et à signaler les contenus générés par l'IA qui utilisent leur image sans leur consentement.

Cela survient à un moment où l'Europe est déjà confrontée à une vague de désinformation et de campagnes de deepfake alimentées par l'IA qui perturbent ses processus électoraux, et avec neuf autres pays européens qui se rendront aux urnes au cours des 12 prochains mois, cela pourrait s'avérer décisif.

Les utilisateurs éligibles peuvent s'inscrire en vérifiant leur identité auprès d'un partenaire tiers de confiance. Ils sont ensuite avertis lorsque du contenu et des comptes sur TikTok utilisent leur image et peuvent les consulter via l'outil.

Les utilisateurs peuvent ensuite signaler directement les contenus aux équipes de sécurité de TikTok pour examen et mesures.

L'UE a commencé à déployer des règles de transparence en matière d'intelligence artificielle le 2 août, dans le cadre de la loi sur l'IA, notamment l'obligation d'étiqueter les deepfakes et autres contenus générés par l'IA.

Ces dernières années, TikTok a déployé des efforts pour lutter contre les deepfakes, notamment en exigeant des créateurs de contenu qu'ils étiquettent les images, les fichiers audio et vidéo réalistes générés par l'IA, comme le stipule la loi sur l'IA.

Identifier le contenu généré par l'IA

L'entreprise a également lancé un nouvel outil de transparence permettant aux utilisateurs de vérifier si le contenu est créé ou modifié à l'aide des fonctionnalités de création de la plateforme de médias sociaux.

L'outil «Identify AI-Generated Content » ou « Identifier le contenu généré par l'IA » est gratuit et accessible à tous, a déclaré TikTok, même à ceux qui ne possèdent pas de compte.

La plateforme permet aux utilisateurs de télécharger une image ou une vidéo pour vérifier si elle a été générée ou modifiée avec les outils d'IA propres à TikTok, notamment les applications CapCut, Dreamina, Hypic et Pippit de sa société mère ByteDance.

Il prend en charge un large éventail de formats, y compris les plus populaires comme JPEG, PNG et MP4, avec une limite de taille de fichier de 20 mégaoctets par image ou de 100 mégaoctets pour chaque vidéo ou fichier audio.

L'outil vérifie deux signes indiquant que le contenu a été généré par l'IA : les métadonnées ajoutées par les applications TikTok et ByteDance et les filigranes invisibles intégrés directement dans le contenu, plus difficiles à supprimer.

L'entreprise a déclaré que l'outil supprime tout le contenu dès qu'il a été téléchargé et vérifié, et qu'il n'est jamais utilisé pour entraîner des modèles d'IA.

TikTok avertit ses utilisateurs qu'il ne détecte que si le contenu a été modifié ou créé par l'IA à l'aide de ses propres outils ou de ceux de l'application ByteDance ; il ne s'agit donc pas d'une méthode infaillible pour repérer le contenu créé par l'IA.

https://newsroom.tiktok.com/more-tools-to-provide-clarity-and-control-around-ai-generated-content?lang=en-GB

https://ai-generated-detect.tiktokv-row.com/

Source : newsroom.tiktok.com

Cet article vous a été utile ? Partagez-le.