La technologie de tatouage numérique SynthID de Google est adoptée par OpenAI, Nvidia et d’autres entreprises.
Le contenu généré par l’IA s’améliore, mais SynthID pourrait bien aider à distinguer le vrai du faux et le PDG de Google, Sundar Pichai, annonce 100 milliards d’images et de vidéos SynthID. Crédit : Google
En quelques années seulement, nous sommes passés d’une identification aisée des contenus IA présentant des doigts superflus à des images et vidéos d’un réalisme saisissant . Comment distinguer le réel du faux à l’ère de l’IA ? La réponse de Google : SynthID, présenté pour la première fois il y a trois ans. L’entreprise affirme que SynthID a depuis servi à étiqueter 100 milliards d’images et de vidéos, ainsi que 60 000 ans d’enregistrements audio. Ces chiffres ne cessent d’augmenter, SynthID étant désormais utilisé au-delà de Google.
SynthID n’est pas la seule stratégie d’étiquetage par IA de Google. L’entreprise s’est également engagée à respecter la norme C2PA, qui attribue au contenu des métadonnées décrivant sa création. Google a commencé à utiliser C2PA de manière plus visible avec ses smartphones Pixel 10. Les photos prises avec le Pixel 10 incluent des métadonnées expliquant leur traitement. Si une image fortement zoomée contient des éléments générés, elle reçoit également une étiquette IA.
Google annonce que cette fonctionnalité sera bientôt disponible pour les vidéos enregistrées sur les Pixel 8, 9 et 10 grâce à une mise à jour. L’analyse C2PA sera également intégrée à Gemini, permettant ainsi au chatbot d’expliquer la provenance d’un fichier en fonction de son étiquetage. Cette fonctionnalité sera disponible dans Chrome et la Recherche d’ici quelques mois.
Ces métadonnées sont toutefois fongibles. En revanche, SynthID est profondément intégré au contenu généré par l’IA. Le filigrane numérique est présent dans les pixels des images et des vidéos, ainsi que dans la forme d’onde des morceaux et des aperçus audio générés par l’IA, notamment dans des produits comme NotebookLM. Selon Pushmeet Kohli, chercheur chez Google DeepMind, l’équipe a déployé des efforts considérables pour rendre SynthID beaucoup plus difficile à supprimer, même après compression, recadrage ou rotation.
« Une technologie comme celle-ci sera toujours la cible d’attaques », a déclaré Kohli. « Nous avons mené de nombreuses recherches pour rendre SynthID robuste face à différents types de transformations. »
L’année dernière, Google a intégré la détection SynthID à l’application Gemini. Vous pouvez y importer le contenu suspect et demander au chatbot s’il a été généré par l’IA. Cette fonctionnalité devrait être fiable pour les milliards d’images et d’extraits audio produits par l’IA de Google ces trois dernières années. Quelques bidouilleurs ambitieux ont prétendu avoir trouvé des méthodes pour supprimer les motifs SynthID cachés. Google affirme qu’aucune de ces solutions ne fonctionne.
SynthID est plus présent dans davantage d’endroits.
Même si personne n’a réussi à déchiffrer SynthID, cela n’a aucune importance pour la grande majorité des images générées par IA sur Internet : seuls les modèles d’IA de Google utilisent SynthID. Mais cela va bientôt changer.
Google a annoncé avoir conclu des partenariats avec plusieurs entreprises pour intégrer SynthID à leurs systèmes. Nvidia implémentera SynthID dans ses modèles Cosmos World Foundation, et OpenAI l’utilisera dans ses images GPT-2. Kakao et ElevenLabs commenceront également à intégrer SynthID à leurs contenus d’IA.
Cela ne signifie pas pour autant que la présence d’un SynthID permettra toujours de déterminer si un contenu est généré par l’IA. De nombreux modèles publics continuent de produire du contenu sans filigrane IA, et il existe des modèles ouverts que quiconque souhaite créer des images et des vidéos IA selon ses propres conditions peut entraîner. Néanmoins, il s’agit d’un pas dans la bonne direction.
De nouvelles méthodes permettront de vérifier le statut SynthID, vous évitant ainsi d’ouvrir Gemini pour contrôler la présence du filigrane. SynthID sera intégré à Circle to Search, Lens et au mode IA. Vous pourrez également utiliser Gemini dans Chrome en partageant un onglet contenant le contenu concerné. Il vous suffira de poser la question « Est-ce de l’IA ? » pour obtenir une analyse SynthID avec ces outils.
Il n’existe actuellement aucune API publique pour SynthID ; rendre ces analyses trop facilement accessibles pourrait servir de vecteur d’attaque à ceux qui cherchent à contourner SynthID. Cependant, Google s’apprête à lancer une API de détection de contenu par IA dans le cadre de sa plateforme Gemini Enterprise Agent. Cela permettra aux partenaires commerciaux de confiance de signaler plus facilement le contenu généré par l’IA, ce qui permettra à Google d’améliorer l’API au cours des prochains mois.