Adobe veut permettre aux artistes de mettre plus facilement leur travail sur liste noire contre le scraping de l'IA
infohightech ·
Adobe a annoncé un nouvel outil pour aider les créateurs à filigraner leurs œuvres et à choisir de ne plus les utiliser pour former des modèles d'IA génératifs.
L’application Web, appelée Adobe Content Authenticity, permet aux artistes de signaler qu’ils ne consentent pas à ce que leur travail soit utilisé par des modèles d’IA, qui sont généralement formés à partir de vastes bases de données de contenu récupérées sur Internet. Elle donne également aux créateurs la possibilité d’ajouter ce qu’Adobe appelle des « informations d’identification de contenu », notamment leur identité vérifiée, leurs identifiants de réseaux sociaux ou d’autres domaines en ligne, à leur travail.
Les informations d'identification du contenu sont basées sur C2PA, un protocole Internet qui utilise la cryptographie pour étiqueter en toute sécurité les images, les vidéos et les fichiers audio avec des informations précisant leur provenance, l'équivalent au 21e siècle de la signature d'un artiste.
Bien qu'Adobe ait déjà intégré ces informations d'identification dans plusieurs de ses produits, notamment Photoshop et son propre modèle d'IA générative Firefly , Adobe Content Authenticity permet aux créateurs de les appliquer à leur contenu, qu'il ait été créé ou non à l'aide des outils Adobe. L'entreprise lancera une version bêta publique début 2025.
La nouvelle application est un pas dans la bonne direction pour rendre le C2PA plus omniprésent et pourrait permettre aux créateurs d'ajouter plus facilement des informations d'identification de contenu à leur travail, déclare Claire Leibowicz, responsable de l'IA et de l'intégrité des médias au sein de l'association à but non lucratif Partnership on AI.
« Je pense qu’Adobe a au moins commencé à ouvrir un dialogue culturel, en permettant aux créateurs de communiquer davantage et de se sentir plus autonomes », dit-elle. « Mais que les gens répondent ou non à l’avertissement « Ne pas former » est une autre question. »
L'application rejoint un domaine en plein essor d'outils d'IA conçus pour aider les artistes à lutter contre les entreprises technologiques, rendant plus difficile pour ces dernières de récupérer leurs œuvres protégées par le droit d'auteur sans consentement ni compensation. L'année dernière, des chercheurs de l'Université de Chicago ont publié Nightshade et Glaze , deux outils qui permettent aux utilisateurs d'ajouter une attaque de poison invisible à leurs images.
L'un provoque la rupture des modèles d'IA lorsque le contenu protégé est récupéré, et l'autre dissimule le style artistique d'une personne aux modèles d'IA. Adobe a également créé une extension de navigateur Chrome qui permet aux utilisateurs de vérifier le contenu du site Web pour connaître les informations d'identification existantes.
À mesure que les gens le testent et l’expérimentent, nous comprenons mieux ses limites dans les domaines créatifs.
Les utilisateurs d'Adobe Content Authenticity pourront ajouter autant d'informations qu'ils le souhaitent au contenu qu'ils téléchargent. Comme il est relativement facile de supprimer accidentellement les métadonnées uniques d'un élément de contenu lors de sa préparation au téléchargement sur un site Web, Adobe utilise une combinaison de méthodes, notamment l'empreinte digitale numérique et le filigrane invisible ainsi que les métadonnées cryptographiques.
Cela signifie que les informations d'identification du contenu suivront le fichier image, audio ou vidéo sur le Web, de sorte que les données ne seront pas perdues si elles sont téléchargées sur différentes plateformes. Même si quelqu'un prend une capture d'écran d'un élément de contenu, affirme Adobe, les informations d'identification peuvent toujours être récupérées.
L'entreprise reconnaît toutefois que l'outil est loin d'être infaillible. « Quiconque vous dit que son filigrane est 100 % défendable ment », déclare Ely Greenfield, directeur technique des médias numériques chez Adobe. « Il s'agit d'une protection contre les suppressions accidentelles ou involontaires, plutôt que contre des acteurs malveillants. »
La relation de l’entreprise avec la communauté artistique est compliquée. En février, Adobe a mis à jour ses conditions d’utilisation pour lui donner accès au contenu des utilisateurs « par des méthodes à la fois automatisées et manuelles », et pour préciser qu’elle utilise des techniques telles que l’apprentissage automatique afin d’améliorer ses « services et logiciels » formulés de manière vague.
Cette mise à jour a suscité une vive réaction de la part des artistes, qui ont interprété cela comme signifiant que l’entreprise prévoyait d’utiliser leur travail pour entraîner Firefly. Adobe a ensuite précisé que le langage utilisé faisait référence à des fonctionnalités qui ne reposent pas sur l’IA générative, notamment un outil Photoshop qui supprime des objets des images.
Bien qu'Adobe affirme qu'il n'entraîne pas (et ne formera pas) son IA sur le contenu des utilisateurs, de nombreux artistes ont fait valoir que l'entreprise n'obtient pas réellement le consentement ou ne possède pas les droits sur les images des contributeurs individuels, explique Neil Turkewitz, militant des droits des artistes et ancien vice-président exécutif de la Recording Industry Association of America.
« Il ne faudrait pas un changement radical pour qu'Adobe devienne un véritable acteur éthique dans ce domaine et fasse preuve de leadership », déclare-t-il. « Mais c'est formidable que les entreprises s'intéressent à la provenance et améliorent les outils de métadonnées, ce qui fait partie d'une solution ultime pour résoudre ces problèmes. »