Une fuite montre que Runway, un générateur de vidéos par IA financé par Google, a été entraîné sur des contenus YouTube volés et des films piratés
infohightech ·
Selon une gigantesque feuille de calcul interne obtenue par 404 Media, Runway a formé un puissant générateur de texte à partir de vidéos en utilisant de grandes quantités de contenus piratés et de vidéos arrachées à YouTube.
Le mois dernier, l'outil de génération vidéo Gen-3 Alpha de l'entreprise a attiré l'attention de nombreuses publications, dont Futurism, qui ont fait l'éloge des clips presque photoréalistes qu'il pouvait générer. À l'époque, Runway avait affirmé que Gen-3 Alpha était "formé conjointement sur des vidéos et des images", mais s'était bien gardé de préciser la source des données.
Aujourd'hui, selon le document obtenu par 404 Media, il pourrait y avoir une bonne raison à cette timidité. La feuille de calcul est remplie de contenus populaires provenant des principales chaînes YouTube, notamment celles de Disney, Netflix et Sony, ainsi que de liens vers des sites web connus pour héberger des contenus piratés.
https://twitter.com/MKBHD/status/1816487078265344313
Bien que 404 Media n'ait pas pu confirmer que Gen-3 Alpha a été entraîné sur tous les actifs énumérés, cela semble circonstanciellement très probable - et, en tant que tel, un nouvel élément de preuve frappant que les entreprises d'IA volent sans vergogne du contenu pour alimenter les modèles d'IA avec un mépris total pour le droit d'auteur - un point de douleur constamment récurrent dans le monde de l'IA générative.
Bien que des questions subsistent quant aux vidéos qui ont réellement été intégrées aux données d'entraînement, 404 Media a été en mesure de générer sans difficulté des vidéos crédibles de personnalités connues de YouTube.
Runway serait même allé jusqu'à dissimuler ses traces en utilisant un proxy pour éviter d'être bloqué par YouTube.
"Les chaînes de cette feuille de calcul représentaient un effort de toute l'entreprise pour trouver des vidéos de bonne qualité afin de construire le modèle", a déclaré à 404 Media un ancien employé dont le nom n'a pas été dévoilé. "Ces données ont ensuite été utilisées pour alimenter un énorme robot d'exploration du web qui a téléchargé toutes les vidéos de toutes ces chaînes, en utilisant des proxys pour éviter d'être bloqué par Google".
L'année dernière, Runway a levé 141 millions de dollars de fonds, notamment auprès de Google, propriétaire de YouTube, de Salesforce et du fabricant de puces NVIDIA, pour une valorisation impressionnante de 1,5 milliard de dollars.
Runway n'est pas le seul à avoir été critiqué pour avoir utilisé du matériel protégé par des droits d'auteur sans avoir obtenu les licences nécessaires pour entraîner ses modèles d'intelligence artificielle. Au début de l'année, Mira Murati, directrice technique d'OpenAI, a déclaré dans une interview au Wall Street Journal qu'elle ne savait pas si les données d'entraînement pour le prochain générateur vidéo Sora de l'entreprise comprenaient des vidéos provenant de YouTube, Instagram ou Facebook - un aveu étrange qui a suscité beaucoup de scepticisme.
Quelques semaines plus tard, le New York Times a révélé qu'OpenAI avait ignoré les politiques de l'entreprise pour contourner les lois sur le droit d'auteur, en s'appuyant sur des outils qui transcrivent des vidéos de YouTube pour former ses chatbots d'IA.
Dans le même temps, le PDG de YouTube, Neal Mohan, a averti les entreprises d'IA que l'entraînement de modèles d'IA sur des vidéos YouTube constituerait une "violation manifeste" des conditions d'utilisation de la plateforme vidéo.
En d'autres termes, ce dernier rapport est une preuve de plus que les entreprises d'IA, dont Runway et OpenAI, jouent avec le matériel protégé par le droit d'auteur.
La question de la propriété intellectuelle restera probablement un point d'achoppement majeur dans le développement de l'IA générative, peut-être surtout lorsqu'il s'agit de modèles d'IA capables de générer des vidéos entières.
La technologie oblige même les législateurs à réexaminer le "fair use", une doctrine qui autorise l'utilisation limitée de matériel protégé par des droits d'auteur en vertu de la législation américaine. Alors que les sociétés d'IA ont déjà fait valoir que la plupart des données récupérées étaient acceptables devant les tribunaux, de nombreux détenteurs de droits d'auteur ont crié au scandale, ce qui a donné lieu à une bataille juridique féroce qui ne cesse de s'intensifier.
En associant son travail à des vidéos piratées, Runway s'est retrouvé sur la sellette.