YouTube annonce son intention de lutter contre les erreurs de conception de l'IA.

Nul n'ignore que YouTube est envahi par des contenus de piètre qualité générés par l'IA . La plateforme a fait des tentatives pour endiguer le flot d'images artificielles de piètre qualité et indique désormais qu'elle prend un peu plus au sérieux l'application de ses propres critères (encore relativement laxistes) aux vidéos réalisées avec cette technologie.

Mercredi, la plateforme appartenant à Google a annoncé des modifications concernant l'étiquetage des contenus générés par l'IA. La principale nouveauté réside dans la visibilité accrue de ces étiquettes : désormais, les vidéos YouTube classiques afficheront la mention « IA » directement sous le lecteur vidéo, au lieu de la dissimuler dans la description. Quant aux Shorts, son format de vidéos verticales inspiré de TikTok (un format particulièrement vulnérable à la diffusion de contenus de piètre qualité, notamment ceux se prétendant éducatifs ), l'étiquette « IA » apparaîtra en surimpression au bas de la vidéo.

Mais les tactiques de YouTube pour endiguer les contenus inappropriés s'intensifient de façon encore plus significative. Dès ce mois-ci, la plateforme va commencer à détecter les signes d'utilisation d'une IA « photoréaliste » afin d'étiqueter automatiquement les vidéos suspectes. Auparavant, les étiquettes IA n'étaient apposées que si l'auteur de la mise en ligne choisissait de les divulguer.

YouTube n'a pas précisé quels systèmes il utilisera pour détecter le contenu généré par l'IA, mais comme d'autres entreprises, il a adopté C2PA, une norme permettant d'intégrer des données de provenance dans le contenu généré par l'IA, et SynthID, un outil développé par Google qui appose un filigrane sur ce contenu.

Le géant de la vidéo affirme que les mentions légales concernent les contenus « photoréalistes et modifiés ou générés de manière significative par l'IA ». De toute évidence, l'entreprise comprend les risques liés à la prolifération de contenus truqués par l'IA d'un réalisme trompeur sur sa plateforme, mais elle n'envisage pas de condamner systématiquement toutes les formes de ce type de contenu.

Les contenus utilisant une IA de manière irréaliste — comme ces vidéos d'animation absurdes et de piètre qualité destinées aux enfants — ne seront pas étiquetés de façon aussi visible et conserveront l'ancienne étiquette, discrètement intégrée à la description. Les utilisations plus ponctuelles de l'IA ne seront pas non plus mises en avant.

Quoi qu'il en soit, au-delà de la potentielle stigmatisation liée à l'utilisation intensive de l'IA, YouTube ne cherche pas à pénaliser les contenus qui y ont largement recours. Les modifications « visent à concilier transparence et contrôle des créateurs », mais elles ne « changeront ni la manière dont une vidéo est recommandée, ni son éligibilité à la monétisation », précise l'annonce.

https://futurism.com/artificial-intelligence/youtube-scanning-labeling-ai-slop