Alors que les générateurs de texte en image et les chatbots intelligents continuent d’impressionner les gens, la Chine a rapidement expliqué ce que les gens peuvent faire avec les outils basés sur de puissants modèles d’IA. Les régulateurs du pays frôlent clairement la prudence en ce qui concerne les conséquences de l’IA générative. C’est un contraste avec les États-Unis, qui ont jusqu’à présent largement laissé le secteur privé établir ses propres règles, ce qui soulève des questions éthiques et juridiques .
L’administration du cyberespace de Chine, le principal organisme de surveillance d’Internet du pays, a récemment adopté une réglementation sur la technologie de « synthèse profonde », qu’elle définit comme « une technologie qui utilise l’apprentissage en profondeur, la réalité virtuelle et d’autres algorithmes de synthèse pour générer du texte, des images, de l’audio, de la vidéo , et des scènes virtuelles. Le règlement s’applique aux fournisseurs de services qui opèrent en Chine et entrera en vigueur le 10 janvier.
Rien dans l’ensemble de règles ne surprend, car les restrictions sont pour la plupart conformes à celles qui supervisent d’autres formes de services Internet grand public en Chine, tels que les jeux, les médias sociaux et les courtes vidéos. Par exemple, il est interdit aux utilisateurs d’utiliser l’IA générative pour se livrer à des activités qui mettent en danger la sécurité nationale, nuisent à l’intérêt public ou sont illégales.
De telles restrictions sont rendues possibles par l’appareil de vérification du nom réel de la Chine. L’anonymat n’existe pas vraiment sur Internet chinois car les utilisateurs sont généralement invités à lier leurs comptes en ligne à leurs numéros de téléphone, qui sont enregistrés avec leurs identifiants gouvernementaux. Les fournisseurs d’IA générative sont également tenus de vérifier les utilisateurs à l’aide de numéros de téléphone portable, d’identifiants ou d’autres formes de documentation.
Sans surprise, la Chine veut également censurer ce que les algorithmes peuvent générer. Les fournisseurs de services doivent auditer le contenu généré par l’IA et les invites de l’utilisateur manuellement ou par des moyens techniques. Baidu, l’un des premiers à lancer un modèle texte-image chinois, filtre déjà les contenus politiquement sensibles . La censure est une pratique courante dans toutes les formes de médias en Chine. La question est de savoir si la modération de contenu sera capable de suivre le volume de texte, d’audio, d’images et de vidéos généré par les modèles d’IA.
Le gouvernement chinois devrait peut-être être crédité d’être intervenu pour empêcher l’utilisation abusive de l’IA. D’une part, les règles interdisent aux gens d’utiliser la technologie de synthèse profonde pour générer et diffuser de fausses nouvelles. Lorsque les données utilisées pour la formation à l’IA contiennent des informations personnelles, les fournisseurs de technologie doivent respecter la loi sur la protection des informations personnelles du pays.
Les plateformes devraient également rappeler aux utilisateurs de demander l’approbation avant de modifier le visage et la voix des autres à l’aide de la technologie de synthèse profonde. Enfin, cette règle devrait apaiser certaines inquiétudes concernant la violation du droit d’auteur et la tricherie académique : dans le cas où le résultat de l’IA générative risque de prêter à confusion ou d’être mal identifié par le public, le fournisseur de services doit placer un filigrane à un endroit bien en vue pour informer le public qu’il est un travail à la machine.
Les utilisateurs qui enfreindraient ces réglementations s’exposeront à des sanctions. Les opérateurs de services sont priés de tenir des registres des comportements illégaux et de les signaler aux autorités compétentes. En plus de cela, les plates-formes doivent également émettre des avertissements, restreindre l’utilisation, suspendre le service ou même fermer les comptes de ceux qui enfreignent les règles.
http://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm
