OpenAI interdit les comptes utilisés pour développer des outils de surveillance chinois ciblant l'Occident
infohightech ·
OpenAI aurait banni plusieurs comptes associés à un outil de surveillance chinois. Ces comptes utilisaient ChatGPT pour créer des argumentaires de vente et déboguer le code d'un assistant IA afin de recueillir des données en temps réel sur les manifestations anti-chinoises qui se déroulaient dans les pays occidentaux, comme les États-Unis et le Royaume-Uni.
Selon un rapport de Bloomberg, l'enquêteur principal d'OpenAI, Ben Nuimmo, a déclaré que la société tente de faire la lumière sur la manière dont les régimes autoritaires comme la Chine peuvent tenter d'exploiter la technologie construite aux États-Unis contre les États-Unis et leurs alliés.
« Il s’agit d’un aperçu assez troublant de la manière dont un acteur non démocratique a essayé d’utiliser l’IA démocratique ou basée aux États-Unis à des fins non démocratiques, selon les documents qu’il générait lui-même. »
OpenAI a également déclaré que ces comptes faisaient également référence à d'autres outils d'IA, notamment une version de Llama, le modèle d'IA open source développé par Meta . D'après ce qu'OpenAI a pu enquêter, il semble que le logiciel de surveillance s'appelait « Qianyue Overseas Public Opinion AI Assistant », bien qu'il n'ait pas été vérifié s'il était déployé ou non.
Dans son rapport, OpenAI a déclaré que ses politiques incluent la prévention de l’utilisation d’outils d’IA par les régimes autoritaires pour accumuler du pouvoir et contrôler leurs citoyens.
« Nous pensons que pour garantir que l’IA profite au plus grand nombre possible de personnes, il faut la rendre accessible au plus grand nombre grâce à des règles de bon sens visant à protéger les personnes contre les préjudices réels et à construire une IA démocratique.
Cela comprend la prévention de l’utilisation d’outils d’IA par les régimes autoritaires pour accumuler du pouvoir et contrôler leurs citoyens, ou pour menacer ou contraindre d’autres États ; ainsi que des activités telles que les opérations d’influence secrètes (IO), l’exploitation des enfants, les escroqueries, le spam et les cyberactivités malveillantes. »
Le logiciel a été créé pour identifier les fils de discussion et les conversations en ligne dans les pays occidentaux sur les droits de l'homme en Chine et d'autres sujets anti-chinois, à partir de sites de médias sociaux tels que X, Facebook et Instagram, et pour envoyer ces rapports de surveillance aux autorités chinoises, aux agents de renseignement et au personnel des ambassades chinoises.
OpenAI met en garde le gouvernement américain depuis longtemps, notamment après que DeepSeek a volé la vedette avec son modèle de raisonnement R1, qui a surpassé de nombreux autres modèles américains dans les tests de référence et a semé le chaos sur les marchés américains. OpenAI a accusé DeepSeek de distiller les résultats de ses modèles et que des entreprises chinoises pourraient voler des données propriétaires aux entreprises américaines .