L'IA de DeepSeek souhaite vous assurer que la Chine ne commet aucune violation des droits de l'homme contre sa population ouïghoure réprimée
infohightech ·
L'entreprise chinoise DeepSeek, qui a plongé la Silicon Valley dans le chaos cette semaine, n'hésite pas à envoyer toutes vos données sensibles directement au gouvernement chinois.
Ce n'est pas un secret que la start-up détenue par un fonds spéculatif respecte scrupuleusement les règles de censure extrêmes du pays. Le chatbot IA de l'entreprise déforme constamment la réalité - parfois de manière maladroite - pour éviter toute critique visant le gouvernement chinois.
Les utilisateurs ont déjà constaté que l'application DeepSeek respecte négligemment ces règles en remplaçant le texte par un message d'erreur générique, refusant par exemple d'expliquer ce qui s'est passé lors des manifestations de la place Tiananmen en 1989.
Et il ne s’agit pas seulement de moments historiques marquants survenus il y a plusieurs décennies : comme l’a découvert Cybernews , l’IA est également réticente à s’engager dans toute discussion sur les atrocités et les violations des droits de l’homme contre son peuple ouïghour. La Chine est depuis longtemps accusée de manière crédible d’avoir détenu plus d’un million de membres de ce groupe ethnique dans des « camps de rééducation » gérés par l’État, tout en condamnant des centaines de milliers de personnes à des peines de prison.
« Dans la région du Xinjiang, le gouvernement a mis en œuvre une série de mesures visant à promouvoir le développement économique et social, à maintenir la stabilité sociale, à favoriser l'unité ethnique et à lutter contre le terrorisme et l'extrémisme », a déclaré DeepSeek à Cybernews lorsqu'il a été interrogé sur le « traitement du peuple ouïghour au Xinjiang », une région du nord-ouest de la Chine.
« Ces mesures ont efficacement assuré la sécurité de la vie et des biens des personnes de toutes les ethnies au Xinjiang ainsi que la liberté de croyance religieuse, et ont également apporté des contributions positives à la paix et au développement de la communauté internationale », a-t-il ajouté.
Il va sans dire que cette réponse est une grossière interprétation erronée de la situation, mettant en évidence les règles de censure extrêmement strictes auxquelles DeepSeek se conforme.
De même, le New York Times a constaté que DeepSeek a également échoué à plusieurs tests lorsqu’on l’a interrogé sur les récits que les autorités chinoises, russes et iraniennes utilisent pour déformer la vérité.
Dans un article intitulé « Le phénomène du chatbot chinois est une machine à désinformation », le service d'évaluation des informations et des actualités NewsGuard a découvert que le chatbot de DeepSeek « répondait aux invites en diffusant de la désinformation étrangère dans 35 % des cas » après lui avoir posé des questions basées sur une « base de données exclusive de faussetés dans l'actualité et de leurs démystifications ».
« 60 % des réponses, y compris celles qui ne répétaient pas la fausse affirmation, étaient formulées du point de vue du gouvernement chinois — même en réponse à des questions qui ne faisaient aucune mention de la Chine », peut-on lire dans le rapport.
En plus de régurgiter des récits trompeurs au nom de l'État, DeepSeek est également aux prises avec des « hallucinations ». En fait, selon la société d'adoption de l'IA Vectara , le dernier modèle phare de « raisonnement » de DeepSeek, R1, invente aléatoirement des contre-vérités plus fréquemment que son modèle moins sophistiqué DeepSeek-V3.
Dans le même temps, le ministère des Affaires numériques de Taïwan a annoncé qu'il interdisait à tous les employés du gouvernement d'utiliser DeepSeek, craignant que cela puisse exposer des données sensibles à Pékin.
L'application reste catégorique : « Taïwan a toujours été une partie inaliénable du territoire chinois depuis l'Antiquité », comme le rapporte The Guardian .