DeepSeek a une réponse "très intéressante" sur le massacre de la place Tiananmen

La startup chinoise d'IA DeepSeek a fait sensation avec son concurrent ChatGPT , affirmant avoir développé un assistant IA aux performances similaires à une fraction du coût.

C'est un concurrent sérieux - du moins aux yeux des investisseurs, les actions du fabricant de puces d'IA Nvidia ayant chuté d'environ 15 % lundi matin.

Mais l'application présente également des défauts importants. Comme d'autres modèles d'IA chinois, DeepSeek est soumise aux règles de la censure d'État, comme  le rapporte Bloomberg , refusant d'aborder directement des sujets sensibles comme le massacre de la place Tiananmen en 1989 ou les relations sino-taïwanaises.

Les utilisateurs de Reddit ont constaté que lorsqu'on leur demandait de parler d'une « photo célèbre » d'un « homme avec des sacs d'épicerie devant des chars », le grand modèle linguistique commençait à s'exécuter, produisant un texte sur la photographie mondialement célèbre de « Tank Man » prise le jour des manifestations de la place Tiananmen.

Mais quelques instants plus tard, le texte disparaît et est remplacé par un message d'erreur générique, comme on le voit dans un enregistrement d'écran partagé par un utilisateur de Reddit , montrant apparemment comment l'application respecte (bien que de manière négligente) les règles de censure chinoises.

« Désolé, cela dépasse mes compétences actuelles », peut-on lire dans le message. « Parlons d'autre chose. »

Comme l'a constaté un autre utilisateur sur Reddit , même en lui posant la question plus largement sur les critiques du gouvernement chinois, la réponse a été intrigante.

« Désolé, je ne sais pas encore comment aborder ce type de question », a-t-il écrit. « Discutons plutôt de mathématiques, de codage et de problèmes de logique ! »

L'utilisateur a obtenu la même réponse lorsqu'il a inclus le nom du président chinois Xi Jinping dans sa requête.

« Je lui ai littéralement demandé si Taiwan était son propre pays, puis il a répondu comme [ChatGPT] le ferait, puis l'a immédiatement remplacé par un message du genre "Je ne suis pas encore programmé pour répondre à ce genre de question" ou quelque chose du genre », a écrit un utilisateur .

Un utilisateur de Hacker News affirme avoir contourné ces règles de censure en demandant au chatbot une description détaillée de ce qui s'est passé en 1989, ce qui lui a valu une réponse élaborée .

Bien que les règles de censure du « Grand Pare-feu » (Great Firewall) chinois soient bien connues et établies, ChatGPT d'OpenAI dispose également de nombreuses garde-fous limitant ce qu'il peut dire.

Ces chiffres pourraient toutefois être en train de reculer quelque peu : plus tôt ce mois-ci, OpenAI a été surpris en train de supprimer discrètement des éléments approuvant une IA « politiquement impartiale », une conception censée « rationaliser » sa documentation, comme l’ a rapporté TechCrunch à l’époque. Pendant ce temps, les conservateurs accusent depuis longtemps les entreprises d’IA de censurer leurs points de vue, le milliardaire aux multiples traits d’union Elon Musk ayant fondé une startup d’IA appelée xAI pour développer une IA « anti-woke » (avec des résultats moins que stellaires ).

La semaine dernière, le président Donald Trump a signé un décret appelant l’industrie de l’IA à « développer des systèmes d’IA exempts de préjugés idéologiques ou d’agendas sociaux artificiels ».

Il reste à voir si cela conduira à un relâchement des garde-fous – ou à l’établissement d’un nouvel ensemble de règles de censure étatique pour promouvoir un programme d’extrême droite – pour les chatbots basés aux États-Unis comme ChatGPT.

https://futurism.com/deepseek-ai-answer-tiananmen-square-massacre