En Chine, DeepSeek crée déjà la désillusion

“Les absurdités de DeepSeek inondent l’Internet chinois”, quelques semaines après que la plateforme a été au sommet de sa gloire. Ce chatbot d’intelligence artificielle (IA) a détrôné d’autres applications concurrentes en nombre de téléchargements dans l’App Store, bouleversant ce secteur jusque-là dominé par les firmes américaines.

S’il suscite de la défiance dans le reste du monde, des critiques émergent aussi en Chine. Lan Xi, blogueur et chroniqueur scientifique et technologique renommé, dénonce notamment sur son compte WeChat la “grave pollution de l’environnement informationnel” de l’Internet chinois dont l’outil serait responsable.

“Les premiers utilisateurs se sont fait avoir”

Il est, logiquement, délicat d’attaquer la dernière coquetterie chinoise en matière d’IA, source de fierté nationale dans l’empire du Milieu. L’écrivain chinois a tout de même des exemples concrets avec “plein d’erreurs factuelles, mais tellement trompeuses”. À tel point que nombre de ses amis ont cru de fausses informations livrées par le modèle de raisonnement IA baptisé DeepSeek-R1 et les ont partagées “avec beaucoup d’enthousiasme”.

“Prudence ! Les premiers utilisateurs de DeepSeek se sont fait avoir !” avertit également Zhigu Qushi, nouveau média économique en ligne. L’article relate la déception d’un professeur de Guangzhou qui juge “DeepSeek peu fiable pour la recherche académique”. Ce dernier, qui souhaitait profiter de ce nouvel outil afin de rechercher des informations sur la présence du “cantonais dans le monde et la diffusion de la langue et de la culture cantonaises”, a découvert que le nom d’un auteur donné par DeepSeek était faux, ainsi qu’une date de publication et une maison d’édition citées par le chatbot.

Selon l’article, il n’est pas gêné par les “erreurs factuelles” ou les “résultats de recherche erronés”, mais il est effrayé par les “inventions” de DeepSeek.

En réponse à un blogueur qui souhaitait savoir pourquoi il ne pouvait pas aller directement de la partie nord à la partie sud de l’axe routier menant de Huancheng à Xi’an (centre de la Chine) au lieu de faire un détour, DeepSeek a ainsi expliqué que c’était en raison de la “zone d’exclusion de circulation”, signalée sur le “plan de protection de la ville historique et culturelle de Xi’an (2020-2025)”. Et ce afin de “protéger les reliques culturelles et d’éviter les vibrations excessives” dues à la circulation.

DeepSeek a même livré des “données spatiales précises, telles que l’augmentation de la distance qui se répercute sur la profondeur de transmission des vibrations”. Or cette réponse, “apparemment extrêmement professionnelle et bien raisonnée”, était en fait “inventée”. Ces “zones d’exclusion de circulation” n’existent pas dans le “plan” indiqué.

Les “hallucinations” prononcées de DeepSeek-R1

Bien que cette “illusion de l’IA” existe également chez les concurrents de DeepSeek, à l’image du robot conversationnel ChatGPT (développé par OpenAI) qui a aussi des “hallucinations”, l’article de Zhigu Qushi estime que celles de DeepSeek-R1 sont plus prononcées que celles de ses pairs.

Pour des raisons similaires, Liu Su, célèbre auteur scientifique, a annoncé la désinstallation de DeepSeek de son compte WeChat, “Le monde de la science et de la technologie de Liu Su”. Liu a également pointé du doigt la “censure excessive” exercée par l’outil d’IA chinois, observant que DeepSeek a refusé de répondre à “de nombreuses questions qui ne sont pourtant pas taboues” dans le pays, alors que ses concurrents le faisaient correctement.