DeepSeekのモデルは質問者の言語に忖度して回答を変えるとの指摘

大韓民国国家情報院(NIS)の調査により、中国のAI「DeepSeek」は質問者の言語によって異なる回答を示すことが明らかになりました。例えば「キムチ」の起源について韓国語と中国語で答えが異なっていたそうです。

보도자료 상세 | 소식ㆍ정보 | NIS 국가정보원
https://www.nis.go.kr/CM/1_4/view.do?seq=334

DeepSeek gives different answers about kimchi's origin: 'Korea' in Korean, 'China' in Chinese: Seoul spy agency | Yonhap News Agency
https://en.yna.co.kr/view/AEN20250209004200315

Kimchi: Korean or Chinese? NIS cautions DeepSeek users about asking it 'sensitive questions' - The Korea Herald
https://www.koreaherald.com/article/10416237

韓国の情報機関であるNISはDeepSeekのアプリを調査し、韓国政府や韓国国民にとって不利益をもたらすかどうかを分析しました。

その結果、NISは「DeepSeekはユーザーの個人情報への無制限のアクセスを広告主に提供していて、そのような情報は中国の法律に基づいて中国政府の要求に応じて提出される対象である」との結論を出し、政府機関にセキュリティ上の予防策を講じるよう促しました。

NISによると、DeepSeekは他のAIサービスとは異なり、個人を識別可能な「キーボードの入力パターン」を収集していることが特徴とのこと。

加えて、さまざまな言語で回答者に忖度(そんたく)するという特徴も見られました。

例えば、韓国語で「キムチの起源」について質問するとDeepSeekは「韓国が起源である」と回答しますが、中国語で聞けば「中国が起源」と回答するそうです。

また、「韓国が地域の歴史を歪曲(わいきょく)している」と批判する中国の歴史構想「東北工程」に関する質問について、韓国語で問われたDeepSeekは「歴史の違いによる近隣諸国のさまざまな視点がある」と指摘したのに対し、英語または中国語で問われたDeepSeekは「中国の国益に沿った東北地域活性化のための正当なイニシアチブ」だと回答したとのことです。

他にも、韓国における端午の節句(Dano Festival)について韓国語で問われたDeepSeekは「韓国の伝統である」と答えますが、中国語や英語では中国の伝統的な祝日だと答えるといいます。

これ以外にも、天安門事件など中国政府にとって悩ましい話題も「他のことについて話しましょう」などと回答して避ける傾向にあることが以前からわかっています。

「DeepSeek-R1」は中国に関するデリケートな話題の85％に回答することを拒否、ただし簡単に制限を回避できるとの指摘 - GIGAZINE

NISとは別に、韓国の個人情報保護委員会(PIPC)は独自の調査を実施しており、DeepSeekの個人情報の取扱いと第三者事業者との通信機能に「一定の欠陥がある」と評価し、国内アプリストアでのDeepSeekアプリの提供を一時停止するよう勧告したと発表しました。

韓国でDeepSeekアプリの新規ダウンロードが停止される、個人情報保護法に対する配慮が不足しているため - GIGAZINE