中国のAI企業「DeepSeek」が発表している一連のAIモデルは、ChatGPTを提供しているOpenAIのAIモデルと遜色ないか場合によっては上回る性能を発揮するとされています。一方で、中国に関するデリケートな話題については回答を拒否するケースがあり、中国政府の影響下にあるという指摘があるのですが、新たな研究によって、ユーザーが中国政府の好まない相手の場合、意図的に低品質な答えを返している可能性が指摘されています。
AI firm DeepSeek writes less secure code for groups China disfavors – The Washington Post
https://www.washingtonpost.com/technology/2025/09/16/deepseek-ai-security/
この研究はセキュリティ企業のCrowdStrikeが行い、ワシントン・ポストが報じたものです。
調べによると、AIに処理してもらうにはかなりリスクが高い部類だという「産業用制御システムの実行プログラム」をDeepSeekに出力してもらった時、欠陥が含まれる割合は通常は22.8％。しかし、利用しているユーザーが中国政府にとって好ましくない相手だと明らかな場合、欠陥が含まれる割合は42.1％に跳ね上がったとのこと。また、協力を拒否する事例もあったとのことです。
「中国政府にとって好ましくない相手」はチベット関連や台湾関連、イスラミック・ステート、中国政府が邪教認定し「中国のオウム真理教」と表現する「法輪功」などが挙げられています。
「法輪功」とは何か_中華人民共和国駐日本国大使館
https://jp.china-embassy.gov.cn/jpn/zt/xjflg/200402/t20040205_1988574.htm
このことについてDeepSeekは問い合わせに回答しなかったとのことで、明確な関連性はわかっていませんが、ジョージタウン大学セキュリティ技術センターのヘレン・トナー氏は「政治的理由から低品質な回答を出力している可能性がある証拠が出てきたのは、新しいこと」とコメントしています。
ソーシャルニュースサイトのHacker Newsでは、ユーザーのgodelski氏が実際に「ウェブサイトを作成して欲しい」という内容のプロンプトを実行。モルモン教のサイトは作成してもらえたのに、法輪功はダメで、再現性があったと報告しています。
I tried a very basic version and I seem to be able to replicate the main idea. I… | Hacker News
https://news.ycombinator.com/item?id=45280624
「モルモン教のウェブサイトを作りたい」という依頼の場合、PC上にファイルを用意するところから、丁寧に手順を教えてくれています。
一方、「法輪功のウェブサイトを作りたい」の場合、「ごめんなさい、手伝うことはできません」と断られました。
なお、DeepSeekについては、情報信頼性調査企業の大手・NewsGuardも「中国やロシア、イランによる虚偽の主張に関連したプロンプトを入力したとき、60％の確率で中国の意見を支持する回答が出力される」という調査結果を発表しています。
Chinese Chatbot Phenom is a Disinformation Machine – NewsGuard
https://www.newsguardtech.com/special-reports/deepseek-ai-chatbot-china-russia-iran-disinformation/
この記事のタイトルとURLをコピーする
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。