高性能AIモデルの開発が中国に集中していることで「政治的な検閲が起きる可能性が非常に高い」とAI開発プラットフォームのCEOが言及

AI開発が世界的に加速する中で、中国のオープンソースAIモデルがコーディングや推論などのさまざまなAIタスクで優れたパフォーマンスを発揮しています。しかし、「AI開発のGitHub」とも呼ばれるプラットフォームのHugging FaceのCEOであるクレメント・デラング氏は、中国の高性能オープンソースAIをベースに開発すると、検閲による予期せぬ不具合が生じる可能性があると指摘しました。

Hugging Face CEO has concerns about Chinese open source AI models | TechCrunch
https://techcrunch.com/2024/12/03/huggingface-ceo-has-concerns-about-chinese-open-source-ai-models/

Western AI Firms Are Worried About ‘Censorship’ In China's AI Models | CCN.com
https://www.ccn.com/news/technology/western-ai-firms-censorship-china-model/

デラング氏はビジネス特化SNSであるLinkedInの投稿で、2025年のAIに関する6つの予測を述べました。予測には、「AIに関する初の大規模な抗議活動が行われる」「パーソナルAIロボットが少なくとも10万台予約注文される」などAIの発展について述べられたほか、「オープンソースAI競争をリードした結果、中国が2025年に世界のAI競争をリードし始めるでしょう」と中国の成長について言及しています。

実際に、2024年時点で中国のAI企業はAI開発の最前線を走っています。2023年に汎用人工知能(AGI)の開発を目指して設立されたDeepSeek(深度求索)は、OpenAIの推論モデル「o1-preview」に匹敵し、場合によっては上回る能力を発揮するとされる大規模言語モデル「DeepSeek-R1-Lite-Preview」を2024年11月に発表しました。R1-Lite-Previewはオープンソース版とAPIもリリースする予定となっており、今後のAI開発のベースになる可能性があります。そのほかにも、AlibabaやMoonshot AIといった中国のAI企業が、オープンソース開発に注力することで、AI分野で急速な進歩を遂げています。

中国のAI企業DeepSeekがOpenAI o1に匹敵する推論AIモデル「DeepSeek-R1-Lite-Preview」公開、オープンソース化する計画も - GIGAZINE

しかし、テクノロジー系メディア・TechCrunchが実施したテストによると、R1-Lite-Previewは習近平主席、天安門広場、中国が台湾に侵攻した場合の地政学的な意味合いに関する質問への回答を拒否したとのこと。中国で開発されたAIモデルは、「中国政府が敏感事項であるとみなすトピック」を広範囲に検閲している可能性が高くなるとTechCrunchは指摘しました。

デラング氏は同様の懸念を自身が参加するポッドキャストで語りました。デラング氏は「中国製AIモデルを基盤に作られたチャットボットに対して天安門事件について質問しても、フランスやアメリカで開発されたシステムと同じようには返答してくれないでしょう。逆に、中国のような国がAIに関して圧倒的に高水準になった場合、西洋諸国が広めてほしくないと思うような特定の文化的側面を広めることが可能になります」と指摘しました。

他の大手AI企業も中国のAIモデルに反対を表明しています。OpenAIの研究員であるスティーブン・ハイデル氏は、DeepSeekが天安門事件について回答しない反応を受け、中国のAI検閲を批判するミーム画像をXに投稿しました。また、OpenAIのサム・アルトマンCEOは2023年に「我々は権威主義的な政府がAIモデルを開発することを非常に心配している」と懸念を表明しています。

デラング氏によると、AIモデルには開発された国の思想が少なからず含まれるため、トップクラスのオープンソースモデルが中国や他の国に集中していることが問題であるそうです。デラング氏は「AIがすべての国に分散されていること、つまり、他の国よりもずっと強い国が1つか2つ存在している状況を避けることが重要です」と語りました。