中国軍の研究者がMetaのAIをベースに軍事利用を想定したAIモデルを開発中との報道

中国人民解放軍と関係のある中国のトップ研究機関である軍事科学院が、MetaのAIモデルである「Llama」を使用して軍事用途に使用できるAIモデルを開発していることが明らかになりました。

Exclusive: Chinese researchers develop AI model for military use on back of Meta's Llama | Reuters
https://www.reuters.com/technology/artificial-intelligence/chinese-researchers-develop-ai-model-military-use-back-metas-llama-2024-11-01/

Report: Chinese researchers used Llama 13B to build chatbot optimized for military use - SiliconANGLE
https://siliconangle.com/2024/11/01/report-chinese-researchers-used-llama-13b-build-chatbot-optimized-military-use/

Chinese army scientists use Meta technology to create 'military AI'
https://www.telegraph.co.uk/business/2024/11/01/chinese-scientists-use-meta-technology-create-military-ai/

Chinese researchers build military AI using Meta’s open-source Llama model — ChatBIT allegedly performs at around 90% of the performance of OpenAI GPT-4 LLM | Tom's Hardware
https://www.tomshardware.com/tech-industry/artificial-intelligence/chinese-researchers-build-military-ai-using-metas-open-source-llama-model-chatbit-allegedly-performs-at-around-90-percent-of-the-performance-of-openai-gpt-4-llm

Report: China Turns Meta Llama Into a Military AI | Extremetech
https://www.extremetech.com/defense/report-china-turns-meta-llama-into-a-military-ai

ロイターが確認した2024年6月に公開された論文では、中国人民解放軍の関連研究機関である軍事科学院所属の研究員が、MetaのAIモデルであるLlamaの初期バージョンをベースに「ChatBIT」と呼ばれるAIモデルが紹介されています。研究チームはMetaが開発したパラメーター数130億のAIモデル・Llama-13Bに、独自のパラメーターを組み込むことで軍事特化のAIモデル・ChatBITを構築したそうです。なお、論文ではChatBITについて「情報を収集・処理し、軍事作戦時の意思決定に正確で信頼性の高い情報を提供すること」が目的とされています。

論文では「ChatBITは軍事分野での対話と質疑応答タスクに最適化されています」「将来的には、技術の改良により、ChatBITは情報分析に適用されるだけでなく、戦略計画、シミュレーション訓練、指揮決定にも応用されるでしょう」とも説明されています。

また、ChatBITはOpenAIのチャットAIであるChatGPTの約90％の性能を有しており、他のAIモデルよりも優れているとアピールされているそうです。ただし、研究者はChatBITのパフォーマンスをどのように定義したのかや、これが実際に運用されているのかどうかなどについては詳細に説明していません。

AIを含む中国の新興技術や軍民両用技術を専門とするジェームズタウン財団の準研究員であるサニー・チュン氏は、「中国人民解放軍の軍事専門家が、オープンソースの大規模言語モデル(LLM)、特にMetaのLLMを軍事目的で体系的に研究し、活用しようとしているという実質的な証拠が示されたのは今回が初めてのことです」とロイターに語りました。

MetaはLLaMAを含む複数のAIモデルをリリースしていますが、ライセンスを取得することを義務付けるなど、AIモデルの使用に独自の制限を設けています。Metaの利用規約では、AIモデルを「軍事、戦争、核産業、スパイ活動」などに利用すること、「暴力を扇動し促進すること」を目的とした武器やコンテンツの開発に使用することが禁じられています。

Metaの公共政策担当ディレクターであるモリー・モンゴメリ氏は、「中国人民解放軍によるMetaのモデルの使用は許可されておらず、当社の利用規定に反するものです」と述べました。

さらに、Metaの広報担当者は「AIをめぐる世界的な競争において、中国がAIでアメリカを追い抜くためにすでに1兆ドル(約150兆円)以上を投資していることを考えると、アメリカのオープンソースモデルの単一かつ時代遅れのバージョンが果たす役割は無意味です」と語り、中国が利用しているAIモデルが時代遅れなものであることを強調しています。

ロイターは中国側の関係者および関係当局にもコメントを求めていますが、記事作成時点では返答が得られていません。

ロイターはChatBITの機能や計算能力を確認できなかったと説明していますが、「ChatBITには10万件の軍事対話記録しか組み込まれておらず、他のLLMと比較してこれは圧倒的に少ない数字」と指摘。MetaのAI研究担当ヴァイスプレジデントであるジョエル・ピノー氏も、「数兆個のトークンで訓練されたほとんどのモデルに比べれば、この数字(軍事対話記録10万件)は非常に少ないです。さまざまな機能の面で、実際に何を達成しているのか疑問に思います」と語りました。

ロイターが確認した別の学術論文では、中国航空工業集団に所属する2人の研究者が中国人民解放軍とつながりのある企業でLlama 2を「空中電子戦妨害戦略の訓練」に使用していると説明されています。また、解放軍報でも2024年4月に「AIを用いて武器や装備の研究開発を加速し、戦闘シミュレーションの開発を助け、軍事訓練の効率を向上させる方法」についての論評が発表されており、中国政府がAIを軍事利用するべく研究を進めているのは間違いないとロイターは報じています。

ジョージタウン大学の安全保障・新興技術センター(CSET)で主任アナリストを務めるウィリアム・ハンナス氏は、ロイターに対して「中国をクッキージャーから締め出すことはできるでしょうか？いいえ、できるとは思えません」と述べ、AI分野における中国の躍進を止めることは困難であると言及。CSETが2023年に公開した論文によると、汎用人工知能(AGI)に関する論文を発表した中国の研究機関の数は370にも上ります。また、ハンナス氏は「中国最高の科学者と、アメリカ最高のAI科学者の間では、あまりにも多くの協力関係が築かれています」と言及し、中国人研究者をAI研究から除外することが難しくなっているとも語りました。

この報道の後、Metaは現地時間の2024年11月4日に国家安全保障アプリケーションの開発に取り組むアメリカ政府および請負業者に、Llamaを提供すると発表しました。具体的には、Accenture Federal Services、Amazon Web Services、Anduril、Booz Allen、Databricks、Deloitte、IBM、Leidos、Lockheed Martin、Microsoft、Oracle、Palantir、Scale AI、Snowflakeなどの企業と提携し、政府機関にLlamaを提供するとしています。MetaはオープンソースAIモデルの責任ある使用が、「世界的にセキュリティを促進し、AIリーダーシップをめぐる世界的な競争においてアメリカの地位を確立するために役立つ」と言及しました。

Open Source AI Can Help America Lead in AI and Strengthen Global Security | Meta
https://about.fb.com/news/2024/11/open-source-ai-america-global-security/