アメリカ国防総省が主導する軍用AIプロジェクト「Project Maven」はすでに実用段階に、ただし敵によるデータ汚染の懸念も

アメリカ国防総省は、機械学習で戦場データを分析して標的をロックオンしたり戦術を提案したりする軍用AIプロジェクト「Project Maven」を進めており、すでに実戦にも試験的に投入されていると、経済紙のBloombergが報じています。

AI Warfare Becomes Real for US Military With Project Maven
https://www.bloomberg.com/features/2024-ai-warfare-project-maven/

Project MavenはAIを軍事活用するという国防総省の計画で、2017年に発足しました。

Project Maven DSD Memo 20170425.pdf
https://dodcio.defense.gov/Portals/0/Documents/Project%20Maven%20DSD%20Memo%2020170425.pdf

当初はGoogleが技術提供を行っていましたが、社内からの猛反発を受け、Googleは「AI技術を兵器開発に使わない」と宣言し、2019年を最後に契約を更新しないことを決定しました。

Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表 - GIGAZINE

しかし、Googleが撤退したあともなおProject Mavenは進められており、記事作成時点ではアメリカのデータ分析企業であるパランティア・テクノロジーズが主要なシステムを設計しているとのこと。また、Amazon Web ServicesやMicrosoftなどの10社も貢献しているそうですが、Bloombergの取材に対していずれの企業もコメントの要請に応じませんでした。

Project Mavenでは、「Maven Smart System」と呼ばれるAIシステムが地上や空中から収集された画像やビデオなどの膨大なマルチメディアデータを分析します。AIが画像認識やオブジェクト検出、動きの追跡などを行い、その分析結果からパターンを識別し、重要な情報を特定します。

さらに、AIは分析された情報を軍の指揮官や作戦部隊に迅速に提供します。これにより、迅速な意思決定や作戦行動が可能になります。加えて、AIは運用中のデータと結果から学習し、アルゴリズムやシステムを改善するためのフィードバックループを行い、システムの性能や精度を向上させます。

Project Mavenがスタートした初期の頃は、AIが行っていたのは画像や動画の解析程度でしたが、悪天候や暗闇でも見ることができるレーダーシステムや、熱を検出する赤外線センサーからのデータを組み込むことができるようになったことで、エンジンや兵器工場などを探し出すことができるようになりました。

また、IPアドレスやソーシャルメディアタグ、地理位置情報を相互参照することで、非視覚的な情報も分析できるようになったとのこと。アメリカ陸軍の上級将校であるジョーイ・テンプル氏によれば、Project MavenのAIによる支援があれば、1時間で最大80のターゲットを捕捉できるようになったそうです。

2023年、国防総省はMaven Smart System開発の主要な責任を、地図と画像分析を専門とする国家地理空間情報局(NGA)に委ねました。NGAに引き継がれてから、Maven Smart Systemは識別精度が大きく向上したそうで、Project Mavenは開発中のプロジェクトから「program of record」に指定されたとのこと。「program of record」とは特定の計画やプロジェクトが公式に認定されて予算の割り当てを受けることを示します。

2022年2月にロシアがウクライナに侵攻した際、アメリカ陸軍の担当技官とMaven Smart Systemがドイツの駐屯地に配備され、ウクライナの支援に使われたとのこと。Maven Smart Systemを使ってロシア軍の装備の位置をウクライナ軍に提供し、ウクライナ軍はGPS誘導を使って標的をミサイルで破壊したとBloombergは報じています。

ただし、Maven Smart Systemは学習するデータの質や量によって判断精度が左右されます。中東の砂漠における状況判断だと、人間だと84％の確率で正しい判断を下しているのに対し、Maven Smart Systemだと60％程度だったとのこと。これは、AIがトラックと木や谷を混同してしまうからだとのこと。軍関係者は「Maven Smart Systemのアルゴリズムを使う利点はあくまでも判断を下すまでのスピード向上」と述べており、戦術的な部分で判断を下すレベルまでは到達していない模様。

また、アメリカやその同盟国がMaven Smart SystemのようなAIに依存するようになると、敵対国が訓練データにわざとエラーデータを混ぜたり、ソフトウェアのアップデートをハッキングしたりして、AIを弱体化させようとする可能性もあります。

特にアメリカ軍が懸念しているのが中国です。中国は機械学習技術で先行しており、その能力を軍事利用しているのではないかと懸念されています。アメリカ政府が2023年10月に中国へのAI向け半導体部品の輸出制限を強化したのも、この懸念が背景にあるとBloombergは指摘しています。

アメリカが中国へのAIチップ輸出制限を強化しNVIDIA製チップの輸出が困難に - GIGAZINE

2023年、国防総省は、技術的なシステムやアルゴリズムが行う意思決定や行動に対して、人間が監視、評価、必要に応じて介入するように支持する命令を出しました。これはMaven Smart Systemではなく、人間が最終的な決定権を持ち、システムの判断や提案に対して責任を持つことを強調しています。

軍関係者は、AIは人間の意志決定に勝るものではないと述べています。NGAの長官であるフランク・ウィットワース海軍中将は、「アメリカ軍のAIシステムは常に人間が監督し、武力紛争法を順守します。敵を爆破したり射殺したりするかどうかを機械に判断させる計画はありません」と語りました。