GoogleのAIを軍事活用する極秘計画「Project Maven」の関係者による生々しい内部メールが流出

2018年3月、Googleがペンタゴン(米国防総省)に対して軍事用のAI技術を提供する極秘計画「Project Maven」の存在が明らかになり、Google社員から反対の意見が集められてサンダー・ピチャイCEOに対して嘆願書が提出されるなど、Google社内が荒れています。そんな中、Interceptが、Project Mavenの交渉に関わっていた担当者同士の内部メールを入手。Project Mavenは巨額の契約金が約束されたビッグプロジェクトで、Googleは当初からメディアに情報をかぎつけられるのを警戒していたことなどが生々しく語られています。

Leaked Emails Show Google Expected Lucrative Military Drone AI Work to Grow Exponentially
https://theintercept.com/2018/05/31/google-leaked-emails-drone-ai-pentagon-lucrative/

4000人以上のGoogle社員が「ペンタゴンへの軍事協力を止めるべき」と嘆願書に署名し、10名以上の技術者がGoogleの方針に反旗を翻して退社を決めるなど、Google社内を大きく揺るがしているProject Mavenについては、以下の記事を見ればわかります。

Google従業員3000人以上が「国防総省への協力をやめるべき」とピチャイCEOに嘆願書を出す - GIGAZINE

Interceptが入手したメールは、Googleの防衛セールスチームのメンバーのアイリーン・ブラック氏が2017年9月に同僚のスコット・フローマン氏に対して宛てたもの。ブラック氏のメールには、ペンタゴンがハイテク企業に対して巨額の費用で軍事技術開発コンペを行っており、Googleも参加していることがつづられているとのこと。ブラック氏は「5カ月間の長いAIレース」と表現しており、Google以外にもAmazonが競争に参加していたことがわかっています。

ブラック氏のメールでは「取引額の合計は2500万から3000万ドル(約27億から33億円)で、そのうちGoogleに対しては向こう18カ月で1500万ドル(約16億円)。プログラムが成長すれば、年あたり2億5000万ドル(約270億円)になると予想できます。このプログラムは先週送った9月13日のメモと直接関係があります」と書かれています。なお、「9月13日のメモ」はInterceptが入手したメールに添付されていなかったとのこと。

Bloomberg(キャッシュ)によると、このメールから1カ月後にブラック氏の予想通り、ペンタゴンはGoogleのProject Mavenに対して追加的に1億ドル(約110億円)を予算から割り当てたとのこと。なお、New York Timesによると、メールのやりとりをしていたブラック氏、フローマン氏の上司のGoogle Cloud総責任者のダイアン・グリーン氏は「Project Mavenで納入するシステムは『たった』900万ドル(約10億円)であり相対的には小さな取引です」と説明していましたが、2017年9月の時点で、GoogleのMaven関係者ははるかに巨額の契約になることを確信していたことがうかがえます。

かつて「Don’t be evil(邪悪になるな)」という社是を掲げていたGoogleが、軍事技術開発に関わることについてブラック氏は「世間の目」を気にしていたことがメールに記されています。ブラック氏はメールで「これ(Project Maven)はGoogleにダメージになるあらゆる要素を探しているメディアにとって『血の滴る肉』です。たぶん、あなたはイーロン・マスクがした『AIが第三次世界大戦を引き起こす』というコメントについて知っているでしょう。もし、Googleが秘密裏にAI兵器や防衛産業にとって武器となり得るAI技術を開発しているというテーマをメディアが取り上げ始めたら、どんなことが起こるのか計り知れません。Google Cloudでは2017年に『AIを民主化する』というテーマを打ち出していたし、ダイアンと私は企業にとって人道的なAIについて話してきました。このような肯定的なイメージを守るのに、本当に細心の注意を払ってきましたから」と書いており、Project Mavenの存在が明るみになることを警戒していたことがうかがわれます。

また、ブラック氏は「(Project Mavenの)契約は直接Googleにするのではなく、パートナーのECS Federalを通して行います。また、相互の同意なくプレスリリースが出されるのは避けるべきだし、(ペンタゴンは)Googleの承認なしには何も言わないようになっています」とも書いており、Googleによる軍事技術への協力が明るみになるのを予防する措置が取られていたことが推測できます。

・つづき
Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表 - GIGAZINE