Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表

by Robert Scoble

「開発するAI技術を軍事技術に転用している」というGoogle従業員からの批判を受けて、Googleが「AI技術開発の原則」を発表しました。ここには、AI技術を開発する目的7つだけでなく、「兵器開発には使わない」など具体的な例を挙げて、自らを律していくことが宣言されています。

AI at Google: our principles
https://www.blog.google/topics/ai/ai-principles/

Googleが米国防総省(ペンタゴン)にAI技術を提供していたことにGoogle従業員が反発していた一連の事件については、以下の記事で確認できます。

Googleはペンタゴンが開発するドローン用の映像解析AIを極秘で手伝っている - GIGAZINE

Google従業員3000人以上が「国防総省への協力をやめるべき」とピチャイCEOに嘆願書を出す - GIGAZINE

GoogleのAIを軍事活用する極秘計画「Project Maven」の関係者による生々しい内部メールが流出 - GIGAZINE

AI技術で世界をリードするGoogleの軍事技術協力に対しては世間からの風当たりは強く、何よりも4000人以上のGoogle従業員からの強烈な反発もあり、ついにサンダー・ピチャイCEO自ら「GoogleのAI利用の原則」を宣言する事態に追い込まれました。

Googleは、「AIはすでにGoogleサービスで実用化している以上に様々な分野に活用の場を広げており、今後もさらに活用シーンが増える」とし、それに伴ってAI技術が社会に与える影響は大きくなるだろうと述べています。そして、AI技術開発のリーダーとして、AI技術に関する明確な指針として、以下の通り宣言しています。

◆AIを開発すべき目的

by Pietro & Silvia

・1：社会的に有益であること
潜在的なAI技術の開発と利用にあたっては、幅広い社会的、経済的な要因を考慮し、予測可能なリスクや失敗を大幅に上回る「可能性」があると判断した場合に、AI技術を開発する。

・2：不公平な偏見を助長しない
アルゴリズムやデータベースは「不公平なバイアス(偏見)」を受けやすいもので、そのメカニズムは複雑であることを認めている。人種、民族、性別、国籍、所得、性癖、能力、政治思想、宗教的信念などの、特にセンシティブなことへの不当な影響を与えないように努力する。

・3：創造もテストも安全に
意図しない害悪が生じるのを避けるために、「安全」への配慮を継続する。制限された環境下でAI技術をテストし、サービス展開後も監視する。

・4：人に対して責任を持つ
適切なフィードバック、関連する説明、訴求の機会を設けられるようにAIシステムを設計する。

・5：プライバシーに配慮した設計
AI技術の開発、利用にプライバシーの原則を取り入れる。通知・同意の機会を提供し、プライバシー保護の機能を備えたアーキテクチャを奨励し、データ利用について適切な透明性とコントロール性をもたせる。

・6：高い科学的美徳の基準を支持する
技術革新は科学的な検証、オープンな調査、知的な厳格性、完全性、協調の上に成り立つ。AIツールは生物学、化学、医学、環境学などの重要な分野における研究・知見を切り開く可能性を持つことに鑑みて、AI開発では科学的美徳に対して高い基準の保持を目指す。そして、科学分野における思慮深いリーダーシップを促進すべく、様々な関係者と協力していく。

・7：これらの原則に沿った利用ができるように努める
AI技術の開発では「技術の主たる目的・利用法とどれだけ関係があるか。悪用の可能性があるか」「技術が独創的であるか、より一般的な利用可能性があるか」「社会に大きな影響を与えるか」「一般的なツールを提供しているか、ツールを統合しているか、ソリューションを発展させているか」などの要素を考慮する。

これらの「AIを開発する目的」に加えて、「AIを開発しない分野」についても明らかにしています。

◆開発しないAI技術
・1：大きな害悪を引き起こす、または引き起こす可能性が高い技術
・2：人々を直接傷つける、または傷つけることを容易にすることを目的とする、兵器その他の技術
・3：国際的な規範に違反する形での情報の収集と利用
・4：国際法や人権の原則に反する目的を持つ技術