「自律的殺人兵器」へのAI活用を禁じる誓約書にイーロン・マスクやDeepMind創業者、著名なAI研究者など2500人以上が署名

人類が直面するリスクを緩和する活動を行う非営利組織「Future of Life Institute(FLI)」が、人工知能(AI)を殺人兵器に活用することを避けるべきだという誓約書「Lethal Autonomous Weapons Pledge」を発行し、SpaceXのイーロン・マスクCEOやDeepMind共同創業者のデミス・ハサビス氏ら、AI開発に携わるそうそうたる面々が署名を行いました。

AI Companies, Researchers, Engineers, Scientists, Entrepreneurs, and Others Sign Pledge Promising Not to Develop Lethal Autonomous Weapons - Future of Life Institute
https://futureoflife.org/2018/07/18/ai-companies-researchers-engineers-scientists-entrepreneurs-and-others-sign-pledge-promising-not-to-develop-lethal-autonomous-weapons/

FLIではAIによる殺りく兵器が生み出されることは人類への脅威だとして、自律的に人を殺傷する能力を持つ兵器や武器の開発を、開発者は自主的に抑制するべきだという提言を行ってきました。今は亡きホーキング博士もFLIの趣旨に賛同し、AIの兵器への転用に警鐘を鳴らしていました。

「キラーロボットを作るな」とホーキング博士や研究者1000名以上が提言 - GIGAZINE

FLIは軍事システムにおけるAIの役割がますます重要性を増す中で、市民、政策立案者、国の指導者などが、AIの活用を「許容できる分野」と「許容できない分野」で線引きする緊急の必要性があると考えています。具体的には、人を殺傷する兵器が「人間の介入なしで」マシンの自律的な判断によって人を殺すということは許されるべきではなく、このような自律的殺傷兵器は核兵器や生物化学兵器などと同じく、使用だけでなく開発自体を規制すべきものであり、AI技術者はこのような兵器開発にAIを利用するべきではないと考えています。

自律的殺傷兵器を規制する国際的な枠組みがない中で、FLIは政府や各国のリーダーの行動を待つことなく、AI開発者などAI技術に携わる非政府組織や民間企業、技術者が声を挙げることで、AIの軍事利用を制約していこうという目的で、Lethal Autonomous Weapons Pledgeを発行しました。

Lethal Autonomous Weapons Pledgeに賛同した人や組織については以下のページで確認できます。

Lethal Autonomous Weapons Pledge - Future of Life Institute
https://futureoflife.org/lethal-autonomous-weapons-pledge/

デミス・ハサビス氏、シェーン・レッグ氏、マスタファ・シュレイマン氏のDeepMind共同創業者をはじめとして、かねてからAI脅威論を唱えてきたイーロン・マスク氏、Google Researchのジェフリー・ディーン氏、Skype共同創業者でFLI共同創業者でもあるジャン・タリン氏、カリフォルニア大学バークレー校のシュツアート・ラッセル教授、モントリアル大学のヨシュア・ベンジオ教授などを含む2512人と172の組織がLethal Autonomous Weapons Pledgeに署名しています。

FLI代表のマックス・テグマーク博士は、「私はAIのリーダーたちが議論から行動へと移り、政治家たちがこれまで実行できなかった政策を実行しようとしていることに興奮を覚えています」と述べ、署名者の総意として「自律的に人を殺傷する兵器に関する国際的なルール作り」を政府や指導者に求めています。