メモ

「自律的殺人兵器」へのAI活用を禁じる誓約書にイーロン・マスクやDeepMind創業者、著名なAI研究者など2500人以上が署名


人類が直面するリスクを緩和する活動を行う非営利組織「Future of Life Institute(FLI)」が、人工知能(AI)を殺人兵器に活用することを避けるべきだという誓約書「Lethal Autonomous Weapons Pledge」を発行し、SpaceXのイーロン・マスクCEOやDeepMind共同創業者のデミス・ハサビス氏ら、AI開発に携わるそうそうたる面々が署名を行いました。

AI Companies, Researchers, Engineers, Scientists, Entrepreneurs, and Others Sign Pledge Promising Not to Develop Lethal Autonomous Weapons - Future of Life Institute
https://futureoflife.org/2018/07/18/ai-companies-researchers-engineers-scientists-entrepreneurs-and-others-sign-pledge-promising-not-to-develop-lethal-autonomous-weapons/

FLIではAIによる殺りく兵器が生み出されることは人類への脅威だとして、自律的に人を殺傷する能力を持つ兵器や武器の開発を、開発者は自主的に抑制するべきだという提言を行ってきました。今は亡きホーキング博士もFLIの趣旨に賛同し、AIの兵器への転用に警鐘を鳴らしていました。

「キラーロボットを作るな」とホーキング博士や研究者1000名以上が提言 - GIGAZINE


FLIは軍事システムにおけるAIの役割がますます重要性を増す中で、市民、政策立案者、国の指導者などが、AIの活用を「許容できる分野」と「許容できない分野」で線引きする緊急の必要性があると考えています。具体的には、人を殺傷する兵器が「人間の介入なしで」マシンの自律的な判断によって人を殺すということは許されるべきではなく、このような自律的殺傷兵器は核兵器や生物化学兵器などと同じく、使用だけでなく開発自体を規制すべきものであり、AI技術者はこのような兵器開発にAIを利用するべきではないと考えています。


自律的殺傷兵器を規制する国際的な枠組みがない中で、FLIは政府や各国のリーダーの行動を待つことなく、AI開発者などAI技術に携わる非政府組織や民間企業、技術者が声を挙げることで、AIの軍事利用を制約していこうという目的で、Lethal Autonomous Weapons Pledgeを発行しました。

Lethal Autonomous Weapons Pledgeに賛同した人や組織については以下のページで確認できます。

Lethal Autonomous Weapons Pledge - Future of Life Institute
https://futureoflife.org/lethal-autonomous-weapons-pledge/

デミス・ハサビス氏、シェーン・レッグ氏、マスタファ・シュレイマン氏のDeepMind共同創業者をはじめとして、かねてからAI脅威論を唱えてきたイーロン・マスク氏、Google Researchのジェフリー・ディーン氏、Skype共同創業者でFLI共同創業者でもあるジャン・タリン氏、カリフォルニア大学バークレー校のシュツアート・ラッセル教授、モントリアル大学のヨシュア・ベンジオ教授などを含む2512人と172の組織がLethal Autonomous Weapons Pledgeに署名しています。


FLI代表のマックス・テグマーク博士は、「私はAIのリーダーたちが議論から行動へと移り、政治家たちがこれまで実行できなかった政策を実行しようとしていることに興奮を覚えています」と述べ、署名者の総意として「自律的に人を殺傷する兵器に関する国際的なルール作り」を政府や指導者に求めています。

・関連記事
人工知能は核兵器よりも潜在的に危険、ホーキング博士が「100年以内に人工知能は人間を超える」と警告 - GIGAZINE

ロボットの悪用を防ぐ人工知能の非営利研究組織「OpenAI」がIT業界の著名な起業家や投資家らによって設立される - GIGAZINE

Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表 - GIGAZINE

プーチン大統領が「AIを制するものが世界を牛耳る」と学生に説く - GIGAZINE

ロボットによる第三次世界大戦を防ぐためイーロン・マスクらが自律型殺人兵器の使用禁止を求める - GIGAZINE

「シリコンバレーが世の終末を引き起こす」ことを「楽観主義者」のビル・ゲイツさえ危惧している - GIGAZINE

Google会長が「人工知能は世界に横たわる厄介な問題の解決にこそ役立てられる」と語る - GIGAZINE

in ソフトウェア,   ハードウェア,   メモ, Posted by logv_to