正義のための殺人ドローンが一般人を次々に殺し出すまでのシナリオを描いた近未来ムービー「Slaughterbots(スローターボッツ)」

人工知能(AI)の開発によって自律的に動くロボットや自動運転車の開発が進んでいます。そんな中、「自律的に人を殺すロボット」が開発されることを危険視する動きがあり、SpaceXのイーロン・マスクCEOやDeepMind共同創業者のデミス・ハサビス氏らが誓約書に署名を行ったほど。もし「自律的な殺人ロボット」が開発されたら何が起こるのか、という1つの未来のシナリオがYouTubeに公開されています。

Slaughterbots - YouTube

大きなスクリーンを背景に、壇上に立つ男性。テクノロジー企業の発表会でよく見かける光景です。

男性は「悪人を排除する」ためのドローン技術について語っています。

男性が「新しい技術」として紹介するのが……

空中に浮かぶ小型ドローン「Slaughterbots（スローターボッツ）」

Slaughterbotsが捉えた映像がこれ。人物の頭を認識しています。

男性が手を伸ばすと……

Slaughterbotsは手の平の上に。

Slaughterbotsはよくあるカメラ搭載のドローンに見えますが、人工知能(AI)を搭載しており、自律飛行が可能。プロセッサは人間の100倍の速度で反応し、狙撃されないような「統計的に制御された動き」を行うとのこと。カメラ・各種センサー・顔認識機能のほか、成型炸薬を3g搭載しています。

男性が観客席に向けてSlaughterbotsを投げました。

今度は、Slaughterbotsはマネキンを検出。

次の瞬間、Slaughterbotsがマネキンの額に突撃したかと思うと、マネキンの額に穴が空きました。

この仕組みについて男性が解説。Slaughterbotsはターゲットを発見すると……

その額にぶつかっていきます。

爆薬は頭蓋骨を突き破り、その内容物である脳を破壊。

「銃が人を殺すのではない、人が人を殺すのだ、とよく言われます。しかし、人はしばしば命令に背いたり、狙いを外すことがあります。では、武器に決断をさせてみましょう。信じてください、彼らはみんな悪人です」ということでスクリーンには「悪事を働いた犯行グループ」の映像が映し出されます。

映像の中で犯人たちは車に乗って逃げようとしますが、Slaughterbotsは確実にターゲットに狙いを定めて頭部を破壊します。

逃げようとする犯人ですが……

Slaughterbotsは追跡。

そして確実に仕留めます。

観客席から拍手と歓声が響くなか、新商品のラインナップが紹介されます。

「Slaughterbotsはチームとして訓練され、妨害されても建物・車・電車・人を貫通します。彼らは止まりません」という言葉と共に映し出されたのは、航空機から多数のドローンが投下される様子。2500万ドル(約27億円)という予算でこのようなことができ、都市の半分、悪人を殺すことができるとのこと。

年齢・性別・体型・軍服・民族といった情報を入力することでターゲットの指定が可能。「核兵器は時代遅れです。あなたの敵をバーチャルに、リスク無しで排除しましょう」だと男性は説きました。

そしてこの技術は「戦争を短縮させる」と大きな話題になりました。

しかし、その後、Slaughterbotsが「悪人の手にわたる」という「最悪の事態」を伝えるニュースが流れ……

悪人を排除するための技術が、悪人によって使われるようになります。

そしてニュースでは「都市が何者かに自動化された攻撃を受ける」といった内容が報じられるようになりました。

ケガ人が次々に病院へ運ばれていきます。

政府当局は捜査を行っているものの、犯行がグループによるものなのか個人によるものなのかも分かっていないとのこと。

「一度狙いを定められたら逃げるすべがない」「いつ、どこで、誰から狙われるかわからない」というドローン攻撃は、人々の生活を一変させます。自宅の窓の外には防御用の格子がはめられることに。

部屋の中では女性がPCに向かっています。

女性は離れて暮らす学生の息子に電話をかけていました。「ビデオ通話できる？」と尋ねる母親に……

青年は「今、人といるから無理だよ」と答えます。青年がいる部屋も、窓にガードが付けられていることがわかります。

「あなたの投稿を見ているんだけど。女の子と一緒に写っているやつとか……」

「……この真っ黒な画面は何？」

「人権的なものだよ、ママ」と通話しながら青年は外出。外にも柵が取り付けられています。

「あなた、政治的なものに関わってないでしょうね？」と心配する母親に「ママ、ここは安全だよ」と青年。

青年の言葉とは裏腹に、町は人の気配がなく、警備員によって監視されています。

ドローンの姿が確認され……

「今日は人混みを避けるようにしてください。部屋の中にいる時は窓のシャッターを下ろしてください」と当局から警告。

そんな中、犯人グループは車から多数のSlaughterbotsを飛ばします。

Slaughterbotsの大群が向かうのは、狙いを定めた1つの施設。

建物にSlaughterbotsが近づいたと思うと……

まずは施設を破壊するためのドローンが建物に接着。

そして爆破。

建物を破壊し「入口」を作ったら、Slaughterbotsの大群は一気に建物の中へ。施設は大学だったようで、教室の中に群れが入っていきます。

教室内にいたターゲットが次々に攻撃されていき、パニック状態に。

先ほどの青年は机の下に隠れ……

教室から出ていく生徒も。

ここで青年はもう一度は母親と通話。声を潜めて母親と会話しますが……

Slaughterbotsのターゲットは政治活動を行っていた青年。

通話の途中に「パンッ」という破裂音が響き、映像が途切れました。

上記のムービーを作成したのは、カリフォルニア大学バークレー校のコンピューターサイエンス教授であるスチュアート・ラッセル氏。「ここに映し出されたのは、既存のテクノロジーを統合し、小型化させたものです」「AIは、防衛の面からみても人間に有益である可能性もありますが、機械に殺す人を選ばせるという発想は、私たちの自由と安全を破壊する可能性があります。私の何千という仲間たちはこれに同意しています。先ほど見た未来を、私たちは回避することが可能です。しかし、行動に移すための窓はすぐになくなるでしょう」とラッセル氏は語りました。

上記のムービーは2017年に公開され大きな話題を呼び、記事作成時点で300万回以上再生もYouTubeで再生されています。

中国の北京理工大学には、次世代の「AI兵器」を開発するために、18歳以下の若者を集めた「兵器システム開発」教育課程を設けており、実際にムービーに登場するようなAI兵器が開発されてしまう可能性は十分に考えられます。どんな形であっても人を殺す機械の開発が許されれば、すぐに大量破壊兵器が生み出されてしまうとして、ラッセル氏はこのような動きに対して警告。「教育課程に参加する学生たちが『Slaughterbots』を見てからプログラムに挑むことを望みます」とコメントしました。

なお、2017年12月の時点でThe Economistがムービーに登場するようなドローンの開発は可能なのかという評価を行っています。ドローンが小さすぎると、壁に近づいた時に自身の飛行で発生した乱気流に影響され、飛行が妨げられてしまう可能性があり、この時点ではSlaughterbotsのような自律飛行を行うロボットの実現は不可能とのことでした。一方で、将来的にこのような欠点を改善し、Slaughterbotsを実現させることは可能だとThe Economistは結論付けています。

Miniature robotics - Military robots are getting smaller and more capable | Science & technology | The Economist
https://www.economist.com/science-and-technology/2017/12/14/military-robots-are-getting-smaller-and-more-capable