AI兵器や自律型ドローンが戦場にもたらす危機とは？

ドローンは何年もの間戦争に使われてきましたが、一般的に人間によって遠隔操作されているものでした。しかし、今では画像認識ソフトウェアと自動操縦ソフトウェアを組み合わせることで、自律型ドローンを安価で大量生産できます。兵器として使われる自律型ドローン、およびAIを搭載した兵器について、海外紙のワシントン・ポストが論じています。

Autonomous weapons already exist and are playing a role on battlefields like Libya and Armenia - The Washington Post
https://www.washingtonpost.com/technology/2021/07/07/ai-weapons-us-military/

2020年3月、リビア政府はトルコ支援軍の力を借り、自律型ドローンを使用して過激派の軍を攻撃しました。2021年5月にはイスラエルが世界で初めて完全自律型ドローンによる集団飛行を実施し、戦略的情報の収集を行いました。トルコやイスラエルなどには攻撃可能なドローンのほか、情報収集を専門とする自爆機能が付けられたドローンも配備されています。

人権活動家によって長い間要求されてきた「キラーロボット」と呼ばれる自律型殺傷兵器の全面禁止の制定は、2021年時点で30カ国によって支持されています。しかし、世界を軍事面でリードする国家は「全面禁止は不必要」と主張。アメリカは「懸念が誇張されており、人間は自律型兵器を効果的に制御できる」と述べているほか、ロシア政府は、「真のAI兵器はまだ存在しないため、禁止することはできない」と述べています。

しかし、リビアの内戦のように、技術の進歩により独自の決定を下す武器がすでに人々を殺しているというのが現実だとワシントン・ポストは主張。これらのドローンは遠隔操作と自律機能の両方を備えているため、人間が個々の標的を爆撃するための最終的な決定を下したかどうかを外部から知ることは不可能だとのことです。

by Alan Wilson

自律型ドローンは戦場において主戦力となりつつあり、今日、自律型ドローンを開発するための複数の政府による数十のプロジェクトが存在するとのこと。アメリカ、中国、ロシアなどの国々は自律型ドローンを制限する条約についての議論に参加しているにもかかわらず、開発を続けています。

過去10年間で、大量のデータセットを短時間で処理できるコンピューターの利用が容易になり、研究者は大量の情報を処理するコンピュータープログラムの設計において大きな進歩を遂げることができました。AIの進歩により、AIが詩を書き、言語を正確に翻訳し、科学者の新薬開発を助けることすら可能になりました。

しかし、意思決定をコンピューターに依存することの危険性についての議論は激しさを増しています。Google、Amazon、Apple、テスラなどの企業はテクノロジーの開発に多額の費用を注ぎ込んでいるほか、「AIに偏見を抱かせないようにする」という試みが行われていたり、AIの国際学会・NeurIPSが「国際会議に提出する論文は社会に与えかねない影響についての記述を必須とする」と発表したりしています。

いくつかの国では、顔認識のようなAI技術が自律型兵器にすでに展開されています。早くも2010年、Samsungの武器部門は画像認識を使用して人間を発見し、発砲するセントリーガンを開発しました。また、同様の銃がイスラエルとガザ地区との国境に配備されましたが、韓国・イスラエル両政府は、「システムは確かに自動で動作するが、制御しているのは人間だ」と述べています。

アメリカ特殊作戦軍の元兵士で新アメリカ安全保障センターのヴァイスプレジデントを務めるポール・シャーレ氏は「テクノロジーは武器をより賢くしているが、人間がそれらを遠隔操作することもまた簡単にしている」「ミサイルを発射した後に民間人に命中する可能性があることに気付いた場合、ミサイルを停止することが可能だ」と述べました。

しかし、国際平和団体のPAXに所属する自律型ドローン専門家のダーン・カイザー氏は「それでも、戦場で求められるスピードでは、必然的により多くの決定を機械に任せることが多くなるだろう」「私たち人間がもはや制御できないスピードで戦争が進行することになるのは、それほど非現実的なことではない」と述べました。