メモ

なぜAIは人間の脅威となり得るのか?

by A Health Blog

人工知能(AI)は近年になって急速な発展を遂げており、Googleの開発したAIが囲碁のトップ棋士を打ち破ったり、架空の人物のエピソードを生成してポッドキャストで流したりと、驚くべき進化を遂げています。世界的な研究者や技術者の中にはAI技術の発達の危険性を唱える人も現れており、「なぜAIは人間の脅威になると考えられているのか?」という疑問について、科学系ニュースを報じるオンラインサイトLive Scienceがまとめています。

Why Does Artificial Intelligence Scare Us So Much?
https://www.livescience.com/62775-humans-why-scared-of-ai.html

電気自動車メーカーの「テスラ」や宇宙事業の「SpaceX」のCEOを務める実業家のイーロン・マスク氏は、「AIは北朝鮮よりも危険だ」と発言するなど、かねてからAIの危険性に警鐘を鳴らしてきました。マスク氏は2017年7月に行われた全米知事協会の会議において、出席者に向けてAIの規制を始めるべきだと訴えて、8月には自律型殺人ロボットによる軍拡競争を防ぐべく国連に対して公開書簡を送っています。「私は長いこと警鐘を鳴らし続けてきましたが、人々はAI搭載のロボットが実際に街を破壊し、人々を殺すまでAIについて真剣に考えようとはしません」とマスク氏は述べており、AIが人々に実害をもたらす前に対処する必要があると語っています。

また、2018年3月14日に亡くなった理論物理学者のスティーヴン・ホーキング博士は、2015年に行われたカンファレンスで「100年以内にAIは人間を超える」と警告し、人工知能の進化が人類の終わりをもたらす可能性があると述べていました。

MITの科学者らはナイトメア・マシンという「普通の画像から悪夢っぽい画像を生成するAI」を作りだしました。ナイトメア・マシンを作り出した主任研究者のマニュエル・セブリアン氏は、「AIがどのように感情を恐怖という誘発するのかに興味がある」と語ったとのこと。


コーネル大学でコンピューターサイエンス学科准教授を務めるキリアン・ウェインバーガー氏は、「AIに対する否定的な見方は、『AI自身が悪意を持って人間を破壊しようとする』パターンと、『不道徳な人間が悪意のある目的でAIを利用する』という2つのパターンが考えられます」と説明します。

「AIが過剰に発達することで、現在人間がサルを扱うかのようにAIが人間を扱うようになるという考えは、確かに望ましくないことです」とウェインバーガー氏は認めました。しかしウェインバーガー氏によれば、AIが自己を認識して人間を打ち倒そうと反逆を起こすという発想は、AIに対する誤解がもとになっていると指摘。「AIはその動作を決定するアルゴリズムに従って、非常に限定的な範囲で動作するにすぎません。AIが対処しやすい問題に対して、AIはアルゴリズムに従って人間よりも高速で問題を解決することが可能ですが、世の中にある多くの問題に対してAIは無力です」とウェインバーガー氏は述べました。

AI技術の発展は確かにAIが高速で画像認識と処理を行うことを可能にし、囲碁のトップ棋士を打ち負かすことをも実現してきました。ところが、「AIに意識を持たせる」という点については、全くと言っていいほど研究が進展していないとのこと。「私は、近い将来においてAIが意識を持つ事態が発生するとは、少しも懸念していません」とウェインバーガー氏は話します。

by Peter Kurdulija

一方で、「悪意のある人間がAIを利用する」という可能性は、AIが意識を持つという危険性よりもはるかに大きいとウェインバーガー氏は考えています。AIを軍事技術に転用することは非常に有効であり、悪意を持った人間がAIを搭載した兵器を手にし、人々に害を与えるリスクは存在するとのこと。ウェインバーガー氏は「軍事的な分野においてこそ、政府によるAIの規制は役立ちます」と語りました。

そして、AIの恐怖を克服することさえできれば、画像認識による病気の診断をAIがより高速かつ正確に行うサポートを行ったり、自動運転カーにより人の運転ミスによる事故を減らしたりといったメリットに目を向けることができます。AIを「恐ろしいもの」として遠ざけるのではなく、どのように有効活用できるのかを考えることが、将来的な利益につながるといえそうです。

・関連記事
AIがネット掲示板の暗部を学習して「サイコパス」になる - GIGAZINE

「独自の言語使用法に行き着いたAI」は人類を危機にさらすものなのか? - GIGAZINE

人工知能の第一人者が語る「人工知能が持つ可能性と危険性」とは? - GIGAZINE

イーロン・マスクの「AI脅威論」はマーケティング戦略だという指摘 - GIGAZINE

「AI脅威説は無責任」というマーク・ザッカーバーグに対してイーロン・マスクが反論するバトル - GIGAZINE

in ソフトウェア,   サイエンス,   メモ, Posted by log1h_ik