メモ

AI(人工知能)に対するありがちな「誤解」とそれに対する回答まとめ


近年、急速に進化する人工知能(AI)技術によって、近い将来、自動運転カーや完璧な翻訳ツールが誕生すると考えられています。それだけでなく、「人間がしているほとんどの仕事がAIに奪われるのではないか?」「AIの暴走を止められなくなる危険はないのか?」など、AIの進化を警戒する声も聞こえ始めています。身近になりつつあるAIについて、よくある誤解とそれに対する回答をまとめるとこうなります。

Q & A: The future of artificial intelligence
http://people.eecs.berkeley.edu/~russell/temp/q-and-a.html

◆AIとは何か?
AIとはコンピューターに知性を与える手法の総称です。おおざっぱに言うと、「良いこと」と「悪いこと」の区別ができるようにすること。ここでの「良いこと」とは、ゴール(目的)に到達するために最も可能性の高い行動をとることで、応用分野には、推論・学習・計画・知覚・言語・ロボット技術などが挙げられます。

・一般的な誤解:「AIは特定の技術である」
前述の通りAIとは「コンピューターに知性を持たせるための研究」の総称であることから言えば、これは「物理学」を「蒸気機関」と捉えるに等しい誤りです。

◆AIは人間社会にどんな利益をもたらすか?
文明の利器はすべて人間の知性の産物です。そして、すべての文明の利器の目的は、人間の能力を拡張することにありました。AIも知性という人間の能力を拡張するものであり、適切に設計される限り人間の価値に対する理解をより素晴らしいものにしてくれます。


・一般的な誤解:「AIは非人間的なものである」
悪意あるシナリオでは、AIは間違った方法で使われた結果、ロボット化、監視化が進み、正義すらAIによって作られ、コントロールされた経済が生まれると思われがちです。しかし、人間の知性を拡張する有力な手段がAIであり、AIは適切に設計される限り、はるかに大きな価値を実現します。例えば、異なる言語を使う人同士が、AIを使ってリアルタイムに意思疎通できるような状況は、非常に人間的なものだと言えそうです。

・一般的な誤解:「AIは不平等を促進する」
仕事の自動化が進むことで富が少数の人に集中する可能性は確かにあります。しかし、AIの使い方を選ぶことは可能で、個人や小さなグループ間のコラボレーションを活性化し、かならずしも大企業に職を求める必要がなくなるというメリットもあります。

機械学習とは何か?
機械学習とは、経験をベースにしてコンピューターの性能を高める方法を探求するAI技術の一つです。

・一般的な誤解:「機械学習とはAIに取って代わる新しい分野である」
機械学習とは、パフォーマンスを向上させる一つのAI技術であり、AI技術を置き換えるものではありません。機械学習は1950年にチューリングが論文を出して以来、AI研究において常に中心となっている技術で、AIで研究される技術の一つです。

・一般的な誤解:「機械は学習できない。ただ、言われたことをこなすだけである」
端的に言うと、プログラマーは機械に学習するよう命令することができます。たくさんのAIアプリケーションが、大量のデータを扱う機械学習を使って作られています。

ニューラルネットワークとは何か?
ニューラルネットワークとは、脳のニューロンの特性をモデルに考案されたコンピュータシステムです。ニューラルネットワークは多くのユニットによって構成されており、それぞれが入力を受けたり出力を送信したりします。出力は入力の加重和の形をとり、ユニット同士をつなぐリンクの重みが経験によって修正されるのがカギです。


・一般的な誤解:「ニューラルネットワークとは新しい種類のコンピューターである」
ニューラルネットワークは、人間の脳のニューロンをモデルに考えられた計算システムのことで、ニューラルネットワーク自体は汎用のコンピューター上に実装されます。

・一般的な誤解:「ニューラルネットワークは脳のように働く」
実際のところ、脳のニューロンはAIのニューラルネットワークで使われるユニットほど単純ではありません。脳のニューロンにはさまざまな種類があり、時間によって接続は変化します。

ディープラーニングとは何か?
ディープラーニングは多層構造を持つニューラルネットワークを使った特殊な機械学習です。ディープラーニングは、画像認識や音声認識に非常に重要な技術として近年、一気に有名になった技術です。

・一般的な誤解:「ディープラーニングは機械学習を置き換える新しい技術である」
ディープラーニングは、機械学習の一種なので、ディープラーニングと機械学習を別物として考えることは誤りです。ディープラーニング自体は20年以上前から存在していましたが、アルゴリズムやモデルの改良や大量のデータを集められるようになったことによって近年技術的に大きく進歩しています。

◆「強いAI」と「弱いAI」とは何か?
「強いAI」と「弱いAI」という表現は、2つのAIの仮説を説明するためにジョン・サールが使ったもの。もともとは、「弱いAI」は、「人間レベルの知性をプログラムできる」という仮説において使われました。これに対して「強いAI」は、機械が人間のように考えたり理解したりできるという仮説で使われたものです。

・一般的な誤解:「強いAIとは、あらゆることを人間レベルでできるAIを実現することである」
弱いAIは特定のことを、強いAIはあらゆることを人間レベルでできるAI、という風に一般的に理解されていますが、1980年に最初にサールが定義したものとは異なっています。

◆「ムーアの法則」とは何か?
ムーアの法則は、半導体の集積密度が指数関数的に成長するという経験則に基づく未来予測のこと。「半導体の集積密度は18カ月ごとに倍増する」と単純化されています。


・一般的な誤解:「ムーアの法則は物理法則である」
ムーアの法則は技術の進歩についての経験からくる予測です。これが継続するかどうかは誰にもわからず、永久に続くことはありません。

・一般的な誤解:「すでにコンピューターは十分に速く、効率的なアルゴリズムの開発が無駄と言えるくらい速い」
実際のところは、アルゴリズムの改善は、ハードウェアの改善よりもはるかに重要です。

◆機械のIQ(知能指数)とは何か?
機械にIQのようなものはありません。複数のタスクをこなせる人間にはIQがあるとしても、分野に特化した機械にはIQは想定できません。チェスチャンピオンを打ち負かすコンピューターでも、オセロなどの他のゲームでは勝てません。クイズ大会で優勝できるコンピューターも、「あなたの名前は?」という単純な質問すら答えられません。

・一般的な誤解:「ムーアの法則に従って、機械のIQは高まり続けている」
機械にIQはありません。また、ムーアの法則はどんなタスクもこなせるアルゴリズムの存在とは、まったく関係がありません。

◆AIシステムは今、何ができるか?
機械がこなせるタスクの範囲は数年前に比べるとはるかに広くなっています。ボードゲームやカードゲームをしたり単純な質問に答えたりということだけでなく、ニュース記事から事実を抽出したり、複雑なオブジェクトを組み立てたり、言語を別の言語に翻訳したり、音声を認識したり、画像の種類を判別したり、自動車を運転したりできます。検索エンジンの機能の多くもAIを活用したものです。

・一般的な誤解:「チェスをプレイするというような『タスク』は、人間とマシンとで同じものである」
人間はチェスのやり方を見たり聞いたりして学びますが、チェスプログラムにはこのような能力はありません。駒の動き方というアルゴリズムを直接プログラムされているのであって、コンピューターはチェスのルールを人間が知っているようには知りません。

◆近い将来、AIは人間社会にどんな影響を及ぼすか?
いくつかの技術革新が近い将来出現する可能性があります。その代表例は自動運転カーです。農業分野や高齢者介護分野などで働くロボットの登場や、スマートフォンのパーソナルアシスタント機能の進化も予想できます。さらに、大量で複雑な情報を扱えるAIによって科学分野での活用も期待されています。

・一般的な誤解:「ロボットは人間の役割を奪おうとしている」
AI分野における進歩の大部分は、コンピューターやロボットを便利にするもので、その進歩は少しずつ加算的に行われてきたものです。とはいえ長期的な視点で見れば、人間によってコントロールすることは重要になってきます。

◆AIとロボットの進化は人間から仕事を奪うのか?
AIとロボットの進化が今後も継続すると、多くの職業が影響を受けることは避けられそうにありません。これは直ちに大量の失業を意味するのではなく、経済構造の変化につながるかもしれません。そして、仕事や報酬のあり方そのものに対する新しい考え方を要求することになるかもしれません。


・一般的な誤解:「ロボットが行う仕事はすべて人間の仕事を少なくする」
仕事はゼロサムではありません。ロボットの助けを受けることでより生産性が高まったり、ロボットによって新たな需要が生み出されたりする可能性があります。ロボットなしでは仕事が経済的に成り立たないこともあり得ます。これは、家の塗り替えをするときに、ブラシやスプレーを使うのが一般的なのに、インクを一滴ずつたらしていては、完成までたどり着かないようなものです。

◆なぜ人々は突然、AIを心配するようになったのか?
2014年以降、スティーブン・ホーキング、イーロン・マスク、スティーブ・ウォズニアック、ビル・ゲイツなどの有名人が「AIを懸念している」と定期的にメディアが報告するようになりました。もう一つの理由は、AI技術の進歩が加速しているように見えるという事実です。そこにはさまざまなAIの技術が結びつき合って、研究室で行われていた成果が現実世界の問題を解決するレベルにまで達することで、研究への投資が増え、さらに研究が進むことで進歩が加速するなど、複合的な要因がありそうです。

・一般的な誤解:「人間の知性を超える知性を持つsuperintelligent AIの誕生が、すぐそこまで近づいている」
superintelligent AIの誕生が近いと考えている研究者はたとえいるとしてもごく少数です。しかし、このことはsuperintelligent AIの登場を深刻に考えないということを意味しません。仮に、50年以内に地球に衝突する隕石が見つかったとして、「5年の距離になってから注意を払うことにしよう」という人はいないはずです。

◆現実になり得るAIのリスクに対して、AIコミュニティは何をしているのか?
AI研究者のほとんどから否定的な反応を出されていたにもかかわらず、AIの実存的なリスクに関する多くの議論はAIコミュニティの主題からは外れてしまっています。しかし、最近ではイーロン・マスクはこの分野の研究を支援するために1000万ドル(約11億円)の資金提供を行ったり、エリック・ホルビッツが政策的な提言作りにつながる長期的な研究のために出資したりという活動を行っています。そして、AAAIは「AIの影響度と倫理的課題」を取り扱う常任委員会を設立しています。

・一般的な誤解:「AI研究をコントロールするのは不可能だ」
研究による進歩は止められず規制もできないため、AIによって悪い未来が起こるのを避ける術はないと考える人がいます。しかし、この主張は間違いです。例えば、1975年に開催されたアシロマ会議は、結論を下すのに時間的な猶予を与えた結果、その後の遺伝子組換え技術に関する国際規範を作るのに成功しました。もしも、人間レベルのAIを実現する研究がチェックなしに行われるならば、AIシステムがいまだに人類のコントロール下にあることを確かめる手法についての研究の重要性が一層増すことになるでしょう。

・関連記事
人工知能について今知っておくべき10の事柄 - GIGAZINE

Googleの人工知能チームがロボットの人類への反逆よりも心配していることとは? - GIGAZINE

人工知能を安全に使うために開発者が自問すべき5つの質問 - GIGAZINE

ロボットや人工知能の進化は人間の仕事を2025年までに奪い尽くすのか? - GIGAZINE

「ユーザーひとりひとり専用のGoogle」を目指し人工知能・自然言語処理技術・機械学習などを駆使した会話形式アシスタント「Google Assistant」 - GIGAZINE

Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止 - GIGAZINE

学生はティーチングアシスタントが実際には人間ではなくロボットだったことに気づかなかった - GIGAZINE

人工知能で判決を下す「裁判官AI」を開発、訴訟時間の短縮化が可能 - GIGAZINE

in ソフトウェア,   メモ, Posted by logv_to