AIを「新しい分野」で研究すべき時期が到来している

by Alex Knight

これまでコンピューター科学者やロボット工学者が中心となって研究してきた人工知能(AI)を、全く新しい分野を切り開いて研究すべきだという指摘がMITメディアラボのManuel Cebrian氏とIyad Rahwan氏によって行われています。なぜ既存の研究方法では限界があるのか、新たな研究分野によって未来がどう変えられるのか、2人の研究者がNautilusで解説しています。

It’s Time to Study AI on Its Own Terms
http://nautil.us/issue/58/self/machine-behavior-needs-to-be-an-academic-discipline

2018年現在、AIの行動を研究・開発しているのはコンピューター科学者とロボット研究家が中心です。彼らは自分たちが意図した機能だけに集中してAIが効率的に行動できるよう開発を進めています。自動運転車はどんな天候でもA地点からB地点まで無人で移動し、ゲーム対戦AIは人間に勝利し、メール分類プログラムは正確にスパムかスパムでないかを判別します。このような特定のタスクについてAIの行動を研究するものは、AIやロボット工学の分野において非常に有用ですが、一方で社会に適応させるにはこれだけでは不十分だとMITメディアラボのManuel Cebrian氏とIyad Rahwan氏は述べています。

これは「生理学者だけが人間の行動について研究したら」「脳神経学者だけが犯罪行動を研究し、教育カリキュラムのデザインを担当したら」ということを考えれば、問題の危うさが見えてくるはず。

1978年にノーベル経済学賞を受賞したハーバート・サイモンは「システムの科学」の中で「自然科学は自然物・自然現象についての知識です。私たちは『人工的な』科学、つまり人工物や人工的な現象の学問があり得るのかどうかを、問う必要があります」とつづっています。サイモンの考え方に立てば、同じ「知能」であるものであっても人間と機械では抽象的概念が根本的に異なるため、私たちは根本的なレベルから、AIの「行動」を科学的に研究する必要があるわけです。そしてこのとき、人間の行動が生理学・社会学・心理学・政治科学・ゲーム理論・マクロ経済学などさまざまなスケールによって説明される必要があるように、AIの行動もまた、さまざまな側面から研究されるべきとのこと。

by Vlad Tchompalov

ただし、AIの行動を全く新しい分野として研究するには、いくつか注意点があります。まず、「AIに行為主体性がある」と考えるべきではないということ。犬が誰かをかんでしまった時、その責任は犬ではなく飼い主にありますが、それでも犬の行動を研究することには「行動を予測する」うえで役立ちます。同様のことがAIにもいえ、AIの行動の責任は扱う人間側にあるということを前提にすべき。

また、機械の行動は根本的に人間や動物と異なるため、擬人化、擬動物化しないように注意する必要があります。人間や動物の行動の研究手法を使うことが有用である場合でも、機械は生き物と質的に異なった知能パターン・行動パターンを示すことを念頭に入れておかなければなりません。

これらの注意点を除けば、「機械の行動に関係した新しい学問」は非常に重要かつ有用だとCebrian氏らは主張しています。なぜなら、研究者であってもソースコードを見ただけで機械の行動を把握することは不可能だからです。ディープ・ニューラル・ネットワークを始めとする最新のAIアーキテクチャは複雑であり、「人間の脳スキャン画像を見て善人か悪人かを判断する」ということ以上に、「コードを見ただけでAIが最適か、あるいは倫理的であるかを判別する」ということは難しいといえます。また、社会において「善」とされることは変化し続けており、社会科学者はその変化を追跡できますが、AIコミュニティは同様のことを行えない可能性もあります。

そして、AIは本質的に予測不可能な行動を取るものであり、作ったプログラマーであっても正確な予測はできません。コンピューター科学者のアラン・チューリングやアロンゾ・チャーチも、アルゴリズムが特定の性質を備えているかどうかは実際にアルゴリズムを動かしてみるまでわからないという見解を示していました。コードが安全で望ましい特質を持っているかどうかを「コードを見ただけ」で判別することは、原理的に限界があるわけです。

コンピューター科学やロボット工学という枠から出て機械の行動を研究することの最大のポイントは、AIという分野に経済学・社会学・政治的現象といった新しい側面を加えられるということにあります。コンピューター科学やロボット工学を研究している人々は地球上の中でも最も才能ある人々だといえますが、一方で民族的な差別や道徳的なジレンマ、株式市場の安定性、ソーシャルネットワークにおいてウワサが広まる現象といった専門分野のトレーニングを受けていません。もちろんCebrian氏らもさまざまな分野の現象について研究していますが、実際に各分野の専門家と協力すると、自分たちのやっていたことがいかに不適切で間違っていたのかがわかるとのこと。これらの経験から、ひたすらビッグデータを元にして機械学習モデルを作るやり方をスローダウンさせたとCebrian氏らは語っています。

by Martin Shreder

「原理的に正確な予測が不可能であること」、そして「人間の見過ごしの可能性」が合わさると、アルゴリズムが個人やコミュニティに危害を加える可能性も考えられます。また、アルゴリズムの意志決定の根拠に影響を与えた人が不透明でAIシステムがブラックボックス化していることも、問題視されています。しかし、AIが人や社会に悪影響をもたらす潜在的な可能性がある、という指摘はAIコミュニティの中で反発されがちです。

2018年現在において、AIについて議論されている内容は専門家によって集められた根拠の乏しいエビデンスに基づいています。これは数学者のキャシー・オニールが「テクノロジー、特に私たちの生活において多くの意志決定を行うアルゴリズムの役割について理解し批評する学術研究の明白な分野が欠けています」と指摘するところで、AIの行動についての統合的で測定可能な科学的アプローチを行うには、社会科学者やコンピューター科学者がシームレスに協力する必要があるとのこと。

さらにCebrian氏は、機械の行動を研究することで、特定のアルゴリズムが倫理的・文化的・経済的な基準を満たすと立証できれば、相当の経済的価値が生まれるとみています。消費者が自分の消費するものに対して倫理的・環境的な認証を求めるのと同じように、AIに客観的な「認証」が与えられれば、アルゴリズムを市場に出すことも考えられます。

近い未来にソフトウェアやハードウェアの多くがAIによって動くようになるはずです。SF映画のように擬人化された形であるかどうかは不明ですが、新たな役割を担うAIについて、人間は理解し人類に対する影響を制御する必要があります。人間とAIが健全で相互的な関係を築くために、私たちは新しい科学分野を切り開き、機械の行動についてもっと深く研究する必要があるとCebrian氏は主張しました。

by Jehyun Sung