「ディープラーニングは万能ではない」という主張、次世代のAIを支える理論とは？

技術の進歩によって、ディープラーニングが商用アプリケーションにも応用されるようになり、人工知能(AI)の研究と応用がさらに進んでいます。しかし、これまで技術的に難しかったことがAI技術で可能になった反面、AIを過信して何でもAIで解決しようとするケースもあります。アメリカの電気・情報工学分野の学術研究団体であるIEEEが、「ディープラーニングは万能ではない」とするコラムを発表しています。

Deep Learning Can’t Be Trusted, Brain Modelling Pioneer Says - IEEE Spectrum
https://spectrum.ieee.org/deep-learning-cant-be-trusted

一般的なディープラーニングプログラムは、複数のタスクで優れた性能を発揮できず、厳密に制限された環境で特定のタスクをこなすことに向いています。さらに、ディープラーニングは非常に複雑で、例え完璧に機能したとしても「なぜ完璧に機能しているのかを説明できない」とIEEEは述べています。また、学習を重ねていくと、これまで学習したものの一部が突然崩壊してしまうこともあるそうです。そのため、医療のような生死に関わるアプリケーションにディープラーニングを応用するのはリスクが高いかもしれないとIEEEは主張しています。

私たちの脳は、予想外の出来事に満ちて変化する世界の中で、さまざまな対象物や出来事を認識し、予測することを学びます。そのため、限られた場所で限られたタスクをこなす従来のディープラーニングでは解決できない問題も多く存在します。

IEEEのフェローであるスティーブン・グロスバーグ氏は、古典的なAIの問題点の一つは、「脳の処理結果を真似ようとするのではなく、その結果を生み出すメカニズムを探ろうとしていること」と指摘しています。グロスバーグ氏によれば、人が新しい状況や感覚に即時対応して行動できるのは、脳内の特殊な回路のおかげだとのこと。人は新しい状況から学ぶことができ、予期せぬ出来事は収集した知識や世界への予測システムに組み込まれていくそうです。

グロスバーグ氏は「古典的なAIのアプローチは、人々が日常生活の中で物や行動を表現する時に用いる概念や言葉を使って、脳の内部状態を内観できることを前提としています。魅力的なアプローチですが、結果として生物学的な脳が実際にどのように機能するかのモデルを構築するには不十分であることが多かったのです」と述べています。

そこで、グロスバーグ氏は、生物学的知能と人工知能の両方に対する代替モデルとなるAdaptive Resonance Theory(適応共鳴理論、ART)を提唱しました。要するに、「脳がどのように新しい状況や感覚に適応して学習するのか」をモデル化したものがARTです。

グロスバーグ氏は「脳が心を生み出す仕組みを理解することは、AIやスマートロボットなど、コンピュータサイエンスやエンジニアリング、ハイテク分野のスマートシステムを設計する上でも重要です。ARTは脳を理解するのに役立つだけでなく、変化する世界に自律的に適応することができる知的システムの設計にも応用できます」と述べています。実際にARTは、パターン認識や予測などの問題を教師あり学習や教師なし学習で解決します。ARTは実際にソナーやレーダーの信号の分類、睡眠時無呼吸症候群の検出、映画のレビュー、映像解析による運転支援ソフトなどに応用されています。

「テクノロジーとAIの未来は、このような自己制御システムにますます依存するようになるでしょう」とグロスバーグ氏。「自律走行する自動車や飛行機の設計などで、AIのような自己制御システムがすでに実現しています。脳の設計についてのより深い洞察が、多額の資金が投入されている産業界の研究やアプリケーションに取り入れられれば、どれだけ多くのことが達成できるかを考えると興奮します」と語りました。