完全無敵の「AlphaGo Zero」でも使われた「AIによる自己学習」の欠点とは？

Google傘下のDeepMindの囲碁AI「AlphaGo」が、2016年にトップ棋士の一人である韓国のイ・セドル(李世乭)氏、2017年には中国の柯潔氏に勝利を収めたことが知られています。さらにDeepMindの新しい囲碁AI「AlphaGo Zero」が過去の棋譜データすら与えずに、たった3日間の自己学習のみで「AlphaGo」と100局対戦して100勝無敗の圧倒的勝利を収めることになります。このため、過去のデータに頼らずとも、人工知能による「自己学習」はとても万能で、どんなことにも応用できるとされていますが、実際のところは苦手な分野もあるとのこと。最強と思われるAIの「自己学習」のどこに欠点があるのかを、科学系のニュースを扱っているQuanta Magazineが報じています。

Why Self-Taught Artificial Intelligence Has Trouble With the Real World | Quanta Magazine
https://www.quantamagazine.org/why-self-taught-artificial-intelligence-has-trouble-with-the-real-world-20180221/

「AlphaGo Zero」はルールのみを学習し、実際に人間が行っていた対局のデータは使用せず、自己対局だけで学習しました。当然、最初は意味の全くない指し方でスタートしますが、指した内容が「勝利に紐付くもの」と「紐付かないもの」を新しい知識として習得し、最終的にはイ・セドル氏、柯潔氏を破った「AlphaGo」との100番勝負で100勝するという圧倒的な強さを手に入れました。

さらに、DeepMindは2017年12月に囲碁以外のボードゲームを学ぶことができる「AlphaZero」を発表し、AIがチェスや将棋でもトップレベルの力を「自己学習」のみで得ています。DeepMindによると、ボードゲームで世界を制することを目的に「AlphaZero」などのAIソフトウェアをリリースしているわけではなく、実際は「室温超伝導の実現」や「タンパク質の折りたたみ問題」にこれらのAIを適用するために、ステップアップの一環として行っているとのことです。

AIの「自己学習」はどんなものにでも応用できると思われがちですが、弱点も存在します。囲碁や将棋などのボードゲームでは相手の駒が常に見えており、相手が次に指す内容は限定されるため、どの駒が動くかを予測することは簡単です。しかし、対局開始直前のルール変更で「〇手ごとにくじを引き、内容に応じて何かが起こる」ような「不確実性の高い問題」が発生すると、AIは対処できず、まだまだ課題があるとされています。

By dotLinda

例えば、自動車の自動運転を考えてみると、「突然の大雨や落雷、暴風などの悪天候」や「走行車線上で自転車に乗っている人の突然の方向転換」、「突然道路上に人や物が飛び出してくる」など、無数に存在する緊急事態をAIが対応することになると、判断に困ることが予測されます。これらの対処は、実際にAIが自ら経験して学習できれば問題ありませんが、走行試験のレベルで無数に存在する全ての不確定要素を経験できるかと言われると疑問が残ります。

By peasap

また、外科手術に至っては患者が手術中に突然症状が悪化することが予想され、突発的な事態が発生しても、何の症状か見極め適切に対処する必要があります。これらはAIが実際に外科手術を行って、さまざまな事態を学習する必要がありますが、未来の技術革新のためとはいえ、学習不十分でまともな対応ができるか怪しい状態のAIに手術してもらいデータを提供したいという人はいないはずです。

モントリオール大学のディープラーニングのパイオニアであるヨシュア・ベンジオ氏は「『現実世界の完璧なモデル』と学習により得られた『推測ベースのモデル』には大きな開きがある」と述べており、「不確実要素」が無数に存在する問題に対して、「自己学習」で全ての情報を得ることは難しく、まだ多くの課題が残っているとしています。

By fdecomite

しかし、AIの自己学習から得られる思考パターンは人間のものとは明らかに異なり、「新しいアイデア」や「今まで知られていなかった考え方」を生み出す可能性を秘めています。このため、AIの「自己学習」は今まで難問とされてきた問題を解決できると期待されており、今後の発展が望まれています。