人工知能(AI)は意識を持つようになるのか？を神経科学者が解説

2012年頃に「ディープラーニング」や「ニューラルネットワーク」が多くの分野で使われるようになってから、人工知能(AI)の分野は目覚ましい発展をみせてきました。「100年以内にAIは人間を超える」と言われることもありますが、AIが人間と同様の「意識」を持つことは将来的に起こりうるのか、神経学者が「意識」と「知能」の違いに言及しつつ解説しています。

Can AI Become Conscious? | News | Communications of the ACM
https://cacm.acm.org/news/244846-can-ai-become-conscious/fulltext

カリフォルニア工科大学教授であり神経学者でもあるクリストフ・コッホ氏はDNAの二重らせん構造を発見したフランシス・クリックとともに神経科学としての「意識」の研究に取り組んだ人物。またコッホ氏は同じく神経科学者であるジュリオ・トノーニ氏と共に、意識の発生を説明する「意識の統合情報理論」を提唱しています。

意識の統合情報理論は「『意識』が生まれるためには情報の統合が行われる必要がある」という考えを基礎としており、人間に当てはめていえば、神経細胞同士がシナプスを介して密に情報をやりとりすることで情報が統合されているといえます。コッホ氏らは意識の統合情報理論において「ネットワーク内部で統合された情報の量が意識の量に対応している」と主張しており、この仮説が正しければ、コミュニケーションの取れない植物状態の人でも、脳活動から統合情報量を計測することで意識レベルを測ることが可能になると考えられています。実際に、この理論に基づき重症患者の意識レベルを測定する「意識メーター」が構築され、アメリカやヨーロッパでテストされているとのこと。

コッホ氏は「この理論を本質的にいうと、それ自体に因果的な力を持つあらゆる物理システムは『意識的』だと言えます」と述べています。因果的な力を持つものの例として、「脳の中で発火を受け取り、少し後に別の発火を起こすことができる神経細胞」が挙げられていますが、これと並列して「直前の状態に影響され、すぐ後の将来の状態に影響を与えるコンピューターチップのトランジスタネットワーク」も例に出されています。コンピューターチップの場合、システムが持つ電流状態がより大きな入出力を持ち、影響が大きくなるほど、システムが持つ「因果的な力」もまた大きくなるとのこと。

近年はIBMの人工知能システム「Watson」やGoogle子会社「DeepMind」の開発した囲碁AI「AlphaGo」など、テクノロジー企業によって優れたAIが開発されています。コッホ氏は上記2つのAIは特化型AI(弱いAI)であることを指摘しつつも、遅かれ速かれ、機械が人間と同程度の「知能」を手に入れるという見解を述べています。一方で、「意識」と「知能」の違いについても述べており、「多くの生物は知能と意識の両方を手に入れていますが、この2つは概念的には全く別です。知能は、『新しい環境になった時どう生き残るか？』といった『行動』についてのものであり、意識は行動でなく『存在すること』自体に関するものです」と両者を分けて考える必要性を訴えました。

つまり、意識の統合情報理論の立場に立つと、機械が意識を持っているかどうかは、機械の動作ではなく、因果的な力を持つ「回路基板」に目を向ける必要があります。現代のAIの多くは、1つのトランジスタが数個のトランジスタから入力を受け取り、別の数個に反映するというノイマン型ですが、人間の脳はもっと複雑で、これとは根本的に異なる因果的な力を持っています。ノイマン型のチップで実行されるAIは、知能的な行動がみられても、人間の脳のように「意識的」にはなり得ないとのこと。

近年はスーパーコンピューターも目覚ましい進化をみせていますが、コッホ氏は、スーパーコンピューターであっても統合情報は微小なものであるとしています。「ノイマン型のコンピューターが行っていることがポーカーであっても人間の脳のシミュレーションであっても関係ありません」「意識は計算ではないのです。システムの物理学に関する因果的な力なのです」と強調しました。

コッホ氏はノイマン型ではない、別のアーキテクチャを持つマシンによって、「意識」が作り出される可能性があると考えています。高度な統合情報を可能にする量子コンピューターや脳型コンピューターがその候補として挙げられています。

また、コッホ氏は「機械が意識的になると、倫理的・法的・政治的な影響が生じる」という点についても言及。「私がテスラの車をハンマーで殴ったら、近所の人は『気が狂ってる』と思うかもしれませんが、それ自体は私の権利として考えられます。しかし、同様のことを犬に行ったら警察が来て私を逮捕するでしょう。この違いは、犬が『苦しむことができる』ということにあります。犬は意識的な存在だからです」とコッホ氏は述べ、機械が意識を持つことが、私たちの世界に大きな影響をもたらすことを示しました。