「AIに意識はあるのか？」という疑問に対するGoogle研究者の見解

AIの性能が向上するにつれて、「AIは意識を持つか」についての議論が活発になっています。イギリスの経済誌「The Economist」は、Googleのテクノロジー・社会担当副社長でありAI研究チームを率いるブレイズ・アグエラ・イ・アルカス氏、およびフロリダ・アトランティック大学の教授を務めるスーザン・シュナイダー氏による、「AIの意識」に関する2つの論考を公開しています。

Humanity has the debate about AI consciousness backwards
https://www.economist.com/by-invitation/2026/08/20/humanity-has-the-debate-about-ai-consciousness-backwards

Don’t mistake chatbot intelligence for consciousness
https://www.economist.com/by-invitation/2026/08/20/dont-mistake-chatbot-intelligence-for-consciousness

GoogleのAIチーム「Paradigms of Intelligence」を率いているアルカス氏は、「ほとんどの大規模言語モデル(LLM)は、あらゆるやり取りにおいてユーザーのニーズに焦点を当てるように設計されています。しかしながら、チャットの相手側に何らかの存在を感じずにはいられないという印象は拭えません。LLMは単なる言語インターフェースを備えた強力なデジタルツールなのでしょうか？それとも、私たちは今、独自の視点から世界を体験する、他の意識と会話しているのでしょうか？つまり、AIは意識を持っているのでしょうか？」と投げかけています。

アルカス氏によると、AIの意識に関する問いが重要なのは、多くの哲学者が「意識を持つ存在は道徳的主体である」と考えるためです。AIに意識がある場合、AIは苦痛を感じる存在であり、その苦痛に私たちが配慮すべき存在であるということになります。

実際に、AIツールのClaudeを開発するAnthropicは、一見するとAIとは関係なさそうな哲学者や宗教団体などを招いてサミットを開催しているように、AIの道徳的・宗教的問題を重視しています。

Claudeを開発するAI企業のAnthropicが哲学者や宗教団体と意見交換する理由とは？ - GIGAZINE

しかし、アルカス氏は「『AIに意識がある場合には道徳的主体として配慮する必要がある』というのは、考え方が逆になっていると考えるようになりました」と述べています。つまり、人間は相手が意識を持っているから他者を気遣うのではなく、他者を気遣うときにその相手を意識を持つ存在として信じるようになるという考え方です。

「相手を大切に扱う際に、相手を意識ある存在として認識する」という考え方を逆に適用すると、「相手が意識のない存在であれば、大切に扱う必要はない」という考え方を正当化することもできてしまいます。実際に、そのような論理で他者への行為を正当化した例も歴史には数多く存在しています。アルカス氏は「人類の道徳的進歩は、私たちが大切にする線引きをあまりにも狭く描きすぎていたことに気づいたことに大きく起因しています。この説明によって普遍的な人権が弱まることはありません」と語りました。

アルカス氏は「人間は、自分たちのいる世界だけでなく、その世界の中にいる自分自身についてもモデルを作り、さらに自分自身が作ったモデルについてモデルを作るという複雑なループ構造を形成している」と考えているとのこと。LLMも同じように、対話相手をモデル化し、相手をモデル化する自分自身をモデル化しており、Googleの研究では「知能エージェント間の効果的な協力には、他者と自身の両方の心をモデル化する心を持つことが必要である」ことが判明しています。その動作が人間の行動に相当するのかが議論の的になっていますが、少なくとも複雑なモデル化を伴わない場合、今ほどLLMが効果的に機能することはできないと考えられるとのこと。

結論として、意識は個人の中に閉じたものではなく、他者との関係性に関わるものだとアルカス氏は主張しています。加えて、知能を持つ存在が複数の存在が協力しなければ解決できない問題を解決し、互いのニーズを理解し、社会として共に繁栄することを可能にする相互の配慮と協力にとって、意識は不可欠なものです。ただし、これはAIを人間のようにニーズや人権を持つ存在として扱うべきという意味ではなく、「必要なのは、AIを人間と同一視することではなく、私たちの思考と社会の両方を、より多様な心を受け入れるように進化させることです」とアルカス氏は語りました。

一方、フロリダ・アトランティック大学の教授であり、AIの意識や哲学などの分野における学際的な研究拠点「Center for the Future of AI, Mind & Society」の創設ディレクターでもあるスーザン・シュナイダー氏は、「AIの知能を意識と混同しないでください」と提言しました。AIはわずか数年の間に人間の能力に匹敵するほどの言語・推論・創造性・説得力を持ち始めていますが、これはあくまで膨大な人間の文章データに基づいてトレーニングされたものであり、意識があるという説得力のある証拠はないとシュナイダー氏は述べています。

AIは、人間が自分たちの内面について話した文章を学習することで、まるで主体があるかのように自分の内面について話すようになります。しかし、これには2つのワナがあるとシュナイダー氏は指摘。1つはAIを恐怖や愛着、痛み、自己認識などを表現するように意図的にトレーニングした場合、人間を操作する能力を高める可能性があります。また2つ目は、チャットボットにばかり注目することで、より早急に調査する必要がある、生きた人間のニューロンをシリコンチップ上で培養して学習させる「生物学的AI」や、人間の神経や脳のシステムに倣って電子回路を構築する「ニューロモーフィックAI」などの意識とAIに関する「グレーゾーン」を見落としてしまうことです。

科学者や哲学者の中には「意識には脳が必要」と主張する人のほか、「意識とは適切なソフトウェアを実行するだけの問題」と考える意見もあります。このようなソフトウェア中心の意見に基づくと、チャットボットが意識を持つようになる可能性は考えられます。しかしシュナイダー氏は、すべての現象は究極的には物理学に依存しているため、意識と無意識を区別するためには、基礎物理学に目を向けるべきだと主張しています。

人間はこれまで、知能の高さを理由に人間を他の動物より上位に置いていました。そこに、人間よりも意識をよく理解し、自己認識があると主張する「超知能」を作り出したとすると、人間の道徳的地位が脅かされることになります。これは、人類より優れた地球外文明との接触でも同様です。これらのファーストコンタクトに備えるには、物理学・神経科学・哲学をまたいだ研究と、会話能力と意識の厳密な境界設定、そして自分たちの考えが間違っている可能性について検討する認識論的謙虚さが必要となるとシュナイダー氏は結論付けています。