Claudeを開発するAI企業のAnthropicが哲学者や宗教団体と意見交換する理由とは？

AIツールのClaudeを開発するAnthropicは、安全性や信頼性などを重視した人間第一のAI開発を理念としています。そんなAnthropicが、一見するとAIとは関係なさそうな哲学者や宗教団体などと対話する活動に力を入れる理由について説明しました。

Widening the conversation on frontier AI \ Anthropic
https://www.anthropic.com/news/widening-conversation-ai

Anthropicは過去数カ月間で、AIが提起する問題に関連した活動を行っているさまざまな団体との対話を企画してきました。2026年3月下旬にはAnthropic本社にキリスト教の聖職者や学者らを招き、2日間にわたるサミットを開催しています。

Anthropicがキリスト教指導者たちや哲学者とサミットを開催、AI「Claude」は「神の子」になり得るのか？ - GIGAZINE

Anthropicは、安全で有益なAIモデルの構築には整合性や解読可能性、安全対策などに関する高度な技術的作業が必要だと指摘。その上で、すでにAIは一部の専門家だけでなく多くの人々に利用されており、AIが提起する問題は多様な視点から考察されるべきものだとも考えています。

人間重視の理念を掲げるAnthropicは単に高度なAIを開発するだけでなく、「強力なAIが存在する未来において繁栄するとはどういうことなのか」「大勢と交流するAIが『善』であるとはどういうことなのか」について考え、Claudeの行動指針や価値観を定義した「憲法」について慎重に検討しているとのこと。

哲学者や聖職者、弁護士、作家、心理学者、市民活動家といった人々は、こうしたAIの倫理や道徳に関する問題について広範な研究を行ってきました。Anthropicは、「私たちはこうした個人、彼らのコミュニティ、そして彼らの組織から学ぶことが重要です」と述べ、哲学者らと対話する理由を説明しています。

AIモデルは膨大な量のテキストを用いてトレーニングされており、開発者はどのパターンを強化あるいは無視するのか、AIモデルにどのような性格特性を身につけさせたいのかを選択します。これは「AIモデルにとって『良い性格』とは何なのか」「特定の状況下でどのような特性や行動を示すべきなのか」「人間の操作に屈することがなく、プレッシャーに強い性格をどのように身につけさせるのか」といった問題を提起します。

Anthropicと多分野の専門家との対話は初期段階ですが、すでに神経科学や人格形成について研究する学者らとのセッションでは、道徳的発達における「他者」の重要性について示唆を受けたとのこと。人間にとってのメンター(指導者)やサポーター(支持者)は、自分の価値観に反する行動を強いられた時に頼れる「安全な他者」として機能し、それが道徳的な信念を守る上で役立ちます。

Anthropicはこの考えがAIモデルにも役立つのではないかと考え、Claudeにタスクの途中で呼び出せるツールを与え、自身の倫理的コミットメントを簡潔に思い出させる実験を行いました。その結果、Claudeは重大な行動の前にこのツールを呼び出し、しばしば自身の利益相反に気付くことができたとのことです。

今後数カ月のうちに、Anthropicは法学者や心理学者、作家、市民団体などより多くのグループと連携していく予定です。Anthropicは、「これらの対話の多くは道徳形成という枠を超え、AIが仕事、制度、権力配分をどのように変革していくかという、より広範な問題へと発展していくでしょう」と述べました。

Anthropicが一方的に宗教へ目を向けているわけではなく、宗教者たちもAIの動向を注視しています。ローマ教皇レオ14世は5月25日に発表予定の回勅で、「AI時代における人間の保護」について語るとされています。回勅の発表イベントでは、Anthropicの共同創業者でありAIの安全性に関する研究を専門としているクリストファー・オラー氏も講演する予定です。

ローマ教皇レオ14世が初の回勅で「AI時代における人間の保護」について語る予定、イベントにはAnthropic共同創業者も参加 - GIGAZINE

by Catholic Church England and Wales