AIの思考っぽい「J空間」を可視化できる「Jレンズ」を触ってみた

AIモデルの性能は急速に向上し続けていますが、実はAIが出力を決定するまでの処理過程は完全には解明されていません。そんな中、Claudeの開発元であるAnthropicがAIの出力決定に関連する「J-space(J空間)」という概念を提唱し、J空間を観察できる「J-lens(Jレンズ)」のデモアプリも公開しました。

Jacobian Lens – Qwen3.6-27B ｜ Neuronpedia
https://www.neuronpedia.org/qwen3.6-27b/jlens

人間が意識的に物事を処理する際は「意識的にアクセス可能(consciously accessible)な活動」と呼ばれる脳活動パターンが現れるのですが、ClaudeなどのAIモデルでも「他の内部処理と比べて特別な役割を果たす少数のニューラルパターンの集合」が存在することが判明。Anthropicはこの集合を「J-space(J空間)」と名付けています。

AIが指示を処理するとき「思考」に特化した「J空間」が活性化していることが判明 - GIGAZINE

J空間を可視化するJ-lensのデモが以下のリンク先で公開されているので実際に使ってみます。

Jacobian Lens – Qwen3.6-27B ｜ Neuronpedia
https://www.neuronpedia.org/qwen3.6-27b/jlens

デモはこんな感じ。左側のチャットエリアでAIと会話すると、右側に「J空間で活性化したフレーズ」が表示されます。AIモデルはQwen3.6 17BやGemma 3 12Bなどから選択できます。

「スマートフォンの選び方を教えて」と入力して送信。

左側にAIの回答が表示され、右側にJ空間で活性化したフレーズが表示されました。

回答を出力する間に最も多く活性化されたフレーズは「smartphone」で、その後に「smartphones」「iPhone」「affordable(お手頃価格)」といったフレーズが続きます。

各トークンの「次のトークン」を出力するまでにJ空間で活性化したフレーズも確認可能。「スマート」の次のトークンを出力する際は「フォ」「phones」といったフレーズが活性化しました。

「最新」の次のトークンを出力する際は「機種」「の」「規格」といったフレーズが活性化し、最終的に「機種」というトークンを出力しています。

なお、J空間はAIモデルの設計段階で考慮されていたものではなく、AIモデルの学習過程で自然と生じたものだそうです。ただし、J空間が存在するからといってAIモデルに人間と同じような思考や感情があることを示すわけではありません。