Anthropicが「オープンモデルは歓迎するが中国に高性能AIチップを輸出するべきではない」という立場を示す

Claudeの開発元であるAnthropicが、「オープンウェイトモデルに関する我々の見解」という声明を公開しました。

Our position on open-weights models \ Anthropic
https://www.anthropic.com/news/position-open-weights-models

中国製のオープンウェイトモデルに関する議論が交わされており、一部のアメリカ当局者は「アメリカ企業によって中国製オープンウェイトモデルの使用を禁止すること」を検討しているという報道もあります。

トランプ政権が外国製オープンソースAIモデルの事実上の禁止措置を再検討、中国の台頭に懸念 - GIGAZINE

これに対して、ProtonやY Combinatorなど約200の企業が参加する業界団体の「Little Tech Association」は、トランプ政権に対して中国製オープンウェイトモデルの規制を踏みとどまるよう求める書簡を送付しました。

アメリカのスタートアップ企業が「中国製のオープンウェイトAIを禁止しないで」とトランプ政権に訴えかける - GIGAZINE

このような禁止措置は有効な手段ではないと、Anthropicのダリオ・アモデイCEOは主張し、「Anthropicはオープンウェイトモデルの禁止を提唱したことは一度もありません」と語っています。

アモデイCEOは「危険な機能を持たないオープンウェイトモデルは公共財です。実行に必要な計算コスト以外に費用はかからず、企業・開発者・研究者に価値を提供するものです」と語りました。

アモデイCEOは「保護主義的な禁止措置では、私の最も深刻な国家安全保障上の懸念は解消されません」と言及。具体的には2つの悪夢のようなシナリオを懸念していると述べました。アモデイCEOが挙げる「2つの悪夢のようなシナリオ」は以下の通り。

1：アモデイCEOが最も懸念しているのは、権威主義的な政府(中国共産党だけではないが、中国共産党が明らかに最も有力な脅威)が、アメリカが構築したAIモデルよりも強力なAIモデルを構築し、それを利用して恒久的な軍事的優位性を獲得したり、自国民に対する極めて深刻な弾圧を実行したりするリスクです。

この懸念はアメリカ政府内で広く共有されています。バンス副大統領は2025年にパリで、「権威主義的な政権はAIを盗み、軍事、情報、監視能力を強化するために利用している」と警告しました。情報機関の2026年の年次脅威評価では、「他の世界の大国によるAIの急速な進歩は、アメリカの経済競争力と国家安全保障上の優位性を脅かしている」と結論付けています。

これらのモデルが公開されるかどうか、またアメリカ企業が利用するかどうかは関係ありません。実際、最も危険なモデルは、「秘密裏に訓練され、監視と弾圧のため国家安全省にのみ渡されるモデル」かもしれないと、アモデイCEOは主張しました。

2：アモデイCEOが抱く第二の懸念は、強力なAIモデルがサイバー攻撃や生物兵器攻撃を実行するために悪用されるリスク、および深刻なアライメントの問題を抱える可能性があるという点です。オープンウェイトモデルは、中国製であろうと他国製であろうと関係なく、ガードレールを適用したり使用状況を監視したりすることが非常に困難で、一度ウェイトが解放されると取り消すことができないため、クローズドモデルよりも潜在的に高いリスクをもたらすとのこと。

しかし、アメリカ企業によるこれらのモデルの使用を禁止しても、このリスクに対処することはできません。なぜなら、悪意のある行為者は正当なアメリカ企業である可能性は低いからです。加えて、一部のオープンウェイトモデルの使用を禁止することは、アメリカのAI企業を競争から保護することにはつながるものの、「それは私の目的ではありません」とアモデイCEOは主張しました。

これらの懸念に対処するため、アモデイCEOは3つの措置を支持すると語りました。

1：中国に高性能チップやチップ製造装置を販売すべきではない
横行する密輸や、そのようなチップを入手するために用いられる抜け穴を徹底的に取り締まるべきです。中国は国内生産能力が限られているため、スケーリング法則により、アメリカ製チップなしではアメリカよりも高性能なモデルを構築することはできません。これは「脅威1」を阻止する最も効率的かつ直接的な方法であり、アメリカの法律の及ばないモデルの育成を阻害することで、間接的に「脅威2」の解決にもつながります。

2：産業規模の蒸留の取り締まり
蒸留は、ゼロからモデルをトレーニングするよりもはるかに計算効率の良いプロセスです。これにより、中国は通常のチップでは不可能なほど優れたモデルを構築することに成功しており、高性能チップの輸出禁止措置などを部分的に回避することにつながっています。蒸留によって中国共産党がアメリカと同等またはそれ以上のAI能力を獲得できるわけではありませんが、中国の最先端技術をアメリカの最先端技術から数カ月以内にまで近づけることができる可能性があります。確かに、これらの操作を実行している企業の多くはオープンウェイトモデルを公開していますが、オープンウェイトモデルは最先端技術でアメリカを追い抜こうとする権威主義国家によって操作が支援されているという事実に比べればはるかに重要ではありません。アメリカはこの行動を抑止するための政策介入を行うべきです。オープンウェイトモデルを全面的に禁止することは、正しい解決策でもなければ、我々が求めてきたものでもありません。

3：十分な能力を持つモデルはすべてオープンモデルとクローズドモデルを問わず必須の安全性テストを受けるべき
「脅威2」に対処する最善の方法は、モデルのリリース前にあらゆるリスクについてモデルを直接テストすることです。ここここ数カ月、トランプ政権がこの方向に動いており、能力の高いモデルについては、その開発国やオープンかクローズドかに関係なくテストを実行するという業界提案もあります。

オープンモデルがリスクを高めるかどうか、またそのリスクを軽減できるかどうかは、事前に決定するのではなく、テストから明らかになるべきことです。モジュール式トレーニング戦略に関するAnthropicの最新研究など、オープンウェイトモデルの安全性を向上させる有望な方法があるかもしれません。効果的なテストを行うには、グローバルなテストが必要であり、中国共産党も賛同する必要があることに注意してください。この実現可能性についてアモデイCEOは「実際に可能かもしれません。AIによる生物兵器の防止に関する限定的な協力は、中国の利益にもなるため、可能かもしれません」と語りました。

なお、Anthropicの競合であるOpenAIやGoogleといったAI企業は、Microsoftの「AIリーダーシップを確保するためにアメリカ主導でオープンモデルを開発するべき」という声明に賛同していますが、Anthropicはこれに賛同していません。

「AIの発展にはアメリカ製オープンモデルが必要不可欠」とする声明をMicrosoftが発表しNVIDIA・OpenAI・Google・AMDなども賛同 - GIGAZINE

その理由について、Anthropicは「Microsoftの声明の多くに同意します。オープンウェイトモデルはAI経済へのアクセスを拡大し、少なくとも一部のユースケースでは競争を強化し、顧客により大きな制御権を与えます。蒸留に関する懸念は、私が述べたのと同じ措置が提案されており、的を絞った法的および商業的枠組みを通じて対処されるべきです。しかし、オープンウェイトモデルが必ずしも安全対策の開発を容易にする、あるいは機能への広範なアクセスが必ずしも攻撃者よりも防御者を有利にする、という書簡の主張には同意できません。少なくとも私には、その逆が真実である可能性が高いように思えます。例えば、生物学において攻撃者と防御者の間に強い非対称性が生じることを懸念しています。十分な能力を持つモデルは、広く入手可能な材料を使ってパンデミックレベルのウイルスを迅速に兵器化できる可能性がある一方で、これらの病原体に対する防御は、最良の場合でも数年かかる運用上の課題となる可能性があります」と語りました。