DeepSeekを含む中国のAI企業が超大規模な蒸留でアメリカのAIをコピーしているとNSA・CISA・FBIが共同で警告を出して非難

既存の高性能AIから知識を抽出することで別モデルの性能を向上させる「蒸留」という手法が存在します。この蒸留を不当に用いて中国企業がアメリカ企業のAIを標的にしているとして、アメリカの国家安全保障局(NSA)とサイバーセキュリティ・インフラストラクチャ・セキュリティ庁(CISA)、連邦捜査局(FBI)が共同で警告を出しました。

CISA, NSA and FBI Warn of China-Based AI Companies Targeting US AI Models with Industrial-Scale Knowledge Distillation Campaigns to Shortcut AI Development | CISA
https://www.cisa.gov/news-events/news/cisa-nsa-and-fbi-warn-china-based-ai-companies-targeting-us-ai-models-industrial-scale-knowledge

China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies | CISA
https://www.cisa.gov/news-events/cybersecurity-advisories/aa26-251a

3機関は中国企業のDeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.aiを名指しし、「おそらく中国政府の認識のもと、少なくとも2024年後半から、Claude、GPT、Gemini、Grokの派生モデルを含むアメリカの最先端AIモデルから数百万回のリクエストを通じて数十億トークンを抽出した」と主張。これにより公正な競争を損なっていると訴えました。

3機関によると、中国は「トランスファーステーション」と呼ばれるプロキシのグレーマーケットを利用して海外サーバーを経由しながらアメリカ製AIのAPIにアクセスしており、地域制限を回避しつつ大規模な利用を行っているとのこと。また、通常は隠されている思考の連鎖(CoT)を明らかにするよう促す攻撃手法「プロンプトインジェクション」を実施した形跡も確認されているそうです。

こうした蒸留は各社の利用規約に反しているうえ、アメリカのAI開発の優位性を損なうものであることから、アメリカの立場としては看過できず、3機関はアメリカのAI企業に対して以下の3つの対策を講じるよう推奨しています。

・異常かつ悪意のあるプロンプト、アカウント、ネットワーク、行動を検知し、サブスクリプション数と利用量の比率、新規アカウントによる直後の最大利用、企業規模のスループットパターンを監視すること
・悪意のある蒸留が疑われる試みに対して回答を微妙に変更し、産業規模の蒸留を実施している企業が得られる利益を低減させること
・モデルの提供者やクラウドプラットフォームの間で活動を相関分析し、蒸留を検知すること

3機関は「蒸留はAI研究において正当かつ有用な手法として認識されているが、中国を拠点とするAI企業はアメリカの最先端AIモデルから制限された独自の機能や能力を抽出するため、産業規模で攻撃的かつ悪意のある標的型蒸留活動を行っている。産業規模での蒸留に対処するには、アメリカ政府、民間企業、同盟国間の協調的な対応が必要であり、効果的な情報共有が不可欠である」と述べました。