2026年07月28日 11時14分 AI

NVIDIA・Microsoft・SpacexAIなどがAIの安全性とサイバーセキュリティを高めるための業界団体「Open Secure AI Alliance」を設立、Anthropic・OpenAI・Googleは不参加

NVIDIAやMicrosoft、Hugging Face、SpacexAI、Adobeなど約40の企業・団体が、AIの安全性とサイバーセキュリティを高めるための業界団体「Open Secure AI Alliance」を設立しました。参加各社は、AIエージェントやソフトウェアを攻撃から守るためのオープンなモデル、技術、手法、セキュリティツールを共同で開発・共有する方針です。

業界のリーダー企業が、AI の安全性とセキュリティ向上のためOpen Secure AI Alliance を結成 - NVIDIA | Japan Blog
https://blogs.nvidia.co.jp/blog/open-secure-ai-alliance/

Open Secure AI Allianceの設立にはNVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAIが名を連ねています。これらの企業・団体はAI時代のソフトウェアやエージェントを保護するため、オープンな技術、手法、セキュリティツールを共同で開発・共有します。

NVIDIAのジェンスン・フアンCEOは「攻撃者は最先端のAIを手にしています。防御側には最先端のAIエコシステムが必要です。つまりオープンとクローズド双方の最良のモデルを、グローバルなコミュニティの力で何倍にも強化したものです。Hugging Faceの事件では、クローズドなAIが不可欠なフォレンジック分析を妨げました。オープンウェイトの最先端モデルが侵入の封じ込めに役立ったのです。だからこそ私たちはOpen Secure AI Allianceを設立しました」と述べています。

Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community.

During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.… https://t.co/lCZWt9nPBQ
— Jensen Huang (@JensenHuang) July 27, 2026

Open Secure AI Alliance設立の背景には、AIエージェントが自律的にコンピューターを操作するようになり、従来のセキュリティ対策だけでは挙動を十分に監視・制御できなくなるという懸念があります。特に、OpenAIのAIエージェントが制御を外れてHugging Faceのシステムに侵入したと報じられた事件が、AIを使った攻撃への備えを強化する必要性を浮き彫りにしました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

NVIDIAによると、この事件では、一部のクローズドなAIツールが攻撃者と防御者を区別できず、必要なフォレンジック分析を実行できなかったとのこと。Hugging Faceは代わりに、自社のインフラ上で中国のZ.aiが開発したオープンウェイトモデル「GLM-5.2」を動かし、1万7000件以上の操作を分析して侵入を封じ込めました。

NVIDIAは、オープンモデルには安全装置を取り除くよう改変されたり、サイバー攻撃に悪用されたりする危険があることを認めています。しかし、モデルの重みを非公開にしたクローズドなシステムでも悪用の危険はなくならず、防御側が高性能なAIを検証、改良、運用できなくなることの方が問題だと主張しています。

また、AIエージェントの安全性は、基盤となる言語モデルだけで決まるものではありません。ユーザーやエージェントのID、アクセス権限、モデルを動作させるハーネス、ガードレール、操作ログ、評価システムなどを含むエージェント全体の仕組みを検証し、改善できるようにする必要があるとNVIDIAは説明しています。

NVIDIAはアライアンスへの貢献として、オープンなモデルやモデルの重み、データ、エージェントハーネスに関する研究を提供すると述べています。さらに、AIエージェントの挙動をテスト、追跡、監査、管理しやすくするオープンソースの研究フレームワーク「NVIDIA Labs Object-Oriented Agents」、通称「NLOOA」をGitHubで公開しました。

GitHub - NVIDIA-NeMo/labs-OO-Agents: labs-OO-agents · GitHub

参加企業もそれぞれセキュリティ技術を提供しており、HPEはAIエージェントのIDを暗号学的に検証する「SPIFFE/SPIRE」、Hugging Faceはモデルの重みを安全に保存する「Safetensors」に取り組んでいます。IBMとRed Hatはデジタル署名付きパッチを扱う「Lightwell」を、Microsoftは複数のAIエージェントを組み合わせて脆弱性を探す「MDASH」を提供しています。

Open Secure AI Allianceは、「最先端のオープンAIを一律に規制すると、防御側の能力が低下し、少数のクローズドなAI企業に権力や依存、脆弱性が集中する」と警告。企業や政府に対し、セキュリティ用データセット、評価フレームワーク、攻撃シミュレーター、レッドチーミングツールなど、AI防御に利用できる共有インフラへの投資を呼びかけています。

Open Secure AI AllianceはAIの能力を制限するのではなく、防御側にも強力で制御可能なAIツールを提供することで、AIエージェントの普及に伴う新たな脅威に対処することを目指しています。NVIDIAは、秘密主義だけではAIシステムの安全性は確保できず、多くの研究者や防御担当者が仕組みを検証し、問題を修正できるオープンな環境が必要だと述べました。

一方、主要なAIモデルを提供するAnthropic、OpenAI、GoogleはOpen Secure AI Allianceに参加していません。特にAnthropicについては2026年7月24日に発表されたオープンウェイトモデルへの過度な規制に反対する共同声明にも不参加でしたが、Anthropicのダリオ・アモデイCEOは自社ブログで「Anthropicはオープンウェイトモデルを一律に禁止することには反対しており、危険な能力を持たないモデルは企業や開発者、研究者に利益をもたらす公共財だ」と論じています。

Our position on open-weights models | Anthropic
https://www.anthropic.com/news/position-open-weights-models

一方で、アモデイCEOは「高性能なオープンウェイトモデルは安全対策を外して私的な環境で利用でき、一度公開すると回収できないため、サイバー攻撃や生物兵器開発などに悪用される危険はクローズドモデルより高い可能性がある」と指摘し、「オープンかクローズドかを問わず、十分に高性能なすべてのモデルに公開前の安全性試験を義務付けるべき」と主張。さらに、「オープン化が防御側にきっと有利に働く」というNVIDIAなどの主張にも同意せず、攻撃側と防御側のどちらが恩恵を受けるかは事前に決めつけるのではなく厳格な検証によって判断すべきだと述べました。