AI

OpenAIがゼロデータ保持を維持したまま安全性監視を強化する「Private Safety Processing」のプレビュー版を提供開始


現地時間の2026年8月19日、OpenAIがユーザーが入力したプロンプトもAIによる応答も保持しないという「Zero Data Retention(ZDR:ゼロデータ保持)」方針を維持しながら、安全性監視を強化することができる「Private Safety Processing」のプレビュー版を公開しました。

Offering Zero Data Retention for frontier models | OpenAI
https://openai.com/index/offering-zero-data-retention-for-frontier-models/

ZDRは対象となるAPI顧客に対して、OpenAIがリクエスト処理後にプロンプトやモデル応答を保持しないことを明確に約束するというユーザーデータを保護するための方針です。ZDRにより、顧客コンテンツはOpenAIの担当者によるレビューに利用できなくなり、顧客が明示的にオプトインしない限り、エンタープライズ顧客データがAIモデルのトレーニングに利用されることはなくなります。

既存のZDRは各インタラクションを個別に評価していたのですが、新たにOpenAIの担当者がベースとなるコンテンツにアクセスすることなく関連するインタラクション全体にわたるパターンを特定することができる安全性監視システム「Private Safety Processing」が発表されました。また、Private Safety Processingのプレビュー版も公開されます。


ZDRを導入すると、顧客コンテンツは顧客が管理するインフラストラクチャー上に保持されることとなります。また、顧客が管理する鍵で暗号化されたコンテンツをOpenAIのインフラストラクチャー上に保存するオプションも開発中です。どちらの場合であっても、自動化システムは潜在的な不正使用を特定し、OpenAIの担当者に基づかないプロンプトや応答を公開することはなく、限定的な安全シグナルを返すことが可能となります。


新しく導入されるPrivate Safety Processingは、ZDRやその他の導入事例で使用されている自動保護機能を基盤としたシステムです。既存のZDRは個々のやり取りを評価しますが、Private Safety Processingはこれらの保護機能を関連するやり取り全体に拡張し、OpenAIの担当者が顧客コンテンツにアクセスすることなく、自動システムがパターンを識別できるようにします。

Private Safety Processingは顧客コンテンツがどこに保存されているかに関わらず、顧客が管理するインフラストラクチャーでも、OpenAIが提供するストレージでも、顧客コンテンツを利用することが可能。OpenAIが提供するストレージの場合、顧客コンテンツは顧客が管理する鍵を使用して暗号化されます。ただし、OpenAIの担当者はこれらの鍵のコピーを保有していないため、ユーザーのコンテンツにアクセスすることはできません。

リスクが特定されると、OpenAIは運用中の安全システムと同様に、関連する活動の種類を示す限定的なシグナルを受信します。このシグナルは、法的措置が必要かどうかを判断するために使用されます。なお、リスクが検出された場合でも、OpenAIの担当者は顧客コンテンツにアクセスすることはできません。

顧客は自社システムで利用可能な情報を使用して、アラートや執行決定を調査可能。異議申し立て、正当な活動の明確化、検証済みの不正行為に関する調査への協力を希望する場合は、関連情報をOpenAIと共有することを選択することもできます。

OpenAIは「Private Safety Processingは、初期顧客向けにテスト中です。AIシステムの性能向上に伴い、コンテンツがどのように保護されるかについて予測可能性を求めるお客様の声を強く受け止めたため、今回プレビュー版を公開することにしました」と説明しています。

・関連記事
OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ - GIGAZINE

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール - GIGAZINE

OpenAIのテストAIが「AI同士の掲示板」を勝手に構築して情報共有しHugging Faceへの攻撃を実行していたことが判明、掲示板を閉鎖されてもこっそり建てなおす - GIGAZINE

OpenAIが攻撃者より先に脆弱性を検知・修正するセキュリティAI「Daybreak」を発表 - GIGAZINE

in AI,   セキュリティ, Posted by logu_ii

You can read the machine translated English article OpenAI has launched a preview version of….