AI「Copilot」が監査ログをすり抜けることが判明するもMicrosoftは通知せず

Microsoftのチャットボット「Copilot」を使用したソフトウェアエンジニアが、「Copilotで監査ログを残さずファイルにアクセスすることに成功した」と報告しました。これは重大な問題だとしてエンジニアはMicrosoftに報告しましたが、Microsoftはこっそりと修正しただけで、ユーザーに通知すらしなかったと伝えられています。

Copilot Broke Your Audit Log, but Microsoft Won’t Tell You - Pistachio Blog - Cybersecurity Awareness Training
https://pistachioapp.com/blog/copilot-broke-your-audit-log

この問題を報告したのは、セキュリティ企業の最高技術責任者を務めるザック・コーマン氏です。

通常、Copilotにファイルの要約を依頼すると、要約と共にファイルへのリンクが提供され、ファイルの監査ログにはCopilotがユーザーの代わりにアクセスしたことが記録されるとのこと。

ところが、明示的に「ファイルへのリンクを提供しないで」と指示すると、要約は表示されるものの、ファイルへアクセスした記録は一切残らないようになるそうです。

監査ログは、ファイルに誰がアクセスしたかを記録しておくもので、セキュリティ上役立つのはもちろん、裁判などで証拠として使われることもあります。コーマン氏は、「脆弱(ぜいじゃく)性を探している中で発見したものではなく、普通に使っている最中にこの問題が発生したので、他の人にも同じことが起きている可能性がある」として、Microsoftに報告しました。

ところが、Microsoftは速やかに対応しなかった上、コーマン氏に黙ってこっそりと機能を修正していたとのこと。

Microsoftに問題を報告すると、問題のステータスが「再現中」になり、修正作業が始まったら「開発中」に変わるなどするそうですが、コーマン氏の件では「再現中」の段階で機能自体が修正されていました。コーマン氏が説明を求めると、ステータスは「開発中」に変更されました。

報告からしばらくして、Microsoftから「間もなく修正プログラムをリリースします。リリース翌日には自由に情報開示ができます」という連絡がありました。ここで、コーマン氏が「CVE番号はいつ発行されるのか」と尋ねると、Microsoftは「CVEは、お客様がセキュリティを維持するために対策を講じる必要がある場合に付与されます。今回の場合、緩和措置はCopilotに自動的にプッシュされ、ユーザーは製品を手動で更新する必要がないので、CVE番号は割り当てられません」と返答されたそうです。

コーマン氏は「この対応は、Microsoftのポリシーとは全く異なるものである」と指摘。「MicrosoftがCVEを割り当てないなら、顧客には通知しないということか」と憤りを見せています。さらにコーマン氏がMicrosoftに電話で尋ねたところ、「この件を公表する計画はない」との返答があったため、コーマン氏は「Microsoftの顧客に大きな被害が生じる可能性がある」と伝えています。

コーマン氏は「Microsoftの監査ログに依存して技術的セキュリティ要件を満たそうとしている企業は、今回の事実を知らされないのでしょうか？企業が監査ログに依存してインシデントの検出、調査、対応を行うケースは数多く存在します。監査ログが重要な証拠として使用される訴訟もあります。そして今、Microsoftは、監査ログが誤っている可能性が高いにもかかわらず、誰も知る必要はないと主張しています。これは、Microsoftが他の事実も隠ぺいしているかもしれないという新たな疑問を投げかけるものでもあります」と主張しました。