リリース延期になったWindowsのPC操作履歴検索AI「Recall」に施されたセキュリティ対策の詳細が明らかに

Microsoftは2024年5月にCopilot＋ PCの目玉機能として操作履歴検索AI「Recall」を発表しましたが、セキュリティやプライバシーに関する懸念の声が大量に寄せられたことを受けてリリース時期の延期が決定しました。そんなRecallに施されたセキュリティ対策やプライバシー対策についてMicrosoftのエンタープライズおよびOSセキュリティ担当ヴァイスプレジデントを務めるデビッド・ウェストン氏が解説しています。

Update on Recall security and privacy architecture | Windows Experience Blog
https://blogs.windows.com/windowsexperience/2024/09/27/update-on-recall-security-and-privacy-architecture/

Recallは「画面のスナップショット」を5秒ごとに撮影して、画面内に表示されている画像やテキストなどのコンテンツを分析して検索可能にするAI機能です。RecallはAI処理能力の高いCopilot＋ PC向けの目玉機能として2024年5月20日に発表されましたが、セキュリティやプライバシーに関する懸念を受けて2024年6月7日には「ユーザーが許可するまではRecallを無効化する」ことを発表。さらに2024年6月13日にはRecallのリリースそのものの延期が決定しました。その後、2024年8月21日には「2024年10月にWindows Insiderを対象にRecallをリリースする」ということが報告されました。

Microsoftが物議を醸す「Recall」機能を2024年10月からWindows Insider向けに提供することを発表 - GIGAZINE

そして、2024年9月27日にはRecallのリリースに先駆けてセキュリティ対策やプライバシー対策についての詳細が公開されました。ウェストン氏の説明によると、Copilot＋ PCでは初期セットアップ中に以下のような画面が表示され、Recallを使うか使わないかを選択できるとのこと。ユーザーがRecallを有効化しない場合はスナップショットの撮影や保存は実行されず、Windowsの設定内にRecallを削除するオプションも設置するそうです。

また、Recallを有効化した場合でも、スナップショットなどのRecall関連の情報は常に暗号化されるとのこと。暗号化キーはTPMで保護され、「VBSエンクレーブ」と呼ばれる仮想化ベースのセキュリティ空間でのみ操作可能です。このため、暗号化キーにアクセスするにはWindows Helloでのユーザー認証が必要となり、同じPCを使う別ユーザーでもあっても暗号化キーにアクセスすることはできません。

暗号化キーだけでなく、スナップショットの分析機能などのRecall関連サービスもVBSエンクレーブ内で動作するようになっており、RecallのUIへのアクセス承認や設定変更にもWindows Helloでのユーザー認証が必要です。これらの対策によって、マルウェアによるデータ侵害を制限できるとのこと。

さらに、ウェストン氏はRecallに施されたプライバシー保護施策として、以下の点を挙げています。
・スナップショットや関連データはローカルに保存される
・スナップショットや関連データはMicrosoftと共有されず、同一デバイス上の他ユーザーとも共有されない
・ユーザーはスナップショットの「削除」「一時停止」「無効化」をいつでも実行できる
・ユーザーはスナップショットを保存する期間やストレージ容量制限を設定できる
・「Edge」「Firefox」「Opera」「Chrome」「Chromiumベースブラウザ」のプライベートブラウジングは保存しない
・「Edge」「Firefox」「Opera」「Chrome」では特定のウェブサイトの保存を無効化できる
・パスワードやクレジットカード番号といった機密情報はデフォルトでフィルタリングされる
・検索結果内に表示される「保存するつもりのなかったコンテンツ」はいつでも削除できる
・システムトレイのアイコンでスナップショットの保存状況を確認したり一時停止したりできる

加えて、Recallは「Microsoft Offensive Research ＆ Security Engineering team(MORSE)」よる設計レビューや侵入テストを数カ月にわたって受けているほか、サードパーティーのセキュリティベンダーによる独立した設計レビューや侵入テストも受けているとのこと。ウェストン氏はこれらの設計やテストによって「既知の脅威に対する強力な制御」を実現できたとアピールしています。