Windows 11の「Recall」は機密情報フィルターがオンになっていてもクレジットカード番号のスクショを撮影してしまうという報告

2024年5月にMicrosoftが発表した操作履歴検索AI「Recall」は、セキュリティやプライバシーの観点から懸念の声が相次ぎ、延期を重ね2024年11月からWindows Insider向けのプレビュー版がリリースされています。海外メディアのTom's Hardwareがこのプレビュー版Recallをテストした結果、「機密情報フィルター」を有効化したにもかかわらず機密情報を保存していることが明らかになりました。

Microsoft Recall screenshots credit cards and Social Security numbers, even with the "sensitive information" filter enabled | Tom's Hardware
https://www.tomshardware.com/software/windows/microsoft-recall-screenshots-credit-cards-and-social-security-numbers-even-with-the-sensitive-information-filter-enabled

Microsoftは2024年5月21日に、PCにAIを統合した「Copilot＋ PC」という新たな製品カテゴリを発表し、その目玉機能として「Recall」を搭載することを明かしました。Recallは、ユーザーによるPC上の操作を定期的にスクリーンショット撮影し、光学式文字認識(OCR)でスキャンしてデータベースに保存することで、ユーザーが後から操作履歴を確認できるようにするという機能です。

MicrosoftがWindows 11の新AI機能「Recall」を発表、PCで見たもの行ったことをすべて記録しあとから検索できるパワフルすぎるAI検索機能 - GIGAZINE

一方でRecallにはユーザーが入力したパスワードや銀行口座番号などの機密情報が保存され、ハッキングによる情報漏えいのリスクがあることから、イギリスのデータ監視機関が調査に乗り出すなど世界中でRecallのリスクに関する議論が行われ、これを受けてMicrosoftはRecallのリリース延期と機能の見直しを行うことを発表していました。

その後、Microsoftは「スクリーンショットなどのRecall関連の情報は常に暗号化される」「暗号化キーはTPMで保護され、特殊な仮想化ベースのセキュリティ空間でのみ操作可能」などのセキュリティ対策やプライバシー対策を公開し、2024年11月22日からCopilot＋ PCにおいてRecallが利用可能になる「Windows 11 Insider Preview Build 26120.2415(KB5046723)」をWindows Insider向けにリリースしています。

物議を醸したWindows 11の「Recall」機能のテストがついにスタート - GIGAZINE

Tom's Hardwareによると、Recallには「Filter sensitive information(機密情報フィルター)」と呼ばれる機能が搭載されており、これを有効化することでパスワードやクレジットカード番号などのスクリーンショットを保存しなくなるとのこと。

しかし、Tom's HardwareがRecallの機密情報フィルターを有効化した状態で、Windowsのメモ帳に架空のクレジットカード番号とユーザー名、パスワードを入力すると、Recallはこの画面をキャプチャしたそうです。

また、Microsoft Edge上でローン申請書のPDFファイルに社会保障番号や名前、生年月日を入力したところ、同様にRecallがキャプチャしたことも報告されています。

さらに、Tom's Hardwareはクレジットカードのブランドやカード番号、セキュリティコード、有効期限を入力する独自のフォームを作成し、カード情報を入力。するとRecallはこの情報入力済みの画面もキャプチャしてしまいました。

一方で、実在するオンラインストア「Pimoroni」「Adafruit」の支払いページにカード番号を入力した際には、Recallは入力前の空白のフォームなどをキャプチャし、記入済みのクレジットカード情報入力画面をキャプチャすることはありませんでした。

Tom's Hardwareは「現実世界のコマースサイトに関しては、Recallは正しく機能しました。しかし、画面上に表示されるすべての機密情報を特定し、キャプチャを避けることはほとんど不可能です」と指摘しました。

Microsoftはこの結果に対し「Recallがクレジットカード情報やパスワード、個人識別番号などの機密情報を検出した場合、それらのスナップショットを保存することはありません。この機能は引き続き改善されていきますので、ユーザーのコンテキストや言語、または地域において、除外する必要がある機密情報が見つかった場合には、フィードバックをお寄せください」と述べています。