WindowsのペイントやMicrosoftフォトのAI生成画像に電子透かしが埋め込まれていることが判明

Windowsのお絵描きアプリ「ペイント」や画像管理アプリ「Microsoftフォト」にはAIを利用した画像生成・編集機能が搭載されています。これらのAI機能を使うと、サーバーからGUID(グローバル一意識別子)が発行されて目に見えない電子透かしとして画像に埋め込まれることがわかりました。

Microsoft Paint and Photos Embed Server-Issued GUIDs as Invisible Watermarks in Locally-Generated Images :: Xusheng Li
https://xusheng.dev/posts/reversing/mspaint_invisible_watermark/main/

ソフトウェア開発者でセキュリティ研究者としても活動しているシュシェン・リー氏は、MicrosoftペイントによるAI画像生成が正確にどのように機能しているかに興味を持ち、調査を行いました。

調査を行う前、リー氏は画像生成がリモートAPIによって行われているのではないかと予想していましたが、実際には、MicrosoftがCopilot+ PCの一機能としてWindowsにローカルモデルを搭載しているため、ローカルでもリモートでも画像生成が可能だったとのこと。

調べを進めると、AIによる画像生成を行うMicrosoftペイント、およびAIによる画像編集ができるMicrosoftフォトは、ともにプロンプトをリモートサーバーに送信してモデレーションを行い、サーバーからはモデレーション後のプロンプトとともにGUIDが送られていました。

画像生成・編集を完全にローカルで行えるCopilot+ PCでも、プロンプトのモデレーションはリモートで行われていました。

もともとMicrosoftペイントには、AI生成であることを示す透かしを表示する設定が存在していて、表示する場合は画像右下にCopilotロゴが表示されます。しかし、このGUIDは不可視、つまり目には見えない透かしとして埋め込まれていました。

Microsoftは画像生成時、AI生成画像であることを認識できるようにC2PAマニフェストが組み込まれると説明していますが、リー氏はC2PAマニフェストに不可視の透かしを識別するGUIDが含まれていることや、ローカル生成でもリモートサーバーから透かしのGUIDを受け取っていることが説明されていないと指摘しています。