MicrosoftとAdobeが推進する「AI透かし」はどのように機能するのか

自社のAI生成画像にメタデータを追加して将来登場するアプリでAI生成画像を見分けられるようにするとの声明を、MicrosoftやAdobe、Intelなどテック企業各社が発表しています。各社は共通して「CR」と書かれたアイコンを導入する予定としていますが、このアイコンは一体何なのか、どのように機能するのかについて、テクノロジー系ニュースメディアのThe Registerが解説しています。

Content Credentials
https://contentcredentials.org/

Microsoft and Adobe push new symbol to label AI images • The Register
https://www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/

以下のアイコンは標準化団体のCoalition for Content Provenance and Authenticity(C2PA)が策定したもので、CRという文字は「Content Credentials(コンテンツ認証情報)」を表しています。この認証情報は、コンテンツの作成者が、コンテンツに付与することができます。

コンテンツの作成者は、コンテンツ認証情報として、作成者や代替テキスト、AIを使用したかどうかといった情報をメタデータとして付与することが可能。こうした情報はCRアイコンをクリックすることで誰でも見ることができるのですが、そのためにはCRアイコンの表示に対応したアプリケーションが必要です。

対応したアプリケーションで認証情報が付与されたコンテンツを見ると、コンテンツの上にCRアイコンが表示されます。以下の例では、画像の右上にCRアイコンが表示されています。

一方、対応していないアプリケーションでは、CRアイコンが表示されません。これはアイコンが表示されないだけで、メタデータとしては記録が残っている場合があるため、コンテンツ認証情報を検証するページにファイルをアップロードすることで、認証情報を確認することができます。

コンテンツ認証情報は、それぞれのファイルに直接添付するか、コンテンツ認証情報クラウド(Content Credentials cloud)にアップロードするか、その両方を行うかの3択で付与することが可能。

ファイルに直接添付した場合、情報の回復力が低いことから、コンテンツが共有されたときにメタデータが失われることがあります。

Content Credentials cloudは認証情報確認のためのクラウドで、複数の事業者によって管理される予定です。クラウドを通じてコンテンツを公開すると、後にメタデータが失われたとしても、画像検索のような仕組みで元のコンテンツを探し出し、メタデータを復元することができるとされています。例えば、Adobeは「Adobeプランに含まれるクラウドファイルストレージとは別の、コンテンツ認証情報用のパブリックな永続ストレージ」としてContent Credentials cloudを管理しています。

The Registerは「この仕様は印象的ですが、アプリケーションがメタデータをサポートするということに依存しています。加えて、誰かがメタデータを取り除いたり、メタデータなしで別のフォーマットにファイルをエクスポートしたり、シンボルを表示しないアプリケーションからスクリーンショットを撮ったりして、認証情報なしの画像を配布する可能性があるのも事実です」と指摘しました。

MicrosoftやAdobeなどが声明で言及したのは、将来のAI生成アプリケーションが認証情報を自動で付与するようにするという点です。C2PAの立ち上げには両社ともに関与しているため、自らが積極的に採用していき、世界中に広めようとする姿勢が見受けられています。実際、多数のアプリケーションが認証情報を表示できるようにしなければ、こうした取り組みは功を奏しません。C2PAの立ち上げには他にもArmやIntelが携わっており、メンバーとしてソニーやキヤノン、パナソニックも参入しています。

Microsoftは、自社の自社の画像生成AIサービス「Bing イメージクリエーター」でCRアイコンを表示できるよう進めています。フランスの広告会社であるPublicis Groupeや、カメラメーカーのライカ、ニコンなども、C2PAの認証情報に関わっていくと述べているとのこと。

The Registerは「CRアイコンが著作権マークと同様にユビキタスな存在になれば、C2PAの試みは達成されるかもしれません。間違いなく正しい方向への一歩ではありますが、包括的なソリューションとなるにはまだ遠いといえます。これまでのところ、採用はごく一部の大手企業に限られています。生成AIの開発者、ソーシャルメディア、アプリメーカー、パブリッシャーなど、より多くのプラットフォームが、効果的にサポートする必要があります」と述べました。