Geminiの生成したコンテンツに埋め込まれたSynthIDの電子透かしは除去可能

GoogleのAI・Geminiで生成された画像や文章に埋め込まれている、AI生成であることを示す電子透かしを無力化(除去)できることを、透かしに関する研究を行っているプロジェクト「reverse-SynthID」が示しました。

reverse-SynthID - Analyze and remove Google's AI watermark with precision.
https://www.pitchhut.com/project/reverse-synthid-engineering

GitHub - aloshdenny/reverse-SynthID: reverse engineering Gemini's SynthID detection · GitHub
https://github.com/aloshdenny/reverse-SynthID

SynthIDは、人間には識別不可能な電子透かしをGeminiで生成されるコンテンツに埋め込むことで、悪意ある目的で使用しにくくするための仕組みです。

Googleが「画像生成AIで生成した画像」に電子透かしを入れてフェイクの拡散を防止するツール「SynthID」を発表 - GIGAZINE

発表当初は画像のみに対応していましたが、2024年5月にテキストと動画にも対応。

GoogleがAI生成コンテンツに電子透かしを入れてフェイク拡散を防ぐ「SynthID」をテキストと動画にも拡張、一体どうやって文章に透かしを入れるのか？ - GIGAZINE

識別用の検証ポータル・SynthID Detectorも作られています。

コンテンツの制作にGoogleのAIが使われた否かを見分けられる「SynthID Detector」が登場 - GIGAZINE

AIによる電子透かしの研究を行っているアロシュ・デニー氏らは「reverse-SynthID」というプロジェクトにおいて、Googleのエンコーダーやデコーダーにアクセスすることなく、信号処理とスペクトル解析から、SynthIDの透かしが画像の解像度に基づいてそれぞれ固有の搬送周波数構造を持つことを特定しました。また、透かしの周波数パターンは同一モデルのGeminiによって生成された画像のあいだで一貫性を保つこともわかりました。

成果物として、90％の精度で透かしを検出できる検出器と、あらゆる画像解像度でSynthIDの透かしを無力化する手法「マルチ解像度スペクトルバイパス」を開発したとのこと。マルチ解像度スペクトルバイパスを使用すると、SynthIDの透かしとして埋め込まれている情報の位相の規則性を91％低下させることができ、「透かしがあるAI生成画像だ」と判定されにくくなります。

なお、実質的に「透かしを消せる」というこの手法について、デニー氏は「プロジェクトは研究および教育目的に限定されています。ツールは透かしの堅牢性に関する研究やAI生成コンテンツの識別に関するセキュリティ分析、スペクトル拡散符号化手法の理解という3つの目的を想定しているもので、AI生成コンテンツを人間が生成したものだと偽るために使うのはやめてください」と注意を呼びかけています。