AI生成画像検出システムがイスラエルとパレスチナの戦争の写真を「ニセモノ」と誤判定、専門家はAIで生成したものではないと指摘

2023年10月7日に、パレスチナのガザ地区を支配するイスラム原理主義組織のハマスがイスラエルを攻撃したことで発生した大規模紛争では、無関係な偽の写真や動画が数多くSNSに出回っていることが報告されています。これらを見分けるために活用されたAIが、本物の写真を「AIによって生成されたもの」と誤認識したことが判明しました。

なお、この記事には生々しい写真やそれらへのリンクが掲載されているため、閲覧の際は注意してください。

AI Images Detectors Are Being Used to Discredit the Real Horrors of War
https://www.404media.co/ai-images-detectors-are-being-used-to-discredit-the-real-horrors-of-war/

問題の写真は、イスラエル政府が「これらは、ハマスの怪物によって殺害され、焼かれた赤ん坊の恐ろしい写真です」としてSNSのXに投稿したものです。

この写真が偽物だという臆測が広まるきっかけになったのは、保守派のユダヤ系アメリカ人コメンテーターであるベン・シャピーロ氏が同じ写真を投稿した時のことです。

50万人のフォロワーを擁する別のXユーザーであるジャクソン・ヒンクル氏は、シャピーロ氏の投稿の写真を無料AI画像検出ツール「AI or Not」にかけたスクリーンショットをXに投稿し、「赤ちゃんの焼死体の写真はAIが合成したもの」と断定した上でシャピーロ氏はほら吹きだと非難しました。なお、以下の画像をクリックするとモザイクがないヒンクル氏の投稿のスクリーンショットが表示されます。

「赤ちゃんの焼死体の写真はフェイク」という主張は瞬く間にSNSで拡散され、「イスラル政府の公式アカウントがAIで生成した誤情報を流している証拠」として利用されました。

ところが、デジタル画像の分析やディープフェイクなどデジタル操作された画像の検出を専門としているカリフォルニア大学バークレー校のハニー・ファリド教授は、この画像にはAIによって生成された形跡はないと指摘しています。

ファリド氏は、写真に写った影と光源の位置関係に一貫性がみられることなどを分析した上で、「構造的な一貫性、正確な影、AIが生成したものにありがちな画像のゆがみであるアーティファクトがないことから、部分的にAIが生成したものでもないと思われます」と述べました。

AIが生成したものではないからといって、写真の実否までは断定できません。なぜなら、撮影日時や撮影場所はこの写真1枚だけではわからず、被写体が本当に人間の赤ちゃんの焼死体なのかどうかも検視官の見解がなければ判断できないからです。

画像掲示板の4chanでは、この画像に子犬を合成したものが「オリジナルの写真」として出回っているとのこと。偽の画像を本物として流布させるのも、事実を伝える写真を疑わしいものにするための手口のひとつだと、ファリド氏は指摘しています。

その上でファリド氏は、インターネット上で公開されている多くのAI画像検出ツールについて、「これらの自動化ツールのほとんどは、本物の画像とAIの生成画像を大量に用意して、それらの違いを判別できるよう別のAIシステムをトレーニングすることで作られています。しかし、それらは透明性がないブラックボックスです。最高で90％の精度で動作することもありますが、守備範囲外の画像や解像度が低い画像、トレーニングされていない素材が使われている場合などではミスが多くなります」と話しました。