AI生成写真が「現実と虚構」の区別を不可能にしているため現実を守るには法規制やAI透かしが必要だという主張

実際にアメリカとイスラエルによるイランへの攻撃では、大量のフェイク画像や映像がネット上に出回っています。たとえば、アメリカ兵がイランの革命防衛隊に拘束されている様子を写した以下の画像は、すべてAIによって生成されたことがわかっています。他にも、イランのドローン攻撃で損傷したとされるアメリカのレーダーシステムの画像も広く出回りましたが、これもフェイクであることがわかりました。

また、過去には「ドナルド・トランプ氏が逮捕された」というフェイク画像が大量に生成されたこともありました。

画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける - GIGAZINE

問題はAI生成のフェイク写真が出回ることだけではありません。たとえば英国動物虐待防止協会は2026年4月、一軒家に250頭ものプードルの雑種犬が飼育されているのを発見して衝撃的な写真を公開しましたが、これは事実だったにもかかわらずソーシャルメディアでは「AI生成のフェイクだ」という意見が多数みられたとのこと。

この事例は、AIで非常に高精度な写真が捏造できるようになったことで、本物の写真までAI生成だろうと思われて効力を失ってしまう可能性を示唆しています。悪意のある人物が本物の視覚的証拠をAIによる捏造だと指摘することでその証拠が退けられるようになってしまう現象は、「liar's dividend(うそつきの分け前、うそつきの配当)」などと呼ばれます。

バルドゥワジ氏は、「民主主義社会は事実と経験に関する共通基盤の上に成り立っています。解釈をめぐる意見の相違は避けられないものであり、多くの場合健全なものですが、現実に何が起こったのかについては何らかの共通認識がなければなりません。写真はその共通認識を確立する上で、長らく重要な役割を果たしてきました。写真の信頼性が失われると、集団的な判断力も失われてしまいます」と警鐘を鳴らしました。

AI生成写真に関する問題を解決するためには、「AIによる画像生成時と配信時の両方において、AI生成画像であることを明確に示す情報開示」「AI生成画像が起源であることや、AIによって編集されたことを示すメタデータを画像に埋め込むこと」などを義務化することが必要だとバルドゥワジ氏は主張しています。

これらのシステムは標準化され、複数のプラットフォームで相互運用可能であり、改ざんに強いものである必要があります。これらの技術的措置を支える法的枠組みには、AI生成コンテンツの悪用に対して責任を負わせることや、プラットフォームが情報を保存・伝達することの義務化などが含まれる可能性があります。同様に重要な存在として、これらの情報を解釈して一般市民に伝えるジャーナリスト・裁判所・市民社会団体などが挙げられます。

バルドゥワジ氏は、「もはや素朴な視覚的信頼の時代は終わりました。しかし、目標は過去の時代に戻ることではなく、デジタル操作の現実にも耐えうる新たな信頼の仕組みを構築することです」「写真が共通理解の基盤となる力を維持することは、単なる技術的な課題ではありません。これは民主主義にとって不可欠な責務なのです」と述べました。