ディープフェイクにより生み出される「偽の衛星画像」の脅威とは？

AI技術を使って有名人の顔写真や音声を簡単に合成して作り出せる技術「ディープフェイク」は、フェイクニュースを生み出し、経済や政治などのさまざまな分野に影響を与えかねないとして、その危険性が指摘されています。ワシントン大学の地理学教授であるBo Zhao氏が、主に軍事面に影響を及ぼす「AIが生成する衛星画像」についての危険性を語っています。

Full article: Deep fake geography? When geospatial data encounter Artificial Intelligence
https://www.tandfonline.com/doi/full/10.1080/15230406.2021.1910075

Deepfake satellite imagery poses a not-so-distant threat, warn geographers - The Verge
https://www.theverge.com/2021/4/27/22403741/deepfake-geography-satellite-imagery-ai-generated-fakes-threat

AIによって生成された偽の衛星写真は、山火事や洪水などの自然災害に関するデマを流すために使われたり、実際の衛星画像の信ぴょう性をおとしめるために使われたりします。アメリカ国家地理空間情報局のトッド・マイヤーズ氏は「偽の衛星画像に軍事計画ソフトウェアがだまされ、実際にはないルートへ部隊を導いてしまう可能性がある」と述べ、偽の情報が真実の情報と混ざってしまい、見分けが付けられなくなってしまうことの危険性を指摘していました。

地図に偽の情報を含ませるという戦略は古くから使われており、紀元前2000年頃の古バビロニア時代に作成された神話の地図にまでさかのぼります。その後も、戦時中のプロパガンダに使用される地図や、地図の無断コピーを識別する「トラップストリート」などに使われています。

Zhao氏は、衛星画像の真偽が不明瞭になりつつある問題に取り組むための最初のステップは「そもそも問題があることを人々に認識させること」だと話します。多くの地理学者はディープラーニングなどのAIによって技術についてのメリットを語っているものの、Zhao氏は「ディープフェイクの潜在的な脅威を公に語る人物はほとんどいない」「衛星画像の影響について国民に意識を高めてもらうことが重要だ」と指摘しています。

Zhaos氏は「人間のディープフェイクムービーよりも偽の衛星画像を作成する方がはるかに簡単です。ほとんどの衛星画像は政府や専門家によって生成されるため、人々は『衛星画像だ』というだけでその信ぴょう性を疑うことはありません」と話します。

Zhao氏らは敵対的生成ネットワークを使用して偽の衛星画像を生み出すソフトウェアを作成し、画像のテクスチャやコントラスト、色などの特性について偽物を見分けるソフトウェアも作成しましたが、ディープフェイクを生成する技術も日々進化しているため、イタチごっこのような状況が続いているとのこと。

Zhao氏は「ディープフェイクに対するソフトウェア面での備えも大切ですが、最も重要なのは、偽の情報に対するリテラシーを高めておくということです」と語っています。