超リアルなAI製ニセ画像「ディープフェイク」を作成したAIモデルの特定技術をFacebookが発表

人工知能(AI)を使ってニセの人物画像を合成する「ディープフェイク」は、フェイクニュースに利用されやすく、またリベンジポルノの被害が出ていることからも問題視されている技術です。ディープフェイク技術が発達するにつれ、ディープフェイクを見分ける技術の必要性も高まっていますが、このアプローチの1つとしてFacebookは新たに「ディープフェイクを作成したAIモデルの特徴を判別する」という技術を開発中であると明かしました。

Reverse engineering generative models from a single deepfake image
https://ai.facebook.com/blog/reverse-engineering-generative-model-from-a-single-deepfake-image/

Detecting the Models Behind Deepfakes - About Facebook
https://about.fb.com/news/2021/06/detecting-the-models-behind-deepfakes/

Facebook develops new method to reverse-engineer deepfakes and track their source - The Verge
https://www.theverge.com/2021/6/16/22534690/facebook-deepfake-detection-reverse-engineer-ai-model-hyperparameters

2018年以降、人工知能に有名女優の顔を機械学習させ、既存のポルノ映像と組み合わせることによってあたかも本人が出演しているかのように作った「フェイクポルノ」が爆増しました。

AI製「有名女優のポルノ」が爆増 - GIGAZINE

それ以降、機械学習ツールを使って実存する人間のような画像や映像を生成する技術は目覚ましい発展を遂げていき、人に精神的ダメージを負わせる事例が多発し問題となっています。このため、法規制を導入する地域も存在します。

人工知能によって高精度のフェイク画像を生成することが可能になることで、情報の信頼性が大きく損なわれるという問題もあります。フェイクポルノ以外にも、FacebookのザッカーバーグCEOやトランプ大統領など、著名人のディープフェイクを作ることで、実際には行われていない発言や出来事をでっち上げることも可能であるためです。ディープフェイクの対象が著名な人物であるほど、その影響は甚大になると考えられます。

このため、近年はフェイク画像やフェイク映像を判別できる技術の開発も急がれています。新たにFacebookが発表した「ディープフェイクをリバースエンジニアリングする方法」は、AIで生成された画像を分析して、画像を作成した機械学習モデルの特徴を判別するものとのこと。

過去の研究でも、フェイク画像から既知の機械学習モデルを特定することは可能でした。しかし、FacebookのTal Hassner氏によると、ディープフェイクのソフトウェアは簡単にカスタマイズが可能とのこと。このため、ディープフェイクの生成者は、自分の痕跡を消すためにモデルをカスタマイズすることが考えられます。一方、Facebookが発表した新たな方法は、これまでに発表されていない機械学習モデルであっても、生成画像からその特徴をつかむことができるのがポイントです。

具体的な仕組みについては以下のムービーから見ることができます。

Reverse engineering generative models from a single deepfake


Facebookの新技術により、複数箇所にアップロードされた画像の作成者が同一であることを見抜けるほか、容疑者のPCが押収された時に、犯人であることの証拠を示すことができると考えられています。

ただし、この技術はまだ研究段階であることに注意が必要。海外ニュースメディアのThe Vergeは、2020年に行われたディープフェイク検知のコンテストで優勝したアルゴリズムの検出率が65.18％だったことを挙げ、これらの技術の信頼性が十分でないことを指摘しました。