ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に

「AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」という事態が2017年末に起こり、「このディープフェイク技術が悪用されるようになればインターネット上で真実とうそとを見分けるのが不可能になるのでは？」と指摘されています。そんな中、Facebookのマーク・ザッカーバーグCEOが「人々のデータを1人の男がコントロールすることを想像してください」とニュースで訴える様子がディープフェイクで作成され、話題となっています。

Deepfake video on Mark Zuckerberg surfaces on Instagram - Business Insider
https://www.businessinsider.com/deepfake-video-mark-zuckerberg-instagram-2019-6

This Deepfake of Mark Zuckerberg Tests Facebook’s Fake Video Policies - VICE
https://www.vice.com/en_us/article/ywyxex/deepfake-of-mark-zuckerberg-facebook-fake-video-policy

人造のザッカーバーグCEOがうそのニュースについて語る様子は以下のムービーから確認できます。

この投稿をInstagramで見る

‘Imagine this...’ (2019) Mark Zuckerberg reveals the truth about Facebook and who really owns the future... see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 - 2019年 6月月7日午前7時15分PDT

ザッカーバーグCEOの語る内容は以下の通り。

Imagine this for a second: One man, with total control of billions of people's stolen data, all their secrets, their lives, their futures.I owe it all to Spectre. Spectre showed me that whoever controls the data, controls the future.

(少しだけ想像してください。人々の秘密、生活、未来など全てが詰まったデータが盗まれ、そのデータを1人の男がコントロールできることを。私はSpectreに感謝しています。Spectreはデータをコントロールする人が未来をコントロールするのだと示してくれました)

このムービーはアーティストのBill PostersさんとDaniel C. Howeさん、そして広告会社のCannyが共同制作したもの。フェイクのザッカーバーグCEOがムービー中で述べた「Spectre」はイギリスで開催された「Sheffield Doc/Fes」というイベントで開催された展示会の1つ。このSpectreでフェイクのザッカーバーグCEOが公開されたわけです。

Spectreで公開されたムービーはザッカーバーグCEOのディープフェイクだけでなく、女優やモデルとして活躍するキム・カーダシアンや……

この投稿をInstagramで見る

‘When there’s so many haters...’ (2019) [SOUND ON] This is UNREAL! @kimkardashian on the Spectre project and the truth about being an online ‘Influencer’. VDR technology by @cannyai #spectreknows #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 - 2019年 6月月1日午前3時47分PDT

俳優のモーガン・フリーマン

この投稿をInstagramで見る

‘Imagine all that power...’ (2019) My latest installation ‘Spectre’ is a collaboration with Daniel Howe and uses AI and generative art to influence the ‘Influencers’ and more as we explore the impacts and power of the digital influence industry . Come worship with the gods of Silicon Valley at @sheffdocfest . VDR technology by @cannyai #spectreknows #dataism #privacy #democracy #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 - 2019年 6月月8日午前2時02分PDT

トランプ大統領版も存在します。

この投稿をInstagramで見る

‘Let me tell you a secret...’ (2019) Trump reveals the truth about his election win... Believe me! VDR technology by @cannyai #spectreknows #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 - 2019年 6月月3日午前2時24分PDT

ザッカーバーグCEOのディープフェイクを制作するためにCannyのエンジニアは2017年に公開されたオリジナルである7分ムービーから21秒のセグメントを切り取り、アルゴリズムを訓練した後、ザッカーバーグCEOの顔と声が合致するようにフレームを再構成したとのこと。20～45秒のシーンを作り出すのに必要な訓練の時間は12～24時間だとCanny創業者のBen-Ami氏は語っています。

作成されたムービーは音声と口の動きに少しズレがあるという点で不自然さが感じられるものの、動きの自然さやまばたき、ジェスチャーといったものは、まさに現実のザッカーバーグCEOそのものです。

なお、ニュースっぽく見せるためにテロップが使われていますが、ここに「CBSN」の文字が入っていることから、アメリカの放送局CBSはFacebookに対してムービーを削除するよう要請しています。一方、Instagram広報は「私たちはこのコンテンツをInstagram上の誤報と同じように扱っています。サードパーティーのファクトチェッカーが『誤報』だと判断すると、私たちは『Explore(発見)』やハッシュタグページといったフィルターにかけます」とコメントしています。