メモ

ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に


AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」という事態が2017年末に起こり、「このディープフェイク技術が悪用されるようになればインターネット上で真実とうそとを見分けるのが不可能になるのでは?」と指摘されています。そんな中、Facebookのマーク・ザッカーバーグCEOが「人々のデータを1人の男がコントロールすることを想像してください」とニュースで訴える様子がディープフェイクで作成され、話題となっています。

Deepfake video on Mark Zuckerberg surfaces on Instagram - Business Insider
https://www.businessinsider.com/deepfake-video-mark-zuckerberg-instagram-2019-6

This Deepfake of Mark Zuckerberg Tests Facebook’s Fake Video Policies - VICE
https://www.vice.com/en_us/article/ywyxex/deepfake-of-mark-zuckerberg-facebook-fake-video-policy

人造のザッカーバーグCEOがうそのニュースについて語る様子は以下のムービーから確認できます。

この投稿をInstagramで見る

‘Imagine this...’ (2019) Mark Zuckerberg reveals the truth about Facebook and who really owns the future... see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 -


ザッカーバーグCEOの語る内容は以下の通り。

Imagine this for a second: One man, with total control of billions of people's stolen data, all their secrets, their lives, their futures.I owe it all to Spectre. Spectre showed me that whoever controls the data, controls the future.

(少しだけ想像してください。人々の秘密、生活、未来など全てが詰まったデータが盗まれ、そのデータを1人の男がコントロールできることを。私はSpectreに感謝しています。Spectreはデータをコントロールする人が未来をコントロールするのだと示してくれました)

このムービーはアーティストのBill PostersさんとDaniel C. Howeさん、そして広告会社のCannyが共同制作したもの。フェイクのザッカーバーグCEOがムービー中で述べた「Spectre」はイギリスで開催された「Sheffield Doc/Fes」というイベントで開催された展示会の1つ。このSpectreでフェイクのザッカーバーグCEOが公開されたわけです。

Spectreで公開されたムービーはザッカーバーグCEOのディープフェイクだけでなく、女優やモデルとして活躍するキム・カーダシアンや……

この投稿をInstagramで見る

‘When there’s so many haters...’ (2019) [SOUND ON] This is UNREAL! @kimkardashian on the Spectre project and the truth about being an online ‘Influencer’. VDR technology by @cannyai #spectreknows #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 -


俳優のモーガン・フリーマン

この投稿をInstagramで見る

‘Imagine all that power...’ (2019) My latest installation ‘Spectre’ is a collaboration with Daniel Howe and uses AI and generative art to influence the ‘Influencers’ and more as we explore the impacts and power of the digital influence industry . Come worship with the gods of Silicon Valley at @sheffdocfest . VDR technology by @cannyai #spectreknows #dataism #privacy #democracy #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 -


トランプ大統領版も存在します。

この投稿をInstagramで見る

‘Let me tell you a secret...’ (2019) Trump reveals the truth about his election win... Believe me! VDR technology by @cannyai #spectreknows #deepfake #deepfakes

Bill Postersさん(@bill_posters_uk)がシェアした投稿 -


ザッカーバーグCEOのディープフェイクを制作するためにCannyのエンジニアは2017年に公開されたオリジナルである7分ムービーから21秒のセグメントを切り取り、アルゴリズムを訓練した後、ザッカーバーグCEOの顔と声が合致するようにフレームを再構成したとのこと。20~45秒のシーンを作り出すのに必要な訓練の時間は12~24時間だとCanny創業者のBen-Ami氏は語っています。


作成されたムービーは音声と口の動きに少しズレがあるという点で不自然さが感じられるものの、動きの自然さやまばたき、ジェスチャーといったものは、まさに現実のザッカーバーグCEOそのものです。

なお、ニュースっぽく見せるためにテロップが使われていますが、ここに「CBSN」の文字が入っていることから、アメリカの放送局CBSはFacebookに対してムービーを削除するよう要請しています。一方、Instagram広報は「私たちはこのコンテンツをInstagram上の誤報と同じように扱っています。サードパーティーのファクトチェッカーが『誤報』だと判断すると、私たちは『Explore(発見)』やハッシュタグページといったフィルターにかけます」とコメントしています。

この記事のタイトルとURLをコピーする

・関連記事
AI製「有名女優のポルノ」が爆増 - GIGAZINE

若きハン・ソロにハリソン・フォードをAIが割り当てたディープ・フェイク・ムービーが登場 - GIGAZINE

AIを使って作られたフェイクニュースに人間はどうやって対処していけばいいのか? - GIGAZINE

AI製フェイクポルノで問題となった技術を「新しいサービス」に利用するポルノ映画製作会社が登場 - GIGAZINE

AIでダンサーの動きを完璧に別人に転送する技術が登場、誰でもマイケル・ジャクソンに - GIGAZINE

in メモ, Posted by logq_fa

You can read the machine translated English article here.