2018年07月24日 07時30分メモ

AIを使って作られたフェイクニュースに人間はどうやって対処していけばいいのか？

by Stuart Rankin

AI技術の発展に伴い、「AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」といった事例が発生し、大きな問題となりました。「電話で人間と会話を行うAI」の開発も行われるなど、AIが人間らしいムービーや音声を作り出せるようになると、「いったい何が真実のムービーや音声で、何がフェイクのムービーや音声なのか」という判断が難しくなってしまうという指摘を、イギリスの大手新聞であるガーディアンが取り上げています。

The liar’s dividend, and other challenges of deep-fake news | Paul Chadwick | Opinion | The Guardian
https://www.theguardian.com/commentisfree/2018/jul/22/deep-fake-news-donald-trump-vladimir-putin

2018年7月16日、アメリカのトランプ大統領とロシアのプーチン大統領はフィンランドのヘルシンキで会談を行いました。世界的にも大きな話題を集めたこの会談では、シリア問題や核軍縮問題、さらには「ロシアによるアメリカ大統領選挙への干渉はなかった」という点について話し合いが行われたことが強調されています。

しかし、もしもこのタイミングで「政府関係者もしくは2人の通訳官として同席した人物が、極秘の録音テープを公開した」という体で、トランプ大統領とプーチン大統領の声で作成されたフェイク音声がインターネット上に公開されたとるすと、どうなるでしょうか。音声データを耳にすれば、多くの人が「これは間違いなく、勇敢な告発者による暴露だ」と思うはずです。しかし、AIの発達によって実際には話されていない音声データや、実際には行われていない会談のムービーを作り出すことはすでに不可能ではなくなっています。実際に、バラク・オバマ元大統領の映像に別のムービーの表情を移植する技術が発表されています。

ディープラーニングを使った驚異のムービー編集技術「Deep Video」では人の表情や頭・目の動き、まばたきまで別の人に移植可能

この問題について、テキサス法科大学教授のロバート・チェスニー氏と、メリーランド大学カレッジパーク校教授のダニエル・シトロン氏は、「ディープ・フェイク・テクノロジー」の持つ問題点について記した論文を発表しました。論文中では「AIを使ったディープ・フェイク・テクノロジーはどんどん技術が進展しており、フェイクニュースが拡散されるスピードが増すことが予測される」と述べられており、フェイクニュースがはびこる現状がさらに加速すると予想されています。

選挙や商取引、安全保障問題やジャーナリズムなどに大きな害を与える可能性があるディープ・フェイク・テクノロジーは、SNSとの親和性が非常に高いと2人は分析しています。偏見を持つ人々にとって、ムービーや音声つきのフェイクニュースは飛びつきやすい話題であり、瞬く間に世界中へ拡散することも考えられるとのこと。

「全てのウソに『こういう事実があった』『こういうことが行われた』という、肯定的な主張が含まれているわけではありません。むしろ、最も危険性の高いウソは『こういう事実はなかった』『あの発表は虚偽だ』という、否定の形を取るものです」と、論文では述べられています。ディープ・フェイク・テクノロジーを使ったフェイクニュースでは、公表された事実に対してそれに相反するムービーや音声を作成し、拡散することで、簡単に特定の人物を「ウソつき」「人々をだましている」という風に操作することが容易だと、2人は主張しています。

by Ben Raynal

「そのニュースがフェイクニュースかどうか」を判断するのは、普通の人々にとっては非常に難しいものであり、それはムービーや音声といった証拠付きであればなおさらです。民主主義が効果的に機能するためには、報道される情報の信頼性が重要になりますが、現在進行形で情報に対する信頼性が揺らいでおり、権威主義的な政権が誕生する隙が生まれつつあるとのこと。

このような状況下で、私たちはどのように情報と向き合えばいいのでしょうか。ガーディアンでは、「主張されている内容が人々を引きつけるものであればあるほど、その情報が真に信頼できるものかどうかを、注意して確認する警戒心を高めることが重要です」と記されています。

ディープ・フェイク・テクノロジーは、基本的に人々を大きく扇動することが目的になっているため、内容は人々の注目を大きく集めるものであることが多くなります。思わず飛びついてしまいたくなるような情報を見つけたら、慎重になってソースを確認してみることが重要だと、ガーディアンは語りました。