メモ

AIを使って作られたフェイクニュースに人間はどうやって対処していけばいいのか?

by Stuart Rankin

AI技術の発展に伴い、「AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」といった事例が発生し、大きな問題となりました。「電話で人間と会話を行うAI」の開発も行われるなど、AIが人間らしいムービーや音声を作り出せるようになると、「いったい何が真実のムービーや音声で、何がフェイクのムービーや音声なのか」という判断が難しくなってしまうという指摘を、イギリスの大手新聞であるガーディアンが取り上げています。

The liar’s dividend, and other challenges of deep-fake news | Paul Chadwick | Opinion | The Guardian
https://www.theguardian.com/commentisfree/2018/jul/22/deep-fake-news-donald-trump-vladimir-putin

2018年7月16日、アメリカのトランプ大統領とロシアのプーチン大統領はフィンランドのヘルシンキで会談を行いました。世界的にも大きな話題を集めたこの会談では、シリア問題や核軍縮問題、さらには「ロシアによるアメリカ大統領選挙への干渉はなかった」という点について話し合いが行われたことが強調されています。

しかし、もしもこのタイミングで「政府関係者もしくは2人の通訳官として同席した人物が、極秘の録音テープを公開した」という体で、トランプ大統領とプーチン大統領の声で作成されたフェイク音声がインターネット上に公開されたとるすと、どうなるでしょうか。音声データを耳にすれば、多くの人が「これは間違いなく、勇敢な告発者による暴露だ」と思うはずです。しかし、AIの発達によって実際には話されていない音声データや、実際には行われていない会談のムービーを作り出すことはすでに不可能ではなくなっています。実際に、バラク・オバマ元大統領の映像に別のムービーの表情を移植する技術が発表されています。

ディープラーニングを使った驚異のムービー編集技術「Deep Video」では人の表情や頭・目の動き、まばたきまで別の人に移植可能


この問題について、テキサス法科大学教授のロバート・チェスニー氏と、メリーランド大学カレッジパーク校教授のダニエル・シトロン氏は、「ディープ・フェイク・テクノロジー」の持つ問題点について記した論文を発表しました。論文中では「AIを使ったディープ・フェイク・テクノロジーはどんどん技術が進展しており、フェイクニュースが拡散されるスピードが増すことが予測される」と述べられており、フェイクニュースがはびこる現状がさらに加速すると予想されています。

選挙や商取引、安全保障問題やジャーナリズムなどに大きな害を与える可能性があるディープ・フェイク・テクノロジーは、SNSとの親和性が非常に高いと2人は分析しています。偏見を持つ人々にとって、ムービーや音声つきのフェイクニュースは飛びつきやすい話題であり、瞬く間に世界中へ拡散することも考えられるとのこと。

「全てのウソに『こういう事実があった』『こういうことが行われた』という、肯定的な主張が含まれているわけではありません。むしろ、最も危険性の高いウソは『こういう事実はなかった』『あの発表は虚偽だ』という、否定の形を取るものです」と、論文では述べられています。ディープ・フェイク・テクノロジーを使ったフェイクニュースでは、公表された事実に対してそれに相反するムービーや音声を作成し、拡散することで、簡単に特定の人物を「ウソつき」「人々をだましている」という風に操作することが容易だと、2人は主張しています。

by Ben Raynal

「そのニュースがフェイクニュースかどうか」を判断するのは、普通の人々にとっては非常に難しいものであり、それはムービーや音声といった証拠付きであればなおさらです。民主主義が効果的に機能するためには、報道される情報の信頼性が重要になりますが、現在進行形で情報に対する信頼性が揺らいでおり、権威主義的な政権が誕生する隙が生まれつつあるとのこと。

このような状況下で、私たちはどのように情報と向き合えばいいのでしょうか。ガーディアンでは、「主張されている内容が人々を引きつけるものであればあるほど、その情報が真に信頼できるものかどうかを、注意して確認する警戒心を高めることが重要です」と記されています。

ディープ・フェイク・テクノロジーは、基本的に人々を大きく扇動することが目的になっているため、内容は人々の注目を大きく集めるものであることが多くなります。思わず飛びついてしまいたくなるような情報を見つけたら、慎重になってソースを確認してみることが重要だと、ガーディアンは語りました。

by Christoph Scholz

・関連記事
「フェイクニュース」によって生まれた誤った認識は認知能力が高くなければ正すことが難しい - GIGAZINE

ディープラーニングを使った驚異のムービー編集技術「Deep Video」では人の表情や頭・目の動き、まばたきまで別の人に移植可能 - GIGAZINE

AIが作る顔合成ポルノ「フェイクポルノ」がついに誕生の地Redditでも禁止に - GIGAZINE

偽ニュースを人工知能を使って検出するプロジェクト「Fake News Challenge」 - GIGAZINE

フェイクニュースを拡散するのはTwitterボットではなく普通の人と判明 - GIGAZINE

in ソフトウェア,   メモ, Posted by log1h_ik