Facebookがディープフェイクムービーを積極的に削除する姿勢を表明

By Tumisu

Facebookが「ディープフェイク」によって生み出されたムービーを積極的に削除する方針を発表しました。

Enforcing Against Manipulated Media - About Facebook
https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/

AIが映像同士を合成して精巧な偽の映像を生み出すディープフェイク技術は、「有名女優のフェイクポルノ」を生み出すなどの問題を引き起こしており、新たな社会問題になりつつあるといえます。

2020年1月6日、Facebookがプラットフォーム上に投稿されたディープフェイクムービーを積極的に削除する方針を発表しました。今後、投稿されたムービーが、「現実には行っていない言動を、さも行ったかのようにミスリードする」かつ「AIないし機械学習による映像同士の合成で生み出された」という2つの条件を満たすときには、当該ムービーはディープフェイクだと判定されるようになります。

Facebookによると、新たな削除規定はパロディや風刺を目的として作成された場合や、「語の省略や語順の変更」を意図して編集した場合には適用されないとのこと。また、たとえディープフェイクでないとしても、ヌード、視覚的な暴力、有権者に対する弾圧、ヘイトスピーチなど、既存のコミュニティ規定に違反している写真・音声・映像は削除対象のままです。

Facebookのコミュニティ規定は以下からチェックできます。

コミュニティ規定
https://www.facebook.com/communitystandards/

以上のような削除規定を満たさなかったムービーは、第三者機関のチェックによって「フェイク」かどうか裁定されます。フェイクだと判定された場合、当該ムービーはニュースフィードや広告から除外されるようになる上に、当該ムービーを見る/シェアする/すでにシェアした人に対して、「このムービーはフェイクです」という警告が表示されるようになるとのこと。

Facebookは、「Deep Fake Detection Challenge」というディープフェイクを検出するための包括的なプロジェクトを2019年9月にスタートしており、カリフォルニア大学バークレー校やマサチューセッツ工科大学(MIT)、Microsoft、BBCなどと協力して多数の研究を行っています。

2020年にはアメリカ合衆国大統領・副大統領選挙が控えており、Facebookの狙いはディープフェイクに対する規制によって、フェイクニュースの拡散対策を強化することだとみられています。