ネットサービス

Facebookがディープフェイクムービーを積極的に削除する姿勢を表明

By Tumisu

Facebookが「ディープフェイク」によって生み出されたムービーを積極的に削除する方針を発表しました。

Enforcing Against Manipulated Media - About Facebook
https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/

AIが映像同士を合成して精巧な偽の映像を生み出すディープフェイク技術は、「有名女優のフェイクポルノ」を生み出すなどの問題を引き起こしており、新たな社会問題になりつつあるといえます。

2020年1月6日、Facebookがプラットフォーム上に投稿されたディープフェイクムービーを積極的に削除する方針を発表しました。今後、投稿されたムービーが、「現実には行っていない言動を、さも行ったかのようにミスリードする」かつ「AIないし機械学習による映像同士の合成で生み出された」という2つの条件を満たすときには、当該ムービーはディープフェイクだと判定されるようになります。


Facebookによると、新たな削除規定はパロディや風刺を目的として作成された場合や、「語の省略や語順の変更」を意図して編集した場合には適用されないとのこと。また、たとえディープフェイクでないとしても、ヌード、視覚的な暴力、有権者に対する弾圧、ヘイトスピーチなど、既存のコミュニティ規定に違反している写真・音声・映像は削除対象のままです。

Facebookのコミュニティ規定は以下からチェックできます。

コミュニティ規定
https://www.facebook.com/communitystandards/


以上のような削除規定を満たさなかったムービーは、第三者機関のチェックによって「フェイク」かどうか裁定されます。フェイクだと判定された場合、当該ムービーはニュースフィードや広告から除外されるようになる上に、当該ムービーを見る/シェアする/すでにシェアした人に対して、「このムービーはフェイクです」という警告が表示されるようになるとのこと。

Facebookは、「Deep Fake Detection Challenge」というディープフェイクを検出するための包括的なプロジェクトを2019年9月にスタートしており、カリフォルニア大学バークレー校やマサチューセッツ工科大学(MIT)、Microsoft、BBCなどと協力して多数の研究を行っています。

2020年にはアメリカ合衆国大統領・副大統領選挙が控えており、Facebookの狙いはディープフェイクに対する規制によって、フェイクニュースの拡散対策を強化することだとみられています。

この記事のタイトルとURLをコピーする

・関連記事
ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に - GIGAZINE

ディープラーニングを使った驚異のムービー編集技術「Deep Video」では人の表情や頭・目の動き、まばたきまで別の人に移植可能 - GIGAZINE

顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に - GIGAZINE

1枚の写真と音声データから「人が話す映像」を作れる驚異の技術が登場 - GIGAZINE

シルベスター・スタローンが独りぼっちで家に取り残される「ホーム・アローン」のディープフェイク映像「ホーム・スタローン」 - GIGAZINE

in ネットサービス, Posted by log1k_iy

You can read the machine translated English article here.