Microsoftがディープフェイク対策ツール「Video Authenticator」を発表

Microsoftが、人工知能(AI)で映像を合成して違和感ないムービーを作り上げる技術「ディープフェイク」の対策ツールとして、「Microsoft Video Authenticator」を発表しました。

New Steps to Combat Disinformation - Microsoft on the Issues
https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/

Microsoft creates a new tool to spot 'deepfake' videos and images - SiliconANGLE
https://siliconangle.com/2020/09/01/microsoft-created-new-tool-spot-deepfakes/

AIで映像を合成するディープフェイク技術は発展を遂げており、「本物のムービーと作り上げられたムービーを見分けることが不可能になるのでは？」という懸念も上がっています。ディープフェイクを活用すれば、著名人が実際には言ったことのない発言をしているムービーを容易に作り上げられます。

ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に - GIGAZINE

2020年11月にはアメリカ合衆国大統領選挙が控えており、ディープフェイクを用いた政治的印象操作が多発すると予想されます。このディープフェイクに対抗するため、Microsoftは政府機関と協力して、フェイクニュースやオンライン選挙に対するハッキングに対抗するプロジェクトであるDefending Democracy Programを推進。その一環として、ディープフェイク対抗ツール「Microsoft Video Authenticator」を発表しました。

「Microsoft Video Authenticator」は、画像やムービーを解析して、ディープフェイクによって発生する人間の目ではわからないレベルの色あせやグレースケールなどを検出し、ディープフェイクによる編集が行われたかどうかを判定して「信頼スコア」を算出。一目でディープフェイクが使われたかどうかをわかるように表示してくれます。

「Microsoft Video Authenticator」を使って実際にムービーを判定するデモンストレーションも公開されています。以下は左側が無編集のムービー、右側がディープフェイクで編集されたムービーです。「Microsoft Video Authenticator」は喋っている女性の顔の上に、枠と「信頼スコア」を表示しています。この枠が緑色の場合は、ディープフェイクが使用されていないという確率が高いことを意味し、赤色の場合はディープフェイクが使用されている確率が高いということを意味します。

さらに、「Microsoft Video Authenticator」には制作者側がデジタルハッシュと証明書を画像・ムービーに追加する機能も搭載されています。このデジタルハッシュと証明書をチェックすることで、画像・ムービーが編集されていないと高確率で保証されるとMicrosoftは記しています。

「Microsoft Video Authenticator」は、MicrosoftのクラウドプラットフォームMicrosoft Azure上で動作するとのことです。