テロリストや児童ポルノのコンテンツを特定するのに役立つモデレーションツール「Hasher Matcher Actioner」をMetaが無料のオープンソースとしてリリース

プラットフォームに投稿された複数の画像や動画をまとめて規制するためのモデレーションツール「Hasher-Matcher-Actioner(HMA)」をMetaが公開しました。大規模なリソースや技術を持たない中小企業にとって有用なものとなることが期待されています。

Meta Launches New Content Moderation Tool as It Takes Chair of Counter-Terrorism NGO | Meta
https://about.fb.com/news/2022/12/meta-launches-new-content-moderation-tool/

HMAは様々な企業が自社のプラットフォーム上でのテロコンテンツの拡散を阻止することができるツールで、Metaがこれまで提供してきたオープンソースの画像・映像マッチングソフトウェアをベースに開発されており、あらゆるタイプの違反コンテンツに対応することが可能です。

企業がテロや児童の性的搾取、その他の暴力的なコンテンツに適切なラベル付けを行ってHMAに登録した場合、HMAはアルゴリズムを用いてコンテンツに一意の「ハッシュ」と呼ばれるデジタル指紋を付加し、コンテンツそのものではなくハッシュを独自のデータベースに保存します。プラットフォームにアップロードされるコンテンツはそのデータベースを介することで既存のハッシュと一致するかどうかが確認され、既存のコンテンツと一致すると判断された場合、自動的に削除するか各企業が任意で削除するかを選ぶことができます。

Metaは「ハッシュ共有データベースに参加する企業が増えれば増えるほど、より優れた包括的なデータベースとなり、インターネットからテロリストのコンテンツを排除することができます」と述べ、各企業のツール利用を募っています。

また、Metaは2023年1月からテクノロジー企業が組織する「Global Internet Forum to Counter Terrorism(GIFCT)」の運営委員会の議長に就任することも明らかにしています。GIFCTはテクノロジー企業が集まり、研究、技術協力、知識共有を通じて、オンライン上のテロコンテンツに取り組むNGOで、組織一丸となってオンライン上のテロ・暴力・過激派コンテンツに対処しています。

Metaは「私たちは完璧ではありませんし、私たちが持つルールやプロセスが正しいかどうかについては、公正な考えを持つ人々の間でも意見が分かれるでしょう。しかし、私たちはこれらの問題を真剣に受け止め、責任と透明性を持って行動し、プラットフォームを安全に保つために膨大な投資を行っています。これらの問題の多くは、一企業や一機関の枠をはるかに超えています。だからこそ、GIFCTなどの業界や政府の垣根を超えたコラボレーションが非常に重要なのです」と述べました。