子どもを性的に搾取する「捕食者」を会話から検知するツールをMicrosoftが公開

by monkeybusiness

Microsoftは児童ポルノに対して以前から取り組みを強化しており、児童ポルノの検出を行う専門家には過度の負担が強いられることから、人工知能(AI)を利用した検出ソフトも開発してきました。そんなMicrosoftが新たに、性的目的で子どもを誘い込もうとするオンライン上の「捕食者」を検出する技術である、コード名「Project Artemis」をリリースしました。

Microsoft shares new technique to address online grooming of children for sexual purposes - Microsoft on the Issues
https://blogs.microsoft.com/on-the-issues/2020/01/09/artemis-online-grooming-detection/

Project Artemisは2018年11月に開催されたハッカソンをきっかけに開発が始まった技術。このエンジニアリングはMicrosoftだけでなく、ソーシャルエンターテイメントサービスを提供するThe Meet Group、ゲーム開発プラットフォームのRoblox、メッセンジャーアプリのKik、非営利団体のThornが、デジタル画像分析を専門とするハニー・ファリド教授のもと14カ月にわたって協力して行ってきたとのこと。

新たに開発された技術はMicrosoftの特許をもとに、テキストベースの会話を適用したもので、会話の特徴を評価して、全体な確率評価を割当てます。新技術を導入するそれぞれの企業は、この評価を使ってユーザーの会話にフラグをつけ、問題が検知された会話は人間のモデレータへと送られるという仕組みです。その後、人間のモデレータが性的搾取などの脅威がないかの判断を行います。

by bialasiewicz

Microsoftは2020年1月11日からThornを通じてこの技術がツールとして無料で企業に提供されることを発表しています。

プロジェクトを監督したMicrosoftの最高デジタル安全責任者であるコートニー・グレゴワール氏は、「Project Artemisは大きな前進ですが、決して万能薬ではありません」としつつも、Microsoftは問題が複雑でわい雑だからといって前進をやめず、ツールをオープンにすることで継続的な改善を行っていくという決意を述べています。