Twitterが「画像切り抜きアルゴリズムのバイアスを発見するコンテスト」を開催、報奨金は最大38万円

Twitterが2021年7月30日、「画像切り抜きアルゴリズムに存在するバイアスを発見するコンテスト」を開催すると発表しました。Twitterによると、これは業界初となる「アルゴリズムのバイアスについての報奨金コンテスト」であり、コンテストの優勝者には3500ドル(約38万円)の報奨金が支払われるとのことです。

Introducing Twitter’s first algorithmic bias bounty challenge
https://blog.twitter.com/engineering/en_us/topics/insights/2021/algorithmic-bias-bounty-challenge

Twitter announces first algorithmic bias bounty challenge | ZDNet
https://www.zdnet.com/article/twitter-announces-first-algorithmic-bias-bounty-challenge/

Twitterは2018年、ユーザーが投稿した画像のトリミングをAI技術を活用して最適化し、画面レイアウトに応じたサムネイルとして表示する機能を導入しました。ところが、人間の顔などを中心として切り抜くはずのアルゴリズムに対し、「人種によるバイアスが存在する」と指摘する声が上がっていました。

実際にTwitterがアルゴリズムによる画像の切り抜きを検証したところ、アルゴリズムは全体として4％ほど、黒人より白人の顔を優先する傾向があることが判明。この結果を受けて、Twitterは「自動トリミング機能のアルゴリズムを段階的に廃止する」と発表しています。

Twitterが「人種差別をなくすため自動トリミングをやめる」と発表 - GIGAZINE

そして7月30日、Twitterは公式ブログで「画像切り抜きアルゴリズムに潜むバイアスを発見するコンテスト」を開催すると発表しました。Twitterは、「機械学習(ML)モデルのバイアスを見つけることは困難であり、企業は時として、すでに一般公開してしまった後で意図しない倫理的危害について知ることがあります」と述べ、この状況を変えたいと願って今回のコンテストを開催するとしています。

すでにTwitterはGitHub上で問題のあった画像切り抜きアルゴリズムのコードを公開しており、他の人々がアルゴリズムの問題を再現できるようにしています。「私たちが特定した以上の潜在的なアルゴリズムの害を特定できるように、コミュニティを招待してインセンティブを与え、この作業をさらに一歩進めたいと考えています」と、Twitterはコメント。

発見されたバイアスは、想定される害の内容や影響を受けるコミュニティの種類やユーザー数、創造性などの多様な項目で評価されるとのこと。報奨金の額は以下の通り。

・1位：3500ドル(約38万円)
・2位：1000ドル(約11万円)
・3位：500ドル(約5万5000円)
・最も革新的なもの：1000ドル
・最も一般化可能なもの(つまり、最も多くの種類のアルゴリズムにも適用できるもの)：1000ドル

コンテストのエントリー期間は、太平洋時間(PT)の2021年7月30日9時1分～8月6日23時59分となっており、受賞者はアメリカのネバダ州で開催されるセキュリティカンファレンス・DEF CONのAI Villageワークショップで、8月8日に発表される予定です。Twitterは受賞者をワークショップに招待するとしています。

コンテストの詳細については、脆弱性(ぜいじゃくせい)を発見したハッカーに企業が報奨金を支払うプラットフォーム・HackerOneが公開している以下のページで確認可能。Twitterからの報奨金も、HackerOneを通じて支払われるとのことです。

Twitter Algorithmic Bias - Bug Bounty Program | HackerOne
https://hackerone.com/twitter-algorithmic-bias

また、TwitterのプロダクトマネージャーであるJutta Williams氏は海外メディアのZDNetに対し、「私は広範なコミュニティの人々から、彼らにとって害を及ぼすものについて、多くの見方が共有されることを期待しています」とコメント。今回のコンテストは単にアルゴリズムのバイアスを特定するだけでなく、人々が「有害だ」と考えるものを学ぶ目的もあるとしています。

今回のコンテストは、Twitterの「機械学習における倫理、透明性およびアカウンタビリティ(META)チーム」に所属するRumman Chowdhury氏が、AI Villageの主催者と話し合った後で発案したものだとのこと。「これは私たちの利益のためだけに実行されたのではありません。究極の透明性を追求するためでなければ、私が個人的に汗をかくこともなかったでしょう」と、Williams氏は述べました。