Twitterが機械学習アルゴリズムを改善するためのイニシアチブを発表

機械学習は技術の進歩と共に、さまざまなソフトウェアやサービスに活用されるようになってきました。Twitterは新たに、責任感があり、応答性が高く、コミュニティ主導の機械学習システムを開発するために、「責任ある機械学習」と呼ばれるイニシアチブを発表しました。

Introducing our Responsible Machine Learning Initiative
https://blog.twitter.com/en_us/topics/company/2021/introducing-responsible-machine-learning-initiative.html

Twitter announces new initiative to analyze its own algorithmic choices - 9to5Mac
https://9to5mac.com/2021/04/14/twitter-announces-responsible-machine-learning-initiative/

「責任ある機械学習」は、以下の4つの柱により構成されます。

・アルゴリズムの決定に責任を持つ
・結果の平等性および公平性
・決定および決定にたどり着くまでの過程についての透明性
・エージェンシーとアルゴリズムの選択を可能にする

さらに、責任ある技術の使用には「時間の経過とともに生じる可能性のある影響」についても調査する必要があるとTwitterは述べました。実際、Twitterのサービスに機械学習を導入すると、1日あたり数億件のツイートに影響を与える可能性があり、場合によってはシステムの設計方法が意図したものとは異なる動作を開始する可能性もあるとのこと。このような微妙な変化はTwitterユーザーにも影響をおよぼす可能性があるため、変更がおよぼす影響を調査し、より良い製品を構築するために徹底していくとのことです。

ただし、技術的な解決策だけではアルゴリズムによる決定に潜む有害な影響を解決することができないケースもあります。そこで、「責任ある機械学習」に取り組むワーキンググループは、Twitter社内の技術、研究、信頼と安全、製品などさまざまなチームに所属する学際的な人々で構成されます。

「責任ある機械学習」を主導するのは機械学習倫理・透明性・説明責任チーム(METAチーム)です。エンジニア、研究者、データサイエンティストなどで構成される専任グループが協力し、アルゴリズムの意図しない危害を評価し、Twitterが取り組むべき問題に優先順位をつける手助けをします。

Twitterによる「責任ある機械学習」への取り組み方は、「機械学習の決定の影響を調査して理解すること。使用するアルゴリズムに潜在的な危害が存在するか否かを評価するために詳細な分析・調査を行うこと。今後数カ月以内にアクセスできる分析を示すこと」だそうです。なお、Twitterが一般向けに公開する分析データは、以下の通りになります。

・画像トリミング(顕著性)アルゴリズムの性別および人種バイアス分析
・人種サブグループ全体でのホームタイムラインの推奨事項の公平性評価
・7カ国にわたるさまざまな政治的イデオロギーに対するコンテンツ推奨の分析

「責任ある機械学習」の最も影響力のあるアプリケーションは、より良いTwitterを構築するために機械学習をどのように適用するかによってもたらされるとのこと。METAチームはシステムがどのように機能するかを調査し、それらの調査結果を使用し、Twitterでのユーザーエクスペリエンスを向上させます。これにより、アルゴリズムを削除してツイートする画像をより細かく制御できるようにするなどの変更を製品に加えたり、特定のコミュニティに大きな影響を与えた場合にポリシーを設計および構築する方法に新しい標準を追加したりする可能性もあるとのこと。これらの変更は必ずしも目に見える製品の変更につながるとは限りませんが、機械学習の構築と適用の方法に関する意識の高まりと重要な議論につながります。

そして、Twitterは「責任ある機械学習」の中の行ってきたことを一般向けに共有し、フィードバックを求めるとのこと。これによりTwitter内外で機械学習に関する業界の集合的な理解を向上させ、アプローチを改善していく模様。Twitterは「説明責任を果たすために当社の学習およびベストプラクティスを共有します」と記しました。