Facebookの外注先社員は「AI訓練」のため限定公開の個人的な投稿までチェックしている

by Vojtech Okenka

多くのハイテク企業と同様、Facebookは自社のプラットフォームでコンテンツを自動分類するAIを開発しています。そんなコンテンツ分類AIを開発するために、世界中にいる多くの外注先社員が「人々の個人的なFacebookへの投稿」を目にしていると明らかになりました。人々が目にするコンテンツは、少数の友人たちにのみ公開された投稿内容も含まれているとされています。

Facebook 'labels' posts by hand, posing privacy questions - Reuters
https://www.reuters.com/article/us-facebook-ai/facebook-labels-posts-by-hand-posing-privacy-questions-idUSKCN1SC01T

Facebook’s contract workers are looking at your private posts to train AI - The Verge
https://www.theverge.com/2019/5/6/18530887/facebook-instagram-ai-data-labeling-annotation-private-posts-outsourced

一般的に、複数のコンテンツを内容に基づいて分類するAIを訓練するためには、多くの学習データが必要となります。この学習データはサンプルとなるコンテンツを人間の手で「ラベル付け」したものであり、Facebookはこのラベル付けプロセスをインドのハイデラバードにあるWiproという企業へ外注しているとのこと。

Wiproではコンテンツをラベル付けするために雇われた260人の労働者が、コンテンツに含まれる写真が自撮りなのか料理を撮影したものなのか、どういった場面で撮影されたものなのか、どういった意図（冗談なのか、誰かに影響を与えようとしているのか、仲間を集めようとしているのか）で投稿されたのかを分類しています。Wiproの従業員がラベル付けするのは、FacebookやInstagramに投稿された写真やビデオ、ストーリーなどであり、各コンテンツは2人の労働者によって判断され、2人の判断が割れた時は3人目の労働者によって最終判断が下されます。

Facebookはロイター通信の問い合わせに対し、Wiproの労働者はユーザーが少数の友人と共有したプライベートなコンテンツについてもラベル付けを行っていること、データにはユーザーの名前を含む個人情報が含まれている場合もあることを認めました。Wiproのほかにも、世界中で200近くのラベル付けプロジェクトが存在しており、FacebookのAI開発に関連したラベル付けのために雇用されている人々は数千人にものぼるそうです。

by Startup Stock Photos

FacebookのAI製品管理ディレクターであるNipun Mathur氏は、「AIは人々が必要とするものの核心部分です」と述べ、AIがFacebookにとって必要なものであると強調しました。Facebookによると、労働者によってラベル付けされたデータを使って開発したAIは、広告表示や視覚障害者向けの投稿内容説明、政治的に偏った内容やアダルトコンテンツの識別などに活用されるとのこと。

自動運転車に搭載するAIや物体識別AIを開発するために、賃金の安い国々へラベル付けの仕事を外注することは、ほかのハイテク企業でもよくみられます。しかし、ラベル付けに使用されるデータがプライベートなものであったり、外注先のプライバシー意識やセキュリティが低かったりする場合には、このラベル付け作業がユーザーのプライバシー流出につながりかねません。

Facebookはロイターに対して、法務およびプライバシーチームがデータラベル付け作業を承認していると回答しています。また、プライバシーが適切に保護されていることを確認するため、最近になって新たな監査システムも導入したと述べました。

by www.thoughtcatalog.com