ネットサービス

Googleで児童ポルノやグロテスクなコンテンツがないか監視し続けた男性

By Robert Scoble

子どもたちを守るため、検索エンジンの結果に児童ポルノは表示されないようになっています。これは完全に機械的に処理されているわけではなく、Googleの場合、人力でアウトなものが混じっていないかを監視、チェックしています。海外のIT系ニュースサイトBuzzfeedが、実際にこのチェック作業を行っていたという男性にインタビューを実施しています。

Tech Confessional: The Googler Who Looked At The Worst Of The Internet

インタビューを受けたのは、今はもうGoogleの社員ではないというAさん(仮名)。Googleのサービス内に児童ポルノやネクロフィリア(屍体愛好)、ゴア(暴力行為や衝撃的内容、首を切るようなもの、自殺など)に該当するコンテンツがないかどうかを調べる仕事をしていたそうです。

Aさんは大学卒業後、SNSで政治活動をするような「ソーシャルメディア・ガイ」になっていました。そんなAさんのもとにへリクルーター(採用の補助業務を担当している人)がやってきて「Googleで働くといいんじゃないか」と声をかけられました。ハイテク企業で働くことなど念頭になかったAさんですが、こここそ自分が行くべき場所だという確信を得て、Googleで働くことを決めました。

By Fotinakis

職場では歓待されたというわけではなかったようですが、Aさんは「Googleで働くのが楽しくなかった、という人は嘘つきだと思う」と、毎食ちゃんと社員食堂でごはんが食べられて必要なものもすべて与えられていた職場環境を、大学卒業したての人間にとってファンタスティックなものだったと表現しました。Aさんの両親も、これほどの大企業で息子が働くということを誇りに思っていたそうです。

しかし、仕事の内容は非常にショッキングなものでした。リクルーターからは「敏感な内容を扱うことになるから」と知らされていたものの、その内容は児童ポルノやゴアなコンテンツのチェックだったのです。特に、児童ポルノはネット企業にとって最大の懸念材料。アメリカでは法律によって、警告を受けてから24時間以内に削除を行い、その旨を連邦当局に通知する義務がありますが、もちろんGoogle社内でも手を挙げてやるような人はおらず、AさんがGoogleが保有する全サービスについて処理を行っていたそうです。

By DieselDemon

「Picasaに児童ポルノっぽい写真がアップロードされていた!」「セーフサーチをオンにしているのにグロ画像が見えているぞ!」などユーザからの通報が殺到していたのかどうかはわかりませんが、Aさんは写真だけで1日に1万5000枚に対応していたそうで、Google検索からイメージ検索、Picasa、Orkut(Googleの運営するSNS)など監視対象は多岐にわたりました。

By karlnorling

自分の彼女をこんなくだらない仕事の戯言に付き合わせたくなかったので、仕事を家に持ち帰らなかったAさん。自分では元気に仕事をこなしているつもりでしたが、7ヶ月、8ヶ月、9ヶ月と仕事を続けていく中で、精神的にどんどん負荷がかかっていたようで、規定によりセラピーを受けることになりました。このとき実施されたのはロールシャッハテストのようなもので、父親と子どもが写ったスナップ写真を見せられて第一印象で答えるというものでしたが、Aさんは「ファックしてますね!」と返答。本格的な治療を受けることになりました。この最初のテストは政府から派遣されたセラピストによって実施されましたが、GoogleはAさんに対して「退職して、自分でセラピストを見つけて治療するんだ」と言ったそうです。Googleではフルタイムの社員ではない人は最長1年しか会社にいられないため、Aさんは次の職を2ヶ月で探す羽目になりました。

テストで使用したのとは関係ない親子のほほ笑ましい写真。これがほほ笑ましい写真に見えなくなってしまっていたというわけですね……。

By chippenziedeutch

しかし、このようなAさんの事例は珍しいものではなく、Aさんの知り合いの元Google契約社員も同じような経歴だったそうです。たとえばYouTubeの深夜シフトだと、「首切り」や児童ポルノがアップされていないか監視する作業を、22時から翌8時まで、1年間通じて行うそうで、Aさんの親友の女の子は、これで1年間をロスしました。

別の知り合いは「首切り」や児童ポルノに非常に詳しく、アルカイダがYouTubeにムービーをアップしたら真っ先に気付くほどでしたが、契約社員のままでした。マネージャーがリクルーターに対して「彼がどういう仕事をしてきたのかわかっているか?」と電話で問うても、特に答えは無かったそうです。

Aさんは「契約社員であるうちは、「氏名と所属」でしかないんです」と語っています。

By sjbresnahan

・関連記事
Googleが日本の法律に従うならば、Googleは確実に違法 - GIGAZINE

Googleはなぜ「全自動化」できないサービスでは負けるのか?~前編~ - GIGAZINE

Googleはなぜ「全自動化」できないサービスでは負けるのか?~後編~ - GIGAZINE

Googleの失敗作や消えたサービスを列挙したGoogleの墓場「Google Graveyard」、あなたはいくつ覚えていますか? - GIGAZINE

in ネットサービス, Posted by logc_nt