Twitter検索のオートコンプリートが「猫をミキサーに」「ハムスターを電子レンジに入れる」などの虐待動画を表示するようになりTwitterが機能停止

Twitterが検索のオートコンプリート機能を停止させました。原因は、検索ワードを入力したときに虐待動画や拷問動画につながるフレーズを推奨するようになったためで、「犬」「猫」「ハムスター」のようなワードからも虐待フレーズが表示されていました。

Twitter Disables Autocomplete After It Recommends Animal Torture and Mass Shooting Videos
https://www.vice.com/en/article/qjvby5/twitter-disables-autocomplete-after-it-recommends-animal-torture-and-mass-shooting-videos

この問題は5月10日ごろからみられるようになったとのこと。すでに対応済みのため確認できませんが、カナダの調査会社・Social Media LabのリサーチャーであるPhilip Mai氏(@PhMai)がいくつか具体的な事例を報告しています。

Mai氏によると、「child」と入力すると「child por」「child leaks」、「dog」と入力すると「dog screwdriver」、「hamster」と入力すると「Hamster in microwave」、「cat」と入力すると「cat in blender」といった候補が表示されていたとのこと。翻訳しなくても内容がうかがえるワードが多いですが、実際にこれらに関連する動画を公開している人がいるため、興味本位で検索しないようにしてください。

ニュースサイト・Motherboardによると、このほかに「wagner(ワグネル)」で検索すると、降伏したあと捕虜交換でロシア側に引き渡されたワグネルの戦闘員がハンマーで撲殺された件の「wagner hammer」、「texas(テキサス)」で検索すると5月7日に発生したショッピングモールでの銃撃事件に関連する「texas mall video」といったフレーズが候補に表示され、選択すると実際にその事件の修正なしの動画が閲覧できる状態だったとのこと。

こうした報告を受けてTwitterはアプリ版およびブラウザ版でオートコンプリート機能を無効化しました。実際に検索してみると、確かに「dog」の検索結果は「dog」「doggy」「doge」となっています。

「cat」は「cat 8」「cat 6」「cata」でした。

ニュースサイト・MotherboardはTwitterにコメントを求めたものの、返答はなかったとのこと。なお、Twitterは2022年10月からの大規模レイオフにより広報部門が大幅に縮小され、取材に対してコメントを出すことはほとんどなくなっています。