Google検索で「緊急事態」を察知して役立つ情報を提示するAI「MUM」＆不適切なエロコンテンツをカットする「BERT」

人々はときに「今すぐに何らかの助けが欲しい」とGoogle検索に頼ることがあります。こうした願いに応えるため、GoogleはAIモデル「MUM」と「BERT」を用いて、ショッキングな内容や有害な内容を避けつつ、重要な情報を提示しているとのこと。

Using AI to keep Google Search safe
https://blog.google/products/search/using-ai-keep-google-search-safe/

Google cuts racy results by 30% for searches like 'Latina teenager' | Reuters
https://www.reuters.com/technology/google-cuts-racy-results-by-30-searches-like-latina-teenager-2022-03-30/

Google is using AI to better detect searches from people in crisis - The Verge
https://www.theverge.com/2022/3/30/23001468/google-search-ai-mum-personal-crisis-information

「MUM」は2021年5月に発表された検索アルゴリズムで、「Multitask Unified Model」(マルチタスク統合モデル)を略したもの。

言語の壁を超えて複雑な文章や画像も理解できる新検索アルゴリズム「MUM」をGoogleが発表 - GIGAZINE

MUMは、Googleで自殺、家庭内暴力、性的暴行、薬物乱用に関する情報を検索したときに、最も関連性が高く役立つ情報とともに、全国規模のホットラインの連絡先を提示します。

上記のような危機に直面している人たちが、必ずしも的確なフレーズで検索を行えるとは限りません。そのため、MUMは、入力された検索フレーズの背後にある意図をよりよく理解し、人々が困っているということを検出、より確実に、信頼できる実行可能な情報を適切なタイミングで表示するとのこと。

MUMによる検索結果の改善は、今後数週間で適用されていくとのことです。

一方の「BERT」はMUM以前から用いられている検索アルゴリズムです。Googleで検索を行うと、ときに求めていないのにポルノ関連の情報が入ってくることがあり、AIチームの製品責任者であるトゥルシー・ドーシ氏は「全体的に性的描写が過剰な結果になっている」と述べています。

すでに、Googleではこの種の結果をフィルタリングして除外するセーフサーチが導入されていて、18歳未満のアカウントではデフォルトでオンになっていますが、BERTに対するさらなる改善により、エロ・ポルノ関係のきわどい検索結果が2021年だけで30％カットされたとのこと。

ロイターによれば、具体的には「latina teenager」「la chef lesbienne」「college dorm room」「latina yoga instructor」「lesbienne bus」といったフレーズで結果が改善されたそうです。ロイターは、2019年に俳優のナタリー・モラレス氏がGoogle検索をした際に「Teen」だと普通にティーンエイジャーの写真が出るのに対して「Latina Teen」だとポルノばかりとツイートした件に触れ、モラレス氏に代理人を通じてコメントを求めたものの返答はなかったと報じています。

なお、モラレス氏のツイートに対しては、「ポルノ」や「裸」といったフレーズを入れない限り、セーフサーチをオフにして「latina teen」と検索しても普通のティーンエイジャーの写真しか出なかったというツッコミが2019年時点で行われています。