Googleが「通話やチャット中に詐欺を検出して警告する」というスマホ向けAI機能を発表

Googleが2025年3月4日に、「Googleメッセージ」でのチャット中や音声通話中にAIが詐欺を検出し、ユーザーに音声や触覚で警告する機能を発表しました。

Google Online Security Blog: New AI-Powered Scam Detection Features to Help Protect You on Android
https://security.googleblog.com/2025/03/new-ai-powered-scam-detection-features.html

調査機関・Global Anti-Scam Alliance(GASA)の調べでは、2024年に詐欺師は1兆ドル(約150兆円)を世界中のモバイルユーザーから盗み出しており、生成AIを活用したツールによる被害も発生したことが報告されています。また、発生した詐欺の大部分が電話やテキストメッセージで配信されたこともあり、Googleは自社のAIを活用して、Androidのセキュリティ保護機能の強化に努めています。

Googleが2025年3月4日に発表したのは「メッセージの詐欺検出機能」と「通話での詐欺検出機能」の2つです。「メッセージの詐欺検出機能」は、デバイス上のAIがSMSやMMS、およびRCSメッセージで詐欺と思われるパターンを検出すると、ユーザーに「詐欺の可能性がある」という警告メッセージを自動送信するというもの。表示された警告を基に、ユーザーは「Not a scam(詐欺ではない)」「Report ＆ block(通報してブロック)」の2つのオプションの中から選択することが可能です。

なお、迷惑メッセージ対策の設定の一環として、Googleメッセージでの詐欺検出機能はデフォルトでオンになっています。また、詐欺検出機能は連絡先として登録されているユーザー以外のチャットにのみ適用され、すべてのメッセージ処理はデバイス上で行われるため、プライバシーは保護されるとのこと。「通報してブロック」を選択した場合でも、メッセージ相手の詳細とその相手との最近のメッセージだけがGoogleと携帯通信会社に共有されます。

これまでにも、Googleは詐欺やスパムの被害を防止するために、荷物の配達詐欺の検出機能や潜在的に危険なリンクの警告をを行う機能をGoogleメッセージに追加しています。

Googleメッセージに新しいスパム撃退機能が登場、ヌードを自動的にぼかす機能も - GIGAZINE

Googleメッセージでの詐欺検出機能はまず、アメリカやイギリス、カナダを含む英語版で提供が開始され、近日中に他の国でも展開される予定です。

「通話での詐欺検出」は、デバイス上のAIが通話をリアルタイムで分析し、発信者がギフトカードやプリペイドカードでの支払いを要求した場合など、詐欺の可能性がある場合、ユーザーに音声による通知と触覚フィードバック(振動)による通知を通じて警告し、「その電話は詐欺である可能性があります」と表示する機能です。

Googleは2024年11月に、同様の詐欺検出機能をGoogle Pixel 6以降のデバイス向けにリリースしていましたが、今回リリースされた機能はGoogle Pixel 9以降の端末に搭載された「Gemini Nano」を活用したより高性能な詐欺検出機能とのこと。

GoogleがAIで通話内容を聞いて詐欺を検出する「詐欺検出機能」をリリース - GIGAZINE

Googleメッセージの詐欺検出機能と同様に、通話での詐欺検出機能も会話の音声や文字起こしが録音されたり、デバイス上に保存されたり、Googleや第三者に送信されたりすることはありません。また、この機能はデフォルトでオフになっており、オンにすると通話の開始時と通話中に適宜ビープ音が流れ、通話相手に詐欺検出機能がオンになっていることが知らされます。

Googleによる(PDFファイル)調査では、この機能のベータ版を使用した多くのユーザーが「電話でより注意を払うようになった」「不審な行動が検出され、会話型詐欺の被害に遭わずに済んだ」と報告したことが明かされています。

なお、通話での詐欺検出機能はアメリカ国内に住むPixel 9以降の端末でのみ配信されており、日本での提供時期は不明です。