高齢者を狙ったAI音声詐欺が急増中、たった3秒の音声データでAI音声クローンが作られてしまう

AI技術の発展により、AI音声技術を用いた巧妙な詐欺が多発しています。そんな最先端のAI音声詐欺について、エンジニアのティム・グリーン氏がまとめています。

The Three-Second Theft: Why AI Voice Fraud Outruns Every Defence — SmarterArticles
https://smarterarticles.co.uk/the-three-second-theft-why-ai-voice-fraud-outruns-every-defence

アメリカ・フロリダ州ヒルズボロ郡在住のシャロン・ブライトウェル氏は、2025年7月にAI音声クローン技術を用いた巧妙な詐欺事件の被害にあいました。

ブライトウェル氏は自身にかかってきた詐欺電話について、「まるで娘の泣き声が聞こえたようだ」と説明しています。詐欺電話では、まずブライトウェル氏の娘のAI音声クローンが運転中に妊婦をひいてしまったこと、そして携帯電話が警察に押収されたことを説明。その後、電話は娘の弁護士を名乗る男性に代わり、保釈金として現金1万5000ドル(約250万円)が必要だと説明しました。この弁護士は、銀行からお金をおろす際に「用途を言わないように」と警告しており、その理由として「娘の信用に傷がつく可能性があるため」と説明したそうです。

この電話を受けた後、1時間以内にブライトウェル氏は現金をおろし、裁判所関係者と思われる宅配業者に現金を手渡しました。その後、本物の娘と連絡が取れ、娘が事故を起こしていないこと、つまりは電話が詐欺だったことに気付いたと語っています。

ブライトウェル氏が被害にあったAI音声を用いた詐欺は、今ではアメリカで最もありふれた犯罪のひとつとなっているだけでなく、最も技術的に高度な犯罪でもあります。

2026年4月には、FBIのインターネット犯罪苦情センターが「2025年のオンライン犯罪に関する年次報告書」を発表し、同報告書が作成されるようになった26年間の歴史の中で初めて「AIを利用した詐欺」が独立したカテゴリとして分類されるようになりました。この報告書によると、2025年にAIが関係する苦情は2万2000件以上も記録されており、AI犯罪による被害額は8億9300万ドル(約1460億円)を超えています。このうち、60歳以上の被害者による被害額は実に3億5200万ドル(約580億円)に達しており、高齢者がAIを利用した金融犯罪で最も標的にされている年齢層であることも明らかになりました。

FBIは、報告書の数字はあくまで「被害者が認識し報告したものだけ」であるとし、問題の実態を過小評価していると指摘しました。AI音声クローンによる電話の被害者のほとんどは、AIが関与していることを認識していないため、FBIの報告した「AI犯罪による損失額8億9300万ドル」は上限ではなく下限であると解釈するのが適切であると、グリーン氏は説明しています。

高齢者を中心に被害が広がるAI音声詐欺の核心となる技術は、わずか3秒の音声データがあれば元の音声と区別がつかない合成音声を生成することができるというものです。必要な音声データはわずか「3秒」なので、留守番電話のメッセージやポッドキャストの抜粋、Instagramアカウントに投稿された動画などからも生成可能。そのため、グリーン氏は「たった1つのTikTok動画に登場する孫が、詐欺師が事件を捏造するために必要なすべての情報を提供していることになります」と説明しています。

また、AI音声詐欺の脅威が深刻化している理由のひとつには、AI音声クローンが手軽に作成できるからというだけなく、これを行うためのツールが非常に安価かつ豊富に存在しているという点もあります。加えて、コンシューマー・レポートはDescript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechifyといった音声クローン製品の大半が、不正使用や悪用に関する有効な安全対策を欠いていると指摘しており、これらのテクノロジーで安全対策が不足しているという指摘もあります。

人気AI音声クローンツールの中で特に著名なElevenLabsは、多層的な安全対策プログラムを構築していると主張しています。実際、ElevenLabsにはなりすましを禁止する使用ポリシー、自社システムから発信された可能性のある音声を識別できる公開AI音声分類器、生成されたコンテンツを生成元のアカウントに紐付ける追跡機能、選挙期間中に特定の保護対象人物のクローン音声の作成を阻止する「禁止音声」保護機能などが含まれます。

これについて、グリーン氏は業界最高水準の安全システムを搭載しているElevenLabsのAI音声クローン技術でも、保護機能としては物足りないものであると指摘。「ElevenLabsの安全システムは些細な対策ではなく、多くの競合他社が提供する対策よりも優れたものです。しかし、これらの対策には構造的な弱点があります。ほぼすべてが事後対応型であるということです。詐欺が発生し、被害者が貯蓄を失った後に、捜査官が発信元を特定するのに役立ちます。つまり、3秒の音声からAI音声クローンを生成することを防ぐ効果はほとんどありません。なぜなら、クローン作成を防ぐために必要なもの、つまりクローン作成を検出する厳格かつ強制的な仕組みは、競争が激しく変化の速い市場が自らに課すことをためらうものだからです。保護対策によって企業が利益を失う場合、市場は自発的にそれを提供しようとはしません」と語りました。

AI音声詐欺において高齢者が標的とされる理由は、高齢者が平均貯蓄額が高く、効率的なターゲットだからです。一度電話が成功すれば若者を標的とする場合よりもはるかに多くの利益を、効率的に得られるからです。「『声は偽造できる』と100回説明しても、AI音声クローンが子どもや孫のふりをして助けを求めると、そのような知識は消し飛んでしまいます」とグリーン氏は語りました。

なお。AI音声詐欺を規制するための方法のひとつとして挙げられているのは、「誰がAIで音声クローンを作成したのか」を検出できるようにするため、ツールの利用者に対して利用開始時に身元の証明を義務付けることだとグリーン氏は指摘しています。