「オレオレ詐欺」にAI製クローン音声を用いる事例が急増、被害額は年間15億円近くに

知り合いなどを装って金銭をだまし取る「オレオレ詐欺」で、AI技術を用いて作った音声が利用されるケースが出てきていることが報告されています。2022年の「オレオレ詐欺」による被害額は、アメリカだけでも1100万ドル(約14億9000万円)に上っています。

Scammers are now using AI to sound like family members. It’s working. - The Washington Post
https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/

カナダ・サスカチュワン州レジーナに住むルース・カードさんの場合、孫を名乗る男から「財布も携帯電話もなくて刑務所に入れられている、保釈金が必要だ」という電話があったとのこと。間違いなく孫の声だと思ったカードさんは、できる限りのことをしなければいけないと思い、銀行で1日の限度額である3000カナダドル(約30万円)を引き出し、さらに別の支店に行ってお金を下ろそうとしました。しかし、カードさんの不審な行動に気付いた支店長が行動を阻止。「作られた声で電話をかけてくるケースがある」と説明したことで、カードさんははじめてだまされていることに気付いたそうです。

「交通事故で外交官を死なせてしまった」という電話を受けたベンジャミン・パーキンさんの両親の場合は、裁判費用として2万1000カナダドル(約210万円)を求められ、複数の銀行を回ってお金を用意して振り込んでしまったとのこと。電話は両親が「本人と話した」と思うほどにパーキンさんの声に近いクローン音声だったそうです。パーキンさんはYouTubeに趣味のスノーモービルについて語る動画を公開していますが、クローン音声がこの動画をもとに作られたものなのか、その他のところで入手した音声を用いたものなのかは不明で、被害届は提出したもののお金は戻ってきていないとのこと。

「オレオレ詐欺」のようななりすまし詐欺はアメリカで行われる詐欺で2番目に多く、2022年の発生件数は報告があるだけで3万6000件以上。このうち、5100件以上が電話で行われ、1100万ドル(約14億9000万円)の被害が出ています。

数年前までは、クローン音声を作るにはもとになる音声データが大量に必要でしたが、技術の進歩により、YouTubeやFacebook、TikTokから30秒ほどの音声を手に入れれば、クローン音声を生み出せるようになっています。

たとえば、映画「スター・ウォーズ」シリーズではダース・ベイダー役を40年以上にわたって担当したジェームズ・アール・ジョーンズ氏の勇退に伴い、以後はAIによりジョーンズ氏の声を再現することになっています。

ダース・ベイダーの声をAIが引き継ぐことに - GIGAZINE

by Juanky Pamies Alcubilla

一方で、映画「ハリー・ポッター」シリーズのハーマイオニー・グレンジャー役などで知られる俳優のエマ・ワトソン氏の声を悪用した事例も報告されています。

AIでクローン音声を生成する最新ツールが4chan民により「エマ・ワトソンの声で『わが闘争』を読み上げさせる」など悪用されまくる事態に - GIGAZINE

犯罪被害者の支援を行う非営利団体・Identity Theft Resource Centerのエヴァ・ベラスケス氏はワシントンポストに対して、警察には詐欺の追跡を専門に行う部署へ回すお金とスタッフがいない可能性があるとの意見を述べています。