ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？

AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。

Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’ | CNN
https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk/index.html

‘Everyone looked real’: multinational firm’s Hong Kong office loses HK$200 million after scammers stage deepfake video meeting | South China Morning Post
https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage

香港警察の発表によると、被害者は2024年1月中旬に自身の働く企業の最高財務責任者(CFO)を名乗る人物から「秘密の取引のために資金が必要」という内容のメッセージを受け取ったとのこと。その後、CFOを名乗る人物は被害者をビデオ会議に招待。ビデオ会議には被害者とCFOの他に複数人の同僚と社外の人物が参加していました。

被害者はメッセージを受け取った時点では不信感を感じていたものの、ビデオ会議に参加しているCFOおよび同僚の顔や声が本物とそっくりだったため不信感が消えうせたとのこと。複数人が参加していたビデオ会議の後はCFOとの1対1のビデオ会議やテキストメッセージで送金指示が続き、5件の口座に15回にわたって合計2億香港ドルを送金してしまいました。

最初の連絡から1週間後に被害者が本社に連絡を取ったことで一連の送金指示が偽CFOによるものだったことが判明。その後の警察の捜査によって、ビデオ会議に出席していたCFOや同僚の映像はインターネット上に公開されている映像などをもとに作成されたディープフェイク映像であったことが明らかになりました。

偽CFOはビデオ会議の中で被害者に対して自己紹介を求めていましたが、被害者と対話することはなかったとのこと。香港警察の上級警部であるタイラー・チャン・チーウィン氏はディープフェイク映像を用いたビデオ会議を見分けるために「通話相手に頭を動かすように頼む」「通話相手に質問に応じるように頼む」「金銭を要求されたら即座に疑う」という対策を推奨しています。

◆フォーラム開設中
本記事に関連するフォーラムをGIGAZINE公式Discordサーバーに設置しました。誰でも自由に書き込めるので、どしどしコメントしてください！Discordアカウントを持っていない場合は、アカウント作成手順解説記事を参考にアカウントを作成してみてください！

• Discord | "「ディープフェイク上司」とビデオ会議して見分けられる自信ある？どうすれば見分けられると思う？" | GIGAZINE(ギガジン)
https://discord.com/channels/1037961069903216680/1203989489756676106