パスワード管理ソフトウェア・LastPassの従業員を「AIで複製されたCEOの声」でだまそうとする事案が発生

AI技術の発展に伴って、近年ではAIを使って人の声をシミュレートするソフトウェアなどが開発されています。しかし、一部の悪意あるユーザーがこれらの技術を悪用していることも明らかになっており、パスワード管理ソフトウェアのLastPassでは、何者かがカリム・トゥーバCEOの声を複製して従業員をだまそうとした事例が報告されています。

Attempted Audio Deepfake Call Targets LastPass Employee
https://blog.lastpass.com/posts/2024/04/attempted-audio-deepfake-call-targets-lastpass-employee

Hackers Voice Cloned the CEO of LastPass for Attack
https://futurism.com/the-byte/hackers-cloned-lastpass-ceo-voice

2024年4月、LastPassのある従業員の元に、トゥーバCEOを名乗る人物からWhatsAppを介して電話やテキストメッセージ、音声メッセージなどが届きました。

この従業員は「通常のビジネスコミュニケーションの範囲外である」「緊急であることを訴えてくる」などの観点からこれらの接触を虚偽と判断。メッセージに一切応答せず、社内のセキュリティチームに報告したそうです。

この判断の結果、LastPassへの被害はありませんでした。LastPassは「この従業員の判断により、脅威を軽減し、社内外で同様の攻撃についての認識を高めるための措置を講じることができました」と語っています。

さらにLastPassは「ディープフェイクは国家の脅威アクターとなっているだけでなく、経営者になりすまして詐欺に使用されることもあるという認識を高めるために、この事件を共有したいと考えました。CEOを名乗る個人による不審な接触を、社内の適切なコミュニケーションチャネルを通じて確認することの重要性を、今回の事例から学ぶことができました」と述べています。

実際に香港では、ディープフェイクで作られた映像や音声だったにもかかわらず、ビデオ会議で上司に受けた指示に従い、2億香港ドル(約39億円)を送金してしまう事件が発生しています。

ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？ - GIGAZINE