サイバー犯罪者がチャットAIをビジネスメール詐欺に活用している

ChatGPTのようなチャットAIは、入力されたプロンプトに対応してまるで人間が書いたかのようなテキストを生成します。サイバー犯罪者は、こうした技術を利用することで、受信者に合わせてカスタマイズした説得力の高い偽メールを作成し、ビジネスメール詐欺(BEC)攻撃の成功率を高めているそうです。

WormGPT - The Generative AI Tool Cybercriminals Are Using to Launch BEC Attacks | SlashNext
https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/

セキュリティ企業・SlashNextによると、サイバー犯罪者らは母国語でメールを作成したあと、翻訳してからChatGPTなどのチャットAIにかけて、文面を洗練させ形式性を高めているとのこと。こうした手法を用いることで、特定の言語をうまく操れない場合でも、フィッシングやBEC攻撃を行うにあたって説得力のあるメールをでっち上げることができます。

また、サイバー犯罪者が集うフォーラムには、チャットAIで機密情報の公開や不適切コンテンツの生成、有害なコードを実行する可能性のある出力を実現するために作られた「脱獄」と呼ばれる特殊なプロンプトを提供するスレッドがあるとのこと。

さらに、サイバー犯罪者は悪意がある目的で簡単に使用できるようカスタムされた独自のチャットAIモジュールを作成しているとのことです。

その1つとしてSlashNextが報告しているのが「WormGPT」です。WormGPTは、2021年に開発されたGPTJ言語モデルに基づくAIモジュールで、無制限の文字サポートやチャットメモリ保持、コードフォーマット機能などを備えています。特にマルウェア関連のデータソースでトレーニングされているとみられますが、トレーニングプロセスで使用されるデータセットは作成者が秘密にしているため不明だとSlashNextは述べています。

WormGPTにはChatGPTのような制限がないため、説得力のある偽メールを容易に作成することが可能であり、SlashNextは、初心者レベルのサイバー犯罪者が用いるとしても脅威になり得ると警告しています。