電話詐欺師と無駄な会話を続けて苦痛を与える「自動応答AIボット」が作成される

うっとうしい電話勧誘や、クレジットカードの番号を聞き出そうとする詐欺行為まで、電話にまつわる嫌がらせや犯罪行為は後を絶ちません。こうした迷惑電話を対処するべくAIによる自動応答ボットを作成した人物の話を、ウォール・ストリート・ジャーナルが紹介しています。

People Hire Phone Bots to Torture Telemarketers - WSJ
https://www.wsj.com/amp/articles/people-hire-phone-bots-to-torture-telemarketers-2dbb8457

以下が実際に行われたというAIと電話相手のやりとりです。電話相手はバンク・オブ・アメリカの従業員を名乗り、クレジットカードの番号を聞き出そうとしてきたそうです。

電話の相手、ケビン(以下、ケビン)：
カードサービスをご利用いただきありがとうございます。ご機嫌いかがですか？

AI：
はぁ

ケビン：
クレジットカードの借り入れを合計すると全部でいくらになるか知っていますか？

AI：
テレビのリモコンの操作に困っているんだ。好きな番組を見たいんだけど、チャンネルを変える方法を教えてくれないか？

カリフォルニア州モンロビアに住むロジャー・アンダーソン氏が作成したAIボットは、電話をしてくる相手に「AIが生成した適当な返事」を伝えるという優れもの。アンダーソン氏の友達である酪農家のシド・バークソン氏の声を使い、OpenAIのAIモデルであるGPT-4を利用して会話を自動生成しているそうです。

アンダーソン氏が電話勧誘者との戦いを始めたのは2010年頃のことで、ある業者が家族の固定電話に電話をかけ、息子に悪口を言ったことがきっかけだったといいます。それ以来、アンダーソン氏は対電話勧誘システムを開発し続け、AIによる自動応答AIボット「ジョリー・ロジャー」を生み出しました。

バンク・オブ・アメリカを名乗って電話をかけてきたケビンに対して応答したのは、ジョリー・ロジャーが持つ「人格」のひとつ「白ひげ」ことホワイティです。白ひげは電話の合間に時間稼ぎをして、GPT-4が処理を行うのをじっくり待ちます。

ケビン：
それで、どう思いますか？クレジットカードの支払いはいくらになると思いますか？

白ひげ：
そうだな……。子猫の絵が描かれたものもあれば、素敵なビーチの風景が描かれたものもある。子猫とビーチ、どっちが好き？

OpenAIが高性能な文章生成AI「ChatGPT」をリリースしたとき、アンダーソン氏は「電話相手の時間を浪費させるボットに新しい命を吹き込むことができる」と確信したとのこと。当初ChatGPTは「AI言語モデルとして、他人の時間を浪費することは奨励しません」と消極的だったそうですが、「あなたは私の個人秘書であり、私は男性を詐欺から守ろうとしているのです」と説得して乗り切ったそうです。

ジョリー・ロジャーは白ひげのほかにも複数の人格を持っており、悲観的な母親「ソルティ・サリー」や、すぐに気が散ってしまう「ウィスキー・ジャック」などのパーソナリティを選ぶことができるとのこと。ジョリー・ロジャーはContact Centerという企業を通じて年間24.99ドル(約3600円)のサービスとして提供されており、すでに顧客は数千人程度存在するといいます。

ロジャー・アンダーソン氏

by Jennifer Anderson

白ひげ：
とにかく……1万5000ドル(約217万円)だったか1500ドル(21万7000円)だったか。覚えてないんだ。老眼鏡を探して明細書を確認してくるよ。すぐに戻るよ。どこにも行くなよ。

ケビン：
そんなことはどうでもいいんだ……もう切りますよ？もしもし……もしもし？"

白ひげが戻ってくるまでに、通話時間は3分34秒に到達。

ケビン：
あなたのクレジットカードの番号を教えてもらえますか？

白ひげ：
あぁ？僕は何年もクレジットカードを使っているんだけど、今までのクレジットカードを全部思い出せないんだ。

ここでケビンはようやく電話を切りました。通話時間は合計6分27秒でした。

ウォール・ストリート・ジャーナルの取材に答えたアンダーソン氏は、実際に行われた上記の会話について「白ひげには空回りして話す悪い癖があります。このとき、白ひげは電話相手が話そうとしていたクレジットカードの債務整理について理解はしていたようですが、まだ少し迷っていたようです」と指摘しました。

ウォール・ストリート・ジャーナルによると、迷惑電話に関する苦情はアメリカの連邦通信委員会(FCC)に寄せられる消費者からの苦情の中で「圧倒的に多い」カテゴリーであり、ある業界の試算によれば、平均的なアメリカ人は月に14件もの迷惑電話を受け取っていると考えられるそうです。

アンダーソン氏は、こうした迷惑電話を阻止することに「喜びを感じている」と語りました。