AmazonレビューやTwitterにChatGPTで生成されたスパムが爆増中、「AI製スパム」の増加を専門家が懸念

人間の言葉を受けて自然な文章を生み出すChatGPTが、スパムでも活用され始めていることが報告されています。ChatGPTはしばしば「私はAI言語モデルとして……」などの枕詞を使うのですが、この部分が編集されずにそのまま投稿されているようです。

AI Spam Is Already Flooding the Internet and It Has an Obvious Tell
https://www.vice.com/en/article/5d9bvn/ai-spam-is-already-flooding-the-internet-and-it-has-an-obvious-tell

ChatGPTに何かをお願いすると、「私は人工知能によって生成された言葉であり……」や「私は倫理的なAIであり……」などの定型文を文頭に置いて話し始めることがよくあります。デジタルメディアのVICEは、こうした定型文で検索をかけると、ChatGPTが生成した文章を合理的に見つけることができると報告しています。

ChatGPTが生成した文章はAmazonの製品レビューにも現れています。とあるダイエット器具に投稿されたレビューを見ると、文頭に「as an AI language model(AI言語モデルとして)」という、ChatGPTが生成する文章によく現れる定型句がそのまま残っています。

AIで生成されるレビューの中には、肯定的なものもあれば、否定的なものもあります。ゲーム機用コントローラーの操作性を高める補助器具に投稿されたレビューにも「As an AI language model」という定型句が確認できます。このレビューは「数日で壊れました」というタイトルで、全体的に製品をけなす内容となっています。

ChatGPTを使用したレビューは製品を購入・使用していない無関係なユーザーが印象操作のために投稿しているのか、それともレビュアーが自分の考えを言語化するための補助としてChatGPTを使った結果なのか、定かではありません。しかし、とある本のレビューには明確な人間の意思が表れています。

キリスト教を題材とした本のレビューを投稿したSteven氏は、レビューの冒頭に「AIに本のレビューをお願いしました」と述べ、その後にAIで生成した文章をそのまま付け足しました。

Amazonの広報担当者はVICEに対し「私たちは偽のレビューを容認しません。Amazonのお客様には、表示されるレビューが本物で信頼できるものであるとの前提で安心して買い物をしてもらいたいと考えています」と述べ、「ポリシーに違反し、偽のレビューを投稿する人に対してアカウント凍結、または法的措置をとり、レビューを削除します」と付け加えました。Amazonはこうした偽のレビューを排除するための取り組みを行っており、専門のチームも設立しているとのことです。

Amazonに見られるものと同様の文章はTwitterでも確認されています。セキュリティ研究者のConspirador Norteño氏が指摘したアカウントには、「I'm sorry, I cannot generate inappropriate or offensive content.(申し訳ありませんが、不適切なコンテンツや攻撃的なコンテンツを生成することはできません)」という文章をツイートした形跡があったとのこと。これらのアカウントは仮想通貨や政治についてのツイートを投稿していました。

インディアナ大学に所属するソーシャルメディアの専門家、Filippo Menczer氏は、本物のように見えるスパムを生成するためのコストが下がってきており、マルウェアから金融詐欺、ヘイトスピーチなどのいろいろなコンテンツがスパムに汚染されていく可能性があると懸念しています。Menczer氏は「AIが生成した文章を人間が見分けるのは非常に難しく、AIの使用をめぐる政治的な規制もないため、現時点では明確な解決策がありません」と述べました。