AmazonにはAIによる「ゴミ本」が溢れているという指摘、どうしてこれほど増えているのか？

AmazonではAIによって書かれた質の低い「ゴミ本」が増加しているという事例が数多く報告されています。過去には、他人の作家名を勝手に名乗って販売するなりすまし本の被害や、AIで低品質の伝記が急増していることが報じられましたが、そのようなゴミ本はどのように作られ、なぜサイトでの販売数を増やしているのか、アメリカのデジタルメディアのVoxが問題点をまとめています。

Amazon ebooks: Are the Mikkelsen twins running a scam? Here’s our investigation - Vox
https://www.vox.com/culture/24128560/amazon-trash-ebooks-mikkelsen-twins-ai-publishing-academy-scam

Amazonでは大量のAIコンテンツが公開されており、時には誤解を招く、または詐欺的な方法で他の著者のものだと表記しているケースがあります。Amazonは「作者名に関する商標登録がないと本の削除対応はできない」とかたくなな姿勢をとっていましたが、全米作家協会が被害にあった作家の支援も始めたことから、コンテンツガイドラインを更新して「AI生成コンテンツを含む書籍を出版する場合は申告する」ように求める条項を追加しています。

AIが書いて他人名義で販売される「ゴミ本」に沈黙していたAmazonが作家組合の訴えに応じて重い腰を上げる

それでも依然としてAmazonにAIで生成された質の低い本は数多く存在しており、ベテランのテクノロジー系ジャーナリストであるカラ・スウィッシャー氏が回顧録を発表した際には、本が話題になるにつれて、Amazonで「AIが生成したスウィッシャー氏の伝記」が大量に出版されていたことが報じられました。スウィッシャー氏は、「そこには偽の本が何十冊もありました。『Amazonで何が起きているのだろう？なぜAmazonはこれを止めないのか？』と思いました」と述べています。

Amazonで「AIが生成した低品質の伝記」が急増、AI生成書籍の氾濫を食い止めるためAmazonが一部ジャンルの出版制限を開始

Voxの出版・書籍関連チームに所属するシニアジャーナリストのコンスタンス・グレイディ氏は、「Amazonのような電子書籍マーケットでは、私たちはワンクリックで素早く購入できることに慣れています。買う人は作者名やテーマが正規のものであるか注意し、作者は自分の本こそが正規の本であることを明示しなくてはならない状態は、誰が望んでいるでしょうか？」と語っています。

一方で、グレイディ氏によると、ゴミ本も実際にはそれほど儲からない場合が多いそうです。低品質の電子書籍をAIで生成して、Kindleで設定できる最低価格である0.99ドル(約153円)で販売した場合、売り上げによってはAIにかかる費用で損失が発生する可能性すらあります。ゴミ本を生成する人は、ゴミ本を作るプロセスを教えることで金を稼いでおり、「それはどこまでも不満とゴミを量産する連鎖で、最終的に損をするのは本を愛する読者と作家です」とグレイディ氏は述べています。

Amazonの広報担当者は「昨年、Kindleダイレクトパブリッシングサービスを利用するすべての出版社に対し、コンテンツがAIによって生成されたものであるかどうかに関する情報の提供を義務付け始めました。また、1日に出版できるタイトルの総数も制限することで、AIによる本の反乱を防いでいます」と述べています。広報担当者によると、Amazonはガイドラインに違反するコンテンツを検出するための「一連の強力な方法」を持っており、それらの本を定期的に検出して削除し、常習的にゴミ本をアップロードするアカウントを停止することもあるとのこと。

一方で、AIによる本を出版するクリスチャン・ミケルセン氏は、「AIの使用には、AI生成型とAI支援型の2つのグループがあります。それらはまったく違います」と述べました。ミケルセン氏はAIにトピックを選択させて本のアウトラインまでAIによって作り、その後ライターに原稿を書かせることで、本を素早く仕上げる方法を確立しています。自費出版で販売した後は、高評価レビューを提供するネットワークを利用して本の評価を高め、アルゴリズムによるランキング上位に押し上げます。グレイディ氏は「ミケルセン氏の方法はどれも違反ではありませんが、出版の規範を知っていれば、それが非倫理的であることはわかります」と指摘しています。

グレイディ氏は「作家にとって現代の書籍販売経済のインセンティブは、コストを低く抑え、冊数を多く、そして絶対にAmazonに載せることです」と述べた上で、「このインセンティブが、私たち全員をゴミの洪水に追いやっているのです。本の製造と販売の過程で不便な点や手間がかかる点をすべて見つけ出し、それらの点を悪用するやり方は、本には意味があり、本を書くことは価値のある行為であり、本を読むことで人生が豊かになるという私たちの文化的信念を悪用しています。結果として、本物の本ではなく、誰の役にも立たない内容が詰まった本の形をしたデジタルファイルが残ります」と問題点を語りました。