Amazonで高評価の「NFT解説本」を買ったらAIが自動生成したつっこみどころ満載の本だった

Amazon | NFT FOR BEGINNERS: The Simple Guide for Understand Non-Fungible Tokens and Economically Exploit the New Digital El Dorado. Learn How to Monetize Them Like Bitcoin. | Martin, Matt | Home Based

ザレフスキ氏がこの本を注文した時には、Amazonで「NFT」と検索した時の順位が3番目で、星が5個のレビューも数百件寄せられていました。しかし、実際にザレフスキ氏が読んでみると、お世辞にも良書とは言いがたいものだったとのこと。

例えば、仮想通貨やNFTへの投資法を記した以下のページには、「最低でも3カ月は待って、出遅れている通貨を一気に買い集めてから、相場が再び上昇するのを待ちます。50％以上値上がりした時点で、手持ちの仮想通貨を一度に売却してください。これで値上がり益が出ます」と書かれています。間違ってはいないものの、50％以上の暴騰を基準としているなどあまり現実的ではないため、ザレフスキ氏は「このような投資アドバイスには思わず顔がほころんでしまいますね」と評しています。

さらにページを進めたザレフスキ氏の目に、「NTFはStrategic Development Groupの一部です」「NTFとは、Net Price Calculatorの略です」という一文が飛び込んできました。NFT(non-fungible token)の話題のはずが「NTF」について論じる文章になっているほか、Net Price Calculatorの頭文字を取ると「NPC」になるので、なにもかもが違います。

でたらめな記述は数ページ続き、最後には「NFP」という化学療法の話題へと飛躍してしまいました。

このような記述が生まれてしまった原因についてザレフスキ氏が最初に考えたのは、「内容が薄く品質が低いコンテンツを量産するコンテンツファームに委託して執筆された本」というものです。こうしたコンテンツファームでは、多くの人が文脈を理解せずに作った文章を切り貼りして記事を作るので、本筋とはまったく違った記述が紛れ込んでしまうことがあります。しかし、ザレフスキ氏が「NFP chemotherapy(化学療法)」などのワードで検索をしてもまったくヒットしなかったので、素人がインターネットから文章をコピーしてきたという線は消えました。

最終的に、ザレフスキ氏はこの書籍はGPT-3のような機械学習ベースの言語モデルが出力したものではないかとの結論に達しました。ザレフスキ氏によると、こうした言語モデルは特定の話題には非常に強いものの、高度な理論を展開するのは苦手とのこと。特に長文を生成させると、主題からそれたり段落ごとに矛盾した文章を生成したりしてしまいます。

前述の通り、ザレフスキ氏がこの本をAmazonで購入した時は満点のレビューが多数投稿されていましたが、記事作成時点ではわずか34件でレビューの平均は3.1点、レビューの26％が星1つの最低評価をつけています。この本についてザレフスキ氏は「証拠こそありませんが、機械が生成した書籍が商業化された初期の例を偶然発見してしまったのは間違いありません。この本はすぐに検索結果の上位に表示されなくなり、数百件あった偽レビューも削除されましたが、おそらく当初の目的は果たされたはずです」と述べました。

ザレフスキ氏はまた、文章作成AIなどの技術の今後について「GPT-3が私たちの暮らしを豊かにしてくれるのはまだ何年も先のことですが、既にインターネット上にある本物のコンテンツの一部を駆逐してしまう能力を獲得しており、ある意味では『無限に拡張可能なテクノロジーが実現した』と言えます。そして、この技術を使えばお金を稼いだり世論を動かしたりすることもできるので、実際にそうなるのは不可避でしょう」とコメントしました。