メモ

「GPT-3はビットコイン以来の破壊的な可能性を秘めている」というブログ記事が大反響を呼ぶ理由とは?


分散システムの開発者向けツールを構築するOpenZeppelinの元CTOであるマヌエル・アラオス氏が公開した「OpenAIのGPT-3はビットコイン以来で最大のものかもしれない」というブログ記事が大きな反響を呼んでいます。高精度なテキストを作れる言語モデル・GPT-3は確かにすごい技術なのですが、このブログ記事のポイントはまた別のところにありました。

OpenAI's GPT-3 may be the biggest thing since bitcoin
https://maraoz.com/2020/07/18/openai-gpt3/


記事は冒頭に「OpenAIの新たな言語予測モデル(GPT-3)を用いた初期の実験内容を共有します。なぜ私がGTP-3にブロックチェーン技術に匹敵する破壊的可能性があると思っているのかという理由を説明します」という要約があります。

本文では、bitcointalk.orgのフォーラムに投稿されたGPT-3生成の文章が肯定的な反応を得られたことや、将来的にさまざまなコミュニティに予想外の面白さを与える可能性が指摘されています。

しかし、この記事で最も注目すべきところはラインで区切られた部分より下、「Now for the fun part」以降にあります。ここでマヌエル氏は上記記事の本文部分が自分の書いたものではなく、GPT-3が書いたものであることを明かしています。

マヌエル氏がGPT-3に与えた情報は以下のようなもの。サイトに関する情報と、ブログの件名部分、および要約はマヌエル氏の手によるものですが、その他に関してはすべてGPT-3が独自に生み出したものであったことがわかります。

Manuel Araoz's Personal Website

Bio
I studied Computer Science and Engineering at Instituto Tecnológico de Buenos Aires. I'm located in Buenos Aires, Argentina.
My previous work is mostly about cryptocurrencies, distributed systems, machine learning, interactivity, and robotics. One of my goals is to bring new experiences to people through technology.

I cofounded and was formerly CTO at OpenZeppelin. Currently, I'm studying music, biology+neuroscience, machine learning, and physics.

Blog

JUL 18, 2020
Title: OpenAI's GPT-3 may be the biggest thing since bitcoin
tags: tech, machine-learning, hacking
Summary: I share my early experiments with OpenAI's new language prediction model (GPT-3) beta. I explain why I think GPT-3 has disruptive potential comparable to that of blockchain technology.
Full text:


マヌエル氏は、GPT-3が生成した文章の書式をわずかに整えた程度で、ほとんど手は加えておらず、自分が事前に作ったタイトル通り、これまでに見てきたものの中でも特に大きな技術進歩だと感じたとのこと。

なお、他にもいろいろなGTP-3による生成文が公開されています。たとえば以下は「アンデス山脈でユニコーンの群れが発見された。ユニコーンは英語を完璧に話すことができた」という衝撃的なニュース。内容はあまりにも自然で、ユニコーンが登場する以外は違和感ゼロです。

unicorn.md · GitHub


GPT-3がどうやって動作するのかをGPT-3自身に説明させるテキストもあります。

gpt3-1.md · GitHub


ピーター・ティール氏率いるベンチャーキャピタル・Founders Fundの重役であるDelian Asparouhov氏は、GPT-3は単体で用いるのではなく人間のバディとして役立つという考えを披露し、かつてスティーブ・ジョブズがコンピューターを「心の自転車」と表現したのになぞらえて、GPT-3を「心のレースカー」だと表現しています。

Quick thoughts on GPT3 - Operators & Delian’s Ramblings
https://delian.substack.com/p/quick-thoughts-on-gpt3

この記事のタイトルとURLをコピーする

・関連記事
あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」が公開 - GIGAZINE

OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも - GIGAZINE

「あまりにも危険過ぎる」と危険視された文章生成ツール「GPT-2」の技術で画像を自動で生成することに成功 - GIGAZINE

in メモ, Posted by logc_nt

You can read the machine translated English article here.