超高精度の文章を自動生成できる「GPT-3」は1日当たり45億以上の単語を出力していることが明らかに

AI研究組織のOpenAIが作成した、自動で文章を生成できるAIの「GPT」は、リリース前に研究者が「非常に高精度なテキストを出力するため、あまりにも危険すぎる」と述べ、技術的な論文の公開を延期したほど高度な言語モデルです。このGPTの最新版である「GPT-3」が2020年6月に公開されており、わずか10カ月でGPT-3のAPIを利用するアプリケーションは300を超え、同APIは1日あたり45億単語以上を出力していることが明らかになっています。

GPT-3 Powers the Next Generation of Apps
https://openai.com/blog/gpt-3-apps/

OpenAI’s text-generating system GPT-3 is now spewing out 4.5 billion words a day - The Verge
https://www.theverge.com/2021/3/29/22356180/openai-gpt-3-text-generation-words-day

機械学習における最大のトレンドのひとつはテキスト生成であり、AIを用いたシステムの多くがインターネット上に存在する無数のテキストから学習し、テキスト生成の精度を向上させようとしています。AIを用いたテキスト生成は他の分野よりもかなり進んでおり、すでに人間のブログと見まがうような文章を書いたり、インターネット掲示板のReddit上で誰にも気づかれずに人間と会話したりすることが可能なレベルにまで到達しています。

そんなAIを用いたテキスト生成ジェネレーターの中で最も有名なのが、OpenAIの「GPT-3」です。GPT-3を簡単に利用できるようにするためのAPIもリリースされており、当初は無料で提供されていましたが、2021年7月からは有料APIとしての提供がスタートしています。

OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも - GIGAZINE

OpenAIにとって初の商用製品となったGPT-3のAPIは、発売からわずか9カ月で300以上の異なるアプリケーションで使用されるようになり、1日当たり平均45億単語を生成しているそうです。

顧客からのフィードバックを分析する「Viable」というツールでは、GPT-3を用いてチャットログやレビューなどのテキスト情報から感情やテーマを識別し、洞察をまとめてユーザーに提供します。例えば「支払いに関して顧客をいら立たせている要素はありますか？」と尋ねると、Viableは「ロードに時間がかかり過ぎているため、顧客は支払いプロセスに不満を感じています。また、支払い時に住所を編集し、複数の支払い方法を保存できるようにすることも必要です」といったアドバイスを提供してくれるわけです。ViableのCEOであるDaniel Erickson氏は、「GPT-3を用いることで、マーケティングチームに大して顧客体験や顧客の要望などをよりよく理解させることができます」と説明しています。

他にも、デジタルコンテンツスタジオの「Fable Studio」は、「Wolves in the Walls」というVRゲームの主人公であるルーシーにGPT-3を用いることで、プレイヤーとルーシーの自然な対話が可能になるよう演出しています。Fable StudioのCEOであるEdward Saatchi氏は、「GPT-3は私たちにキャラクターに命を吹き込んでくれました。アーティストのビジョンと、AIや感情的知性を組み合わせることで、強力な物語を作り出すことができることに興奮しています」と語り、「Wolves in the Walls」においてGPT-3が重要な役割を担っていることを強調しています。

実際にプレイヤーとルーシーの対話の様子は以下のムービーでチェックできます。

Lucy Premieres at Sundance - Highlights on Vimeo


なお、OpenAIはAPI版GPT-3の活用例が増えていることを大々的に宣伝していますが、言語モデルも他のアルゴリズムと同様に有害なバイアスにより偏った知識を蓄える傾向にあるとテクノロジーメディアのThe Vergeは指摘。実際、GPT-3に対しては反イスラム教的なバイアスが存在するという研究論文が発表されています。

超高精度な文章生成AI「GPT-3」には反イスラム教的なバイアスが存在すると判明 - GIGAZINE

一方で、OpenAIはバイアスや誤用を防ぐために、API版GPT-3が利用されているすべてのアプリケーションに対して、最終的にGPT-3の使用を承認するか否かのレビューを実施していると述べています。さらに、開発者に対しても、本番環境に移行する前にレート制限やユーザー検証、ヒューマンインザループなどの安全対策の実装を義務付けているそうです。加えて、誤用やアプリケーションの脆弱性を積極的に監視する「レッドチーム」を構成し、厳しい評価を実施しているともアピールしています。