対話向け言語モデル「ChatGPT」発表、間違いを認めたり不適切な要求を拒否したりすることが可能に

高性能言語モデル「GPT-3」を開発したOpenAIが、対話に最適化されたAI言語モデル「ChatGPT」のテスト版を公開しました。

ChatGPT: Optimizing Language Models for Dialogue
https://openai.com/blog/chatgpt/

OpenAI debuts ChatGPT and GPT-3.5 series as GPT-4 rumors fly | VentureBeat
https://venturebeat.com/ai/openai-debuts-chatgpt-and-gpt-3-5-series-as-gpt-4-rumors-fly/

ChatGPT is a GPT-3 chatbot from OpenAI that you can test now
https://the-decoder.com/chatgpt-is-a-gpt-3-chatbot-from-openai-that-you-can-test-now/

ChatGPTは、GPT-3の改良版であるInstructGPTと同様に、人間のフィードバックからの強化学習(RLHF)を用いてトレーニングされています。

特徴は対話形式に最適化されているところで、フォローアップの質問に回答したり、間違いを認めたり、間違った前提に対して異議を唱えたり、不適切な要求を拒否したりすることができます。

ただし、まだテスト段階ということで、もっともらしく聞こえるものの不正確だったり無意味だったりする回答を示すことがあるとのこと。

なお、入力内容の微妙な変化には敏感なので、質問に対して適切な回答が得られなかったとき、言い回しを変えたり言い換えをしたりすることで、正しい答えを出すことがあります。

また、不適切な要求は拒否するようになっていますが、有害な指示に応答したり、偏った動作をすることがあるとのことです。

OpenAIのIDを持っている人は、プレビュー期間中は無料でテストに参加できます。

ChatGPT
https://chat.openai.com/