OpenAIがアメリカ当局者に対し「Strawberry」と呼ばれる画期的な成果をデモ、コード名「Orion」という主力LLMのトレーニングデータを作成することでGPT-4越えの性能を目指す

OpenAIはStrawberryという複雑な数学やプログラミングのタスクに取り組めるAIモデルと、OrionというGPT-4を上回るAIモデルという2つのモデルを開発しているとテクノロジー業界に詳しいメディアのThe Informationが報じました。

OpenAI Shows ‘Strawberry’ AI to the Feds and Uses It to Develop ‘Orion’ — The Information
https://www.theinformation.com/articles/openai-shows-strawberry-ai-to-the-feds-and-uses-it-to-develop-orion

OpenAI Races to Launch ‘Strawberry’ Reasoning AI to Boost Chatbot Business — The Information
https://www.theinformation.com/articles/openai-races-to-launch-strawberry-reasoning-ai-to-boost-chatbot-business

OpenAI's Strawberry AI is reportedly the secret sauce behind next-gen Orion language model
https://the-decoder.com/openais-strawberry-ai-is-reportedly-the-secret-sauce-behind-next-gen-orion-language-model/

ChatGPT and GPT-4 could get a sweet upgrade this fall
https://www.androidauthority.com/openai-strawberry-ai-3475682/

Strawberryは従来よりも難しい数学の問題やプログラミングなどのタスクに最適化されているほか、ロジック面の強化によって十分な時間があれば言語関連のタスクも効果的に解決できるとのこと。StrawberryをベースにしたAIシステムの社内デモンストレーションでは、ニューヨーク・タイムズのワードパズル「Connections」を解くことに成功したと報じられています。

OpenAIの社内AIテストで「あるAIモデル」が数学能力を測るMATHベンチマークで90％以上のスコアを獲得したとロイター通信が報じていますが、The InformationはこのモデルがStrawberryだと推測。アメリカ国家安全保障局(NSA)にもデモが披露されたと報道されました。

OpenAIの内部文書によれば、Strawberryモデルを使用することでAIが事前に計画を立てて詳細な調査を実施するという「自律的なインターネット検索」が計画されている模様。Strawberryプロジェクトに関わっている2人の人物からの情報によると、OpenAIは早ければ2024年秋にもStrawberryのチャットボット版をChatGPTの一部としてリリースする可能性があるとのこと。

Strawberryは以前Q*(Qスター)と呼ばれており、OpenAIの元主任サイエンティストであるイルヤ・サツキヴァーが開発したAIモデルでした。サツキヴァー氏がOpenAIを退職した後はヤクブ・パチョッキ氏とシモン・シドール氏によって開発が継続されていました。

また、OpenAIはStrawberryをOrionというAIモデルのトレーニングにも使用しており、GPT-4を上回る性能を目指しているとのことです。