AI

「Codexを用いてChatGPTの高速性を維持する方法」をOpenAIが解説、AIエージェントで工場システムを構築して自律的に改善作業を進める


OpenAIはChatGPTなどの自社製品の開発にCodexを活用しています。新たに「Codexを用いてChatGPTの高速性を維持する方法」という解説記事が公開されました。

How OpenAI’s Performance Factory keeps ChatGPT fast | OpenAI
https://openai.com/index/how-openai-performance-factory-keeps-chatgpt-fast/


OpenAI社内の開発体制の推移を示した図が以下。初期は人間のエンジニアが手作業で問題の調査や対策を実施していました。その後Codexをパートナーとして活用するようになりましたが、導入当初は作業全体を人間が主導する必要がありました。AIの性能向上やスキルの整備によってCodexが自律的に作業をこなせるようになり、「アラートが発生したらCodexセッションが自動的に始まり、調査結果をSackに投稿する」というシステムが完成。さらにシステムが洗練され、記事作成時点では必要なタスクの特定やエージェントの割り当て、テストの実行、本番環境までのデプロイまでを自律的に進行できる「エージェントファクトリー」が稼働しています。


OpenAIはChatGPTの高速性維持を担うエージェントファクトリーを「パフォーマンスファクトリー」と名付けています。パフォーマンスファクトリーはタスクの構成を担う「タスクサービス」、準備完了したタスクをエージェントに割り当てる「ディスパッチループ」、タスクを実行する「クラウドCodex」、何らかの変更が発生した際にエージェントを起動する「サブスクリプション」という4つのコンポーネントで成り立っています。


パフォーマンスファクトリーは3カ月で1700件上の調査を実施し、600件以上のケースで根本原因を特定することに成功したとのこと。

記事作成時点ではパフォーマンスファクトリーはChatGPTの速度低下に関するアラートの発生時に動作しています。OpenAIはアラートが発生していないときでもパフォーマンス低下や最適化可能領域を積極的に見つけられるようにシステムを改善するべく取り組んでいるとのことです。

・関連記事
OpenAIが「GPT-6.2 Astra」「GPT-6.2 Sol」をリリース、資料作成やPC操作が進化&少ないトークンで複雑な業務を処理可能に - GIGAZINE

OpenAI研究者の上位1割は1日当たり367万円分のAIを使用、AI開発の中核は人間が担いつつ「AIによるAIの開発」の実現に向けて加速中 - GIGAZINE

OpenAIがAIを用いてAMD製GPUや独自開発AIチップの改善に成功、半導体設計の専用AIモデルも開発 - GIGAZINE

ChatGPTのチャット内でクレカ決済できる「ChatGPT Wallet」が登場 - GIGAZINE

in AI, Posted by log1o_hf

You can read the machine translated English article OpenAI explains 'How to maintain ChatGPT….