OpenAIが4度目のブレイクスルーとなる数学ができるAI「Q*(キュースター)」で汎用人工知能開発の飛躍を目指す、アルトマンCEO解任騒動の一因か

OpenAIが新たなAI開発プロジェクト「Q*(キュースター)」を進めていることを認めたと報じられています。このQ*は数学的推論能力の改善を目指したもので、汎用人工知能(AGI)の研究に画期的な進歩をもたらすかもしれず、2023年11月に起こったサム・アルトマンCEO解任騒動の一因にもなった可能性が指摘されています。

OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say | Reuters
https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/

OpenAI ‘was working on advanced model so powerful it alarmed staff’ | Technology sector | The Guardian
https://www.theguardian.com/business/2023/nov/23/openai-was-working-on-advanced-model-so-powerful-it-alarmed-staff

写真のような美麗な画像を生成したり、まるで人が書いたような精度の文章を出力したりと、生成AIは日進月歩の進化を遂げていますが、計算や数学的推論については精度が低く、AI開発における目下の課題となっています。以下の記事で、実際にChatGPT・Google Bard・Bing Chatに数学の問題を解かせたところ、小学生レベルの問題でも間違えてしまうことが確認できました。

算数や計算が苦手な対話型チャットAIに数学的推論を正しく行わせるには途中のステップをチェックしながら訓練するのがよいとOpenAIが提案 - GIGAZINE

ロイターは、アルトマンCEOが取締役会に解任される直前に、OpenAIの従業員数人が取締役会へ「人類を脅かす可能性がある強力なAIの発見について警告する書簡」を送ったと報じています。

この書簡に書かれていたプロジェクトがQ*です。このQ*は数学的推論の能力がこれまでのAIよりも優れており、小学生レベルではあるものの、数学のテストに合格してその能力を実証したとのこと。

OpenAIのGPTのような大規模言語モデルは人間が書いたような精度の文章を作り出すことが可能ですが、あくまでも言葉のつながりを確率的に予測しているだけで、言葉自体が持つ意味や文脈は考慮していません。しかし、Q*はAIの推論能力と認知能力の大幅な進歩を示しており、AGIの開発に大きな飛躍をもたらす可能性があるとのこと。

ロイターによれば、OpenAIはコメントを拒否したそうですが、従業員宛ての内部メッセージでQ*の開発が進められていることと、取締役会に送られた書簡の存在を認めたとのこと。このメッセージはOpenAIのミラ・ムラティCTO(最高技術責任者)が送ったもので、特定の報道についてスタッフに警告するものだったそうです。

アルトマン氏がCEOを突如解任されたのは、取締役会の一部とアルトマン氏がAIの安全性をめぐって対立したからだと報じられています。また、OpenAIについて批判的な論文を書いた取締役会メンバーと対立していたことも報じられています。

OpenAIのサム・アルトマンCEO解任騒動は会社に批判的な論文を書いた取締役会メンバーを追い出そうとしたことが原因か - GIGAZINE

by TechCrunch

イギリスの日刊紙であるThe Guardianは、アルトマン氏がこのQ*の開発プロジェクトを推進していたことが、取締役会とのAIの安全性をめぐる対立の火種となったのではないかとみています。なお、アルトマン氏解任後に暫定CEOとなったエメット・シア氏は、「取締役会は安全性に対する意見の相違を理由にアルトマン氏を解任したわけではありません」と述べています。