「ChatGPT」や「DALL-E 2」を開発したOpenAIのCEOが「汎用人工知能」についての展望を発表

従来のAIは画像生成や文章生成、音声分析など特定の分野で性能を発揮するように特化した機械学習アルゴリズムですが、汎用(はんよう)人工知能、いわゆる「AGI」は人間と同じような認知能力や情報処理能力を持つことで、人間のようにさまざまな分野の課題を解決できると期待されています。記事作成時点でAGIはまだ実現していませんが、AI開発団体・OpenAIのサム・アルトマンCEOがAGI開発の展望を発表しました。

Planning for AGI and beyond
https://openai.com/blog/planning-for-agi-and-beyond/

アルトマンCEOは、「私たちの任務は、人間よりも賢いAIが全人類に利益をもたらすようにすることです」と述べる一方で、誤用や社会的混乱の深刻なリスクを伴うと指摘しています。それでもAGIの利点は非常に大きいため、AGIの開発を止めることはできず、社会全体がAGIを正しく使用する方法を見つけ出さなければならないと主張しています。

そして、アルトマンCEOはOpenAIが掲げる「AGI開発に向けての短期的な展望」として以下の3つを示しました。

第一に、AGIの実現に近づくにしたがって、AIの開発側がAIを使う社会とその状況を鑑みて慎重を期するべきだということ。AIが社会に進出すればするほど、偏見と戦う方法や失業に対処する方法などの大きな問題に直面することが予想されるため、開発者側はユーザーとその使い方に注視しながらAIの展開を考えていくことが必要だとアルトマンCEOは述べています。

第二に、より整合性が高く制御しやすいモデルの開発に取り組むべきだということ。AIをどう使うかは社会が非常に広い範囲で合意し、その範囲内でユーザー個人が多くの裁量を持つことが大事だ、とアルトマンCEO。そのためにOpenaAIは、リリースするAIの初期設定をかなり制限した上で、ユーザーが自分たちの用途に合わせて簡単に動作を調整できるようにすることを計画しているとのこと。また、「最初からすべてをうまくやる」ようなAIをいきなりリリースするのではなく、テクノロジーを少しずつ展開しながら継続的に社会に適応していく必要があるとしました。

第三に、AGIの利点やアクセス性、ガバナンスを広く公平に共有するため、グローバルな対話が行われるべきだということ。アルトマンCEOは、記事作成時点でOpenAIは非営利団体という側面を持ち、「安全性を向上させるために他の組織を支援する」「株主が得られるリターンに上限を盛り込むことで、無制限に利益を得ようとするインセンティブや致命的に危険な技術を展開するリスクを回避する」ことを掲げているとアピールしています。

加えて、新しいシステムをリリースする前に独立した監査を受けることも重要だと提案しており、AGIの開発中止やモデルのリリースタイミングについて公的な基準を設けることも必要だと主張し、そのためには世界の主要な政府がAI開発について一定以上の見識を持つことが重要だと述べています。

さらに、「長期的な展望」として、アルトマンCEOは「人類の未来は人類によって決定されるべきです。AGIを構築しようとするすべての取り組みは精査され、主要な決定については公開協議が行われる必要があります。今の開発スピードが維持されるならば、将来的に世界は今から大きく異なるものになる可能性があり、そのリスクは計り知れないものになるかもしれません。超知性を持ったAGIの調整を間違えると、世界に深刻な害を及ぼす可能性があります」と主張しました。

アルトマンCEOは「超知性であるAGIを抱えた世界に移行することは、おそらく人類史上最も重要で、希望に満ち、かつ恐ろしいプロジェクトです。成功するかどうかは保証されておらず、そのプラス面とマイナス面には限りがなく、願わくば人類全員を団結させるものであってほしいものです。私たちは、まだ誰にも想像がつかないほどの繁栄を人類にもたらすようなAGIを世界に提供したいと願っています」とコメントしました。