ソフトウェア

ChatGPTの開発元OpenAIが「10年以内にAIがほとんどの分野で専門家のスキルレベルを超える」という懸念に基づき「超知能AI」の登場に備えるべく世界的な規制機関を立ち上げる必要があると主張


現地時間の2023年5月22日、対話型AI「ChatGPT」や大規模言語モデル「GPT-4」などを開発したAI研究団体のOpenAIが、専門家のスキルレベルを超え、高度な生産活動を行うAI「超知能(Superintelligence)」の登場を予期し、AIの安全な開発を進めるためには国際的な規制機関の立ち上げが必要になると提唱しています。

Governance of superintelligence
https://openai.com/blog/governance-of-superintelligence


2023年5月22日にOpenAIはサム・アルトマンCEOやグレッグ・ブロックマン氏、イリヤ・スツケバー氏の連名で、AI研究における国際的な監視組織や規制機関を立ち上げる必要があると提唱しました。


OpenAIは「今後10年以内に、AIシステムはほとんどの分野で専門家のスキルレベルを超え、大企業に匹敵する規模の高度な生産的な活動を行うと考えられます」と述べ、将来的なAIを「超知能」と呼び、人類がこれまで対処してきたさまざまな技術よりも強力になることを想定しています。


また、OpenAIは「超知能」が潜在的なメリットやリスクを抱えているとして、リスクを軽減するための特別な調整が必要であると訴えています。

「超知能」の開発に関して、OpenAIは「安全性を維持しつつ社会との円滑な統合を可能にするために、世界中の主要な政府がプロジェクトを立ち上げ、AIの急激な成長を制限する取り組みを行うべきです」と主張しています。また「個々の企業は開発に対して責任を持つべきです」と述べています。

また「『国際原子力機関』のようなシステムの検査や監査の要求、安全基準準拠のテスト、セキュリティレベルの制限などを行う国際的な規制機関の立ち上げが必要です」と提唱しています。OpenAIは「これらの国際的な規制機関は、AIが何を言うことを許されるべきかを定義するなど、個々の国や政府に任せられない問題に対して、リスクを軽減することに焦点を当てることが重要です」と述べています。


さらに「超知能の安全な開発を行うための技術力が必要です」と提唱しており、OpenAIは「これまでに私たちは多くの努力を払ってきました」と述べています。

一方でOpenAIは「例外として、ライセンスや監査などの規制を受けずに、企業やオープンソースのプロジェクトに対して一定の能力以下のモデルの開発を認めることが重要です」と述べています。しかし、OpenAI設立時の出資者で、その後関係悪化にともなって取締役を辞任したイーロン・マスク氏は、GPT-4など高性能なAIモデルの開発を行うOpenAIのこの発言について批判したツイートに対し、「🎯」(的を射ています)と反応しています。


OpenAIは「今日のAIシステムは、潜在的なリスクを抱えているものの、世の中に非常に大きな価値を生み出すものです。超知能のレベルに及ばないAI技術に対しても規制や監査、基準の適用を行うべきではありません」と主張しています。

超知能に関してOpenAIは「教育やクリエイティブな仕事、生産性が問われる分野などで、これまでのAIがもたらした結果よりもはるかに優れた世界をもたらすと考えています。そのためには、直面する多くの問題を解決する必要があります」と述べています。


また「超知能の構築に必要なコストは年々減少する一方、AI研究機関は急速に増えていることから、今後の超知能の創造を阻止することは困難です」と述べています。安全なAI開発のために「超知能を創造する利点は非常に大きく、OpenAIのようなAI開発団体における本質的な目標の一部が超知能の開発です。急速な超知能の開発を阻止するためには、世界的な監視体制が必要ですが、この機関が機能するかどうかは保証されていないので、正しく理解する必要があります」と主張しています。

この記事のタイトルとURLをコピーする

・関連記事
OpenAIのサム・アルトマンCEOが「AIの規制は不可欠」と発言、公聴会でChatGPTが法案を作成し国会議員たちを驚かす一幕も - GIGAZINE

「オープンソースは脅威」「勝者はMeta」「OpenAIは重要ではない」などと記されたGoogleのAI関連内部文書が流出 - GIGAZINE

「AI開発で企業は学会よりも先行」「AIは環境を助けると同時に害も」「世界最高の新人科学者はAI」「AIの悪用に関するインシデントの数は急速に増加」などAIの実態をレポートする「AI Index Report 2023」をスタンフォード大学が公開 - GIGAZINE

日本人の75%がAIを「役に立つ」とする一方で2%が「悪の権化」と評価、アメリカの別調査ではAIが人類を脅かす可能性があると61%が信じており66%以上が悪影響を懸念 - GIGAZINE

「学校からChatGPTへのアクセスを禁止する」という決定を下したニューヨーク市教育局が方針転換して生成AIを受け入れている - GIGAZINE

in ソフトウェア, Posted by log1r_ut

You can read the machine translated English article here.