AGIの技術的・社会的課題を解決するための組織「DeepMind Institute」をGoogle DeepMindが設立

Google DeepMindが汎用人工知能(AGI)の技術的課題および社会的課題を解決するための組織「DeepMind Institute」を設立しました。

DeepMind Institute
https://institute.deepmind.com/

Introducing the DeepMind Institute — DeepMind Institute
https://institute.deepmind.com/essays/introducing-the-deepmind-institute/

AIで新たなAIを開発するシステム「再帰的自己改善(RSI)」を複数のAI研究機関が実用化したことで、AIの性能向上速度は大幅に高まっており、人間のあらゆるタスクを代わりに実行できる「AGI」の実現が近づいているとされています。しかし、AGIの実現には技術的な課題だけでなく、「AGIの管理方法」「AGIを社会に適用させるための制度設計」「AGIのサイバー攻撃リスクに対する監視制度」といった社会的な課題も残っています。

Google DeepMindは「AGIが社会にもたらすメリットが、リスクを大幅に上回るようにすることが極めて重要である」と述べ、AI研究者や思想家がアイデアを探求し発表するためのプラットフォームとしてDeepMind Instituteを設立しました。DeepMind InstituteにはGoogleやGoogle DeepMindだけでなく、より広範な国際コミュニティが参加できるとされています。

AI研究が急速に進む中、2026年9月15日にはGoogle DeepMindでAGIの研究に取り組んできたビラル・チュグタイ氏が「AIが人類を絶滅させる可能性がある」と警告しつつGoogle DeepMindからの退職を発表しています。同様に、AnthropicでもAI安全チームを率いてきたジェイコブ・コクソン氏が安全対策の不足を理由に退職しています。

Google DeepmindのAI研究者が退職し「AIが人類を絶滅させる可能性がある」と警告 - GIGAZINE

また、Anthropicのダリオ・アモデイCEOはAIの開発が危険な領域に達したと警告し、AI開発の原則と各社の協調の必要性を訴えています。アモデイCEOの意見にはSpaceXAIのイーロン・マスクCEOやOpenAIのサム・アルトマンCEO、Google DeepMindのデミス・ハサビス会長らも賛同しています。

Anthropicのダリオ・アモデイCEOが「6～12カ月以内にAIがインターネットを乗っ取る可能性あり」「AI開発を減速させるべき」と主張、イーロン・マスクやサム・アルトマンやデミス・ハサビスらも賛同 - GIGAZINE

なお、ハサビス氏は2026年5月に「AGIは2030年、早ければ2029年に実現する可能性がある」と発言しています。

汎用人工知能(AGI)の実現は2030年頃と予想しているが2029年の可能性も視野に入れているとGoogle DeepMindのデミス・ハサビスCEOが発言 - GIGAZINE