高度に発達したAIを人間が制御することは可能なのか？

AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

View of Superintelligence Cannot be Contained: Lessons from Computability Theory
(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

停止性問題とは、「あらゆるチューリングマシンについて『計算結果を出力する(停止する)か、無限ループに陥るか』を判別できるアルゴリズムは存在するか」という問題で、1936年にチューリングによって「存在しない」ことが証明されました。

この停止性問題をAIの制御に当てはめると、「AIによる世界の破壊」を阻止するプログラムが実際に阻止することに成功する(停止する)か、阻止に失敗する(プログラムが無限ループに陥る)かを判断することはできないため、AIを制御するアルゴリズムの作成は不可能だと考えられるとのこと。

研究チームの一員であるマヌエル・セブリアン氏は「世界の運命に影響を与えるほどの高度な知能を獲得したAIはフィクションの世界の話に聞こえるかもしれません。しかし、人間には理解不能な思考を展開し、自律的に問題を解決するAIはすでに存在しています」と語っています。

なお、「自分で考えるAI」の一例として、ゲームのルールを教えられなくても勝ち方を勝手に学習していくAI「MuZero」がGoogle傘下のDeepMindから2020年12月に発表されています。

Google傘下のDeepMindがゲームのルールを教えられなくても勝ち方を勝手に学習していくAI「MuZero」を発表 - GIGAZINE