2023年02月20日 14時00分ソフトウェア

最強の囲碁AIに圧勝する人物が登場、AIの弱点を突いて人類が勝利したと話題に

人工知能(AI)の進化に伴って、チェスや将棋といった知能ゲームにおいてAIがプロプレイヤーに勝利するケースが増えていましたが、2016年1月にGoogleの「AlphaGo」が囲碁のプロ棋士に勝利したことを皮切りに、2カ月後には世界最強の棋士にも勝利したり、「私ならAlphaGoにも勝てる」と宣言したプロ棋士にも接戦の末勝利したり、2017年には自力で戦術を覚えて強くなれる新バージョンの「AlphaGo Zero」が発表されたりと、囲碁の世界でもAIが圧倒的な勝者として君臨していました。そのような中で、アマチュアの囲碁プレイヤーがコンピュータの直接的なサポート無しで最強レベルの囲碁AIに15戦14勝と大勝し、「AIに対する人類の勝利」と話題になっています。

Adversarial Policies in Go - Game Viewer
https://goattack.far.ai/adversarial-policy-katago#contents

Subscribe to read | Financial Times
https://www.ft.com/content/175e5314-a7f7-4741-a786-273219f433a1

David beats Go-liath - by Gary Marcus
https://garymarcus.substack.com/p/david-beats-go-liath

Googleが買収したDeepMindの開発した囲碁AI「AlphaGo」は、世界戦で4冠を獲得し通算1000勝という圧倒的な成績を収めていた世界最強の囲碁棋士であるイ・セドル氏との5番勝負で4-1で勝利したことから、2016年に「囲碁で初めて人工知能が人間を上回った」と評されました。イ棋士は第4戦で勝利を上げるも「AlphaGoのバグに勝利しただけ」とコメントしており、2019年にプロ棋士を引退した際には「たとえ私がナンバーワンになっても、負かすことのできない存在があるのです」と語り、AlphaGoの圧倒的な強さが引退の理由の1つであることをほのめかしています。

囲碁AI「AlphaGo」に敗北した世界チャンピオンが「AIを負かすことはできない」と棋士を引退 - GIGAZINE

囲碁のプレイヤーにとってAIがかなりの脅威となっている中、アマチュアランキングのトップから1つ下のレベルであるアメリカ人プレイヤーのケリン・ペリン氏は、これまで知られていなかった囲碁AIの欠陥を利用して、AlphaGoに匹敵するレベルの囲碁AIに15ゲーム中14ゲームで勝利しました。AIの欠陥自体はコンピュータによる分析で特定していますが、対局の際にはコンピュータの直接的なサポートなしで行われたとのこと。AIの欠陥を発見した研究会社のFAR AIで最高責任者を務めるアダム・グリーヴ氏は「この勝利によって、OpenAIのChatGPTなど現在広く使われているほとんどのAIシステムに共通する弱点が浮き彫りになっています」とコメントしています。

FAR AIが設計したプログラムは、囲碁のトップシステムの一つであるKataGoと100万局以上対戦し、人間のプレーヤーが利用できる「盲点」を見つけました。過去には、アメリカのコーネル大学で行われた研究も同様に「KataGo相手に99％勝つことができる」とした方法を見つけ出しましたが、コーネル大学の戦法はKataGoの強化学習方法を利用した特殊なものであった一方で、FAR AIによる戦法は中級レベルのプレーヤーならAIに勝てる比較的簡単なもので、実際に同じ戦法を用いて別のトップ囲碁システムであるLeela Zeroにも勝利しています。

最強の囲碁AI「KataGo」相手に99％勝つことができるAI学習手法が考案される、特殊すぎてAI相手にしか効果なし - GIGAZINE

ペリン氏が実際に用いた戦術は、「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」というもの。囲いがほぼ完成していても、囲碁AIは現在の不利に気づくことはなく、グリーヴ氏は「AlphaGoを簡単に打ち負かす戦法は、囲碁を効果的にプレイするものではありません」として人間の囲碁プレイヤーとの対局では惨敗したことを示しているほか、ペリン氏は「人間なら注意をそらす作戦にダマされずに、不利な状況であると簡単に見破れるはずです」とコメントしています。

Although the adversarial policy easily beats KataGo, it has not learned how to play Go effectively. My co-author @5kovt playing as white absolutely crushes the adversarial policy⚫: https://t.co/N6oFjWCg56 pic.twitter.com/wYolFeUhoR
— Adam Gleave (@ARGleave) 2022年11月2日

グリーヴ氏によると、囲碁AIが大敗した正確な原因は推測の域を出ないものであり、可能性の高い理由として考えられるのは、「ペリン氏が利用した戦術は実際にほとんど使われていないため、AIシステムが十分に訓練を受けていなかった」という点にあるとのこと。グリーヴ氏は「今回使われたような、AIが相手ということを利用した攻撃にさらされたときにAIシステムに欠陥が見つかるのは、AI研究ではよくあることです。にもかかわらず、非常に大きなAIシステムがほとんど検証されないまま大規模に展開されているのを、私たちは目の当たりにしているのです」と述べています。

カリフォルニア大学バークレー校のコンピューターサイエンス教授であるスチュアート・ラッセル氏は「最先端の囲碁AIの一つで脆弱(ぜいじゃく)性が発見されたことは、現在の最先端にいるAIを支える深層学習システムの根本的な欠陥を示唆しています。システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません」と述べ、「私たちは、機械に超人的なレベルの知能を持たせることを、あまりにも急ぎすぎたのかもしれません。今回の囲碁AIに対する勝利は、それを改めて示しています」と付け加えました。

FAR AIが今回の研究について公開したgoattack.far.aiでは、どのようなトレーニングと分析が行われたかという詳細のほか、実際にAIに勝つための戦術について1手ずつ見ることができます。