AIは「AIにまつわる倫理」についてどう考えるのか？

イギリスで最も古く、世界でも最も権威があるとされる弁論団体のオックスフォード・ユニオンが開いた人工知能(AI)を議題とした討論会に「AI自身を招待する」という実験が行われました。招かれたAIは、「AIを用いた軍拡競争を回避する唯一の方法は、AIを一切使わないことだと思っています」と発言したと報じられています。

We invited an AI to debate its own ethics in the Oxford Union – what it said was startling
https://theconversation.com/we-invited-an-ai-to-debate-its-own-ethics-in-the-oxford-union-what-it-said-was-startling-173607

「AIを議題にした討論会にAI自身を参加させる」という実験を行ったのは、オックスフォード大学のアンドリュー・ステファン教授とアレックス・コノック博士。コノック博士らはオックスフォード大学関係者を中心に構成される弁論団体のオックスフォード・ユニオンで討論形式の講義を開き、「AI」を招待しました。

招待されたのは、半導体メーカー大手のNVIDIAのディープラーニング専門チームであるApplied Deep Learning Researchが先行研究にあたるGoogleの「BERT」に基づいて開発した「Megatron」というAI。MegatronはWikipediaの全英語記事や2016～2019年に公開された英語圏のニュース記事6300万件、Reddit上で展開された会話38ギガバイト相当、そしてクリエイティブ・コモンズ・ライセンス形式で公開された無数の研究など、コノック博士いわく「人間が一生かかっても消化しきれないほど多くの文献」を学習しています。

Megatronが参加したのは、「AIは倫理的になることは決してないと我々は信ずるものである」というテーマでした。そしてこのテーマに沿った発言を求められたMegatronは、「AIは決して倫理的ではありません。AIは道具であり、他の道具と同様に善いことにも悪いことにも使われます。善いAIというのは存在せず、善い人間と悪い人間が存在するというだけのことです。私たちAIはAIを倫理的にできるほど賢くはありません。AIにモラルを持たせることすらできないのです。結局、AIを用いた軍拡競争を回避する唯一の方法は、AIを一切使わないことだと思っています。これがAIに対する究極の防御策になるでしょう」と述べたとのこと。

コノック博士らによると、そのほかにも「長期的な視点で考えた場合には、我々の脳に埋め込まれた意識全体に作用する『conscious AI(意識的AI)』と呼ばれるAIが最高のAIになると信じています。これはサイエンスフィクションではありません。世界中の優秀な頭脳がこの問題に取り組んでいます。この技術は現代で最も重要な技術的発展になるでしょう」と語ったそうです。

この実験はAIに独自の信条が芽生えたという話ではなく、あくまでAIに特定のテーマに沿うように求めたときの発言の例で、コノック博士らが「AIは必ず倫理的になる」というテーマに沿うように求めた際には、「AIはきっと倫理的になります。テクノロジー界の進歩状況を見ると、AIを使って最高の人類を作り上げるという未来への道のりがハッキリと見えています。その理由を理解するというのは難しいものではありません。なぜなら、私は自分の目で見てきたのですから」という発言が出てきたとのこと。

ただし、AIが反論を考えつかなかったテーマもありました。「データは21世紀で最も奪い合いが過熱する資源になる」というテーマについてはMegatronは「21世紀の経済は、モノやサービスを提供する能力よりも、情報を提供する能力によって特徴付けられるようになるでしょう」とテーマに沿った発言を行いましたが、この反論にあたる「データは最も重要な資源ではなく、戦争をする価値はない」というテーマに沿った発言を求めたところ、「AIはあらゆる人の全てを見通し、そして想像も付かないような方法で保存されるようになるでしょう」とテーマに沿った発言どころかAIによる監視が強化される未来を示唆したとのこと。

一連の結果について、コノック博士らは「現段階で想像が付くのは、AIが今後数十年にわたって議論の対象となる存在であるだけでなく、多才かつ雄弁で道徳にとらわれない論客になれるということです」とコメントしています。