ローマ教皇がMicrosoftやIBMと共同で発表した「AIの倫理に関する呼びかけ」とは？

by Long Thiên

ローマ・カトリック教会のフランシスコ教皇は、教皇としては史上初のプログラミングに挑戦したり、ポケモンの代わりに聖人をゲットするスマートフォン向けゲーム「Follow JC Go」のファンだったりと、歴代の教皇の中でも特にテクノロジーに明るい人物。1820万人のフォロワーを擁するTwitterユーザーでもあるフランシスコ教皇が、AI技術の分野をリードする多国籍企業らと共にAIの倫理的な活用を推進していく姿勢を打ち出しました。

Artificial Intelligence 2020
http://www.academyforlife.va/content/pav/en/events/intelligenza-artificiale.html

Pope to endorse principles on AI ethics with Microsoft, IBM - Reuters
https://www.reuters.com/article/vatican-artificial-intelligence/pope-to-endorse-principles-on-ai-ethics-with-microsoft-ibm-idUSL2N2AS01S

Vatican signs up IBM and Microsoft as AI ethics apostles • DEVCLASS
https://devclass.com/2020/03/02/vatican-signs-up-ibm-and-microsoft-as-ai-ethics-apostles/

Catholic Church joins IBM, Microsoft in ethical A.I. push | Fortune
https://fortune.com/2020/02/28/ai-ethics-vatican-microsoft-ibm/

ローマ・カトリック教会のフランシスコ教皇が2020年2月28日に、AIを倫理的に活用することなどを骨子とした文書「(PDFファイル)AI倫理に関するローマの呼びかけ(Rome Call for AI Ethics)」に署名しました。

署名には教皇のほか、Microsoftのブラッド・スミス社長・IBMのエグゼクティブ・ヴァイスプレジデントであるジョン・ケリー氏、欧州議会議長ダヴィド・サッソリ氏・イタリアのパオラ・ピサーノ技術革新担当相、国連食糧農業機関(FAO)の屈冬玉事務局長なども名を連ねて、人権侵害や人種差別といった非倫理的な用途でのAI利用を防止していくことを確認しました。

この「AI倫理に関するローマの呼びかけ」は以下の6つの原則を定めたものです。

1．透明性：AIシステムは原則として説明可能でなければならない。
2．多様性：AIはすべての人のニーズを考慮し、すべての人が利益を享受できるものでなければならない。また、全ての個人がAIを通して自分自身を表現し、成長していく最高の条件を享受できるようなものでなければならない。
3．責任：AIを設計または使用する者は、責任と透明性を念頭に開発を進めていかなくてはならない。
4．公平性：AIに携わる者は、偏見に基づいた行動や開発を行ってはならず、公平さと人間の尊厳を守らなければならない。
5．信頼性：システムは確実に動作しなければならない。
6．セキュリティとプライバシー：AIシステムは安全に動作し、ユーザーのプライバシーを尊重するものでなければならない。

IBMの代表者として文書に署名したケリー氏によると、今回の呼びかけはAIが社会に与える影響を懸念したフランシスコ教皇自身が、1年以上前に思い立ったものだとのこと。ケリー氏はロイター通信の取材に対し、「フランシスコ教皇の一番の関心事は、AIを誰でも利用できるのか、AIを持つ者と持たざる者が二分化されることにはならないか、ということです」と述べました。

また、今回の署名には参加していないものの、フランシスコ教皇はFacebookのマーク・ザッカーバーグCEOやGoogleの親会社Alphabetの顧問であるエリック・シュミット氏とも会談して、テクノロジーやSNSについて意見を交わしています。

今回の呼びかけの意義について、Microsoftのスミス社長は「デジタル技術と人類が交差するこの時代に、誰もが参加できて、お互いを尊重し合えるような議論の重要なステップとなる『AI倫理に関するローマの呼びかけ』に名を連ねることを誇りに思っています」とコメント。

IBMのAI倫理グローバルリーダーを務めるフランチェスカ・ロッシ氏は「バチカンはテクノロジーの専門ではありませんが、道徳的な価値観は持っています。今回のコラボレーションは、バチカンをとりまく社会全体がAIの倫理的な活用の必要性を理解するのに役立つでしょう」と述べました。

一方で、署名への参加者の少なさや、内容の曖昧さなどから、実効性を疑問視する見方もあります。技術者向けのIT情報を扱うニュースサイトDEVCLASSは「署名式には、明らかにこの署名に参加すべきGoogleとFacebookが不在でした。また、中国はAIに関するイノベーションの最大の原動力の1つですが、中国からは農学者の屈氏がFAOの事務局長として署名しただけ。中国の政府や企業がバチカンのお触れに従う見込みはほぼゼロです」と指摘しました。

また、ビジネス雑誌のFortuneは「この呼びかけは、ほかのAI倫理に関する取り決めと同様に、曖昧かつ非現実的で実効性に欠けます。例えば、呼びかけは『AIは説明可能でなければならない』としていますが、そもそも複雑な機械学習アルゴリズムの説明を人が聞いて理解するのは困難です。一部の専門家は、説明可能性という要件が、医学などの分野でAIが発揮する潜在的なメリットを制限させたり遅らせたりすることを懸念しています」と述べました。

教皇庁立生命アカデミーも現時点での実効性の低さは認めており、「今回の呼びかけは、AIに求められる倫理性を多くの人に知ってもらうことを目的としたもので、さらに多くの法人や国際機関、政府、規制機関が追加で署名することによりはじめて効果的なものになります」と指摘。

教皇庁立生命アカデミーはその上で、「我々は今後、呼びかけに応じる参加者の輪を広げるべく最初の署名者たちと協力するとともに、世界中の大学や研究所とともにAI倫理に関する科学的な検証を進めていきます」として、今後署名への参加者の増加や内容の充実を図っていく考えを示しました。