DeepMindが「AIの倫理」を研究する「DeepMind Ethics&Society(DMES)」を設立


Google傘下のDeepMindが、人工知能(AI)技術が抱えるさまざまな倫理的問題を解決するための研究部門「DeepMind Ethics&Society(DMES)」を設立しました。今後のAIの進化と社会への活用には倫理的な問題の解決が不可欠だという判断です。

DeepMind Ethics & Society | DeepMind
https://deepmind.com/applied/deepmind-ethics-society/

囲碁チャンピオンを打ち破ったAI「AlphaGo」の開発で知られるDeepMindが、AIの倫理に関する問題を研究する部門DMESを立ち上げました。DMESにはAI開発の専門家だけでなく、オックスフォード大学の著名な哲学者ニック・オービーストロム教授など6人の研究者が「DeepMind Research Fellows」という立場で参加して、AI技術と倫理に関する議論と研究を行います。

AIにまつわる倫理的な問題として有名なのが、「自動運転カーは緊急時にいずれの人命を優先させるべきか?」という問題です。車内のドライバーの命を守るために、歩行者を死亡させることは許されるのか?それとも、数多くの人を救うためにはドライバーの死を甘受すべきなのか?という究極の選択を問う議論です。

「通行人を助けるため運転者を犠牲にするのか?」全自動運転カーは人の命に関わる道徳的ジレンマにどう対応するのか? - GIGAZINE


他にも、刑事司法システムにAIを取り入れることで人権の保障が損なわれかねないという議論もあります。例えば、アメリカでは刑事司法システムにおいて、刑事被告人の逃亡リスクを算出したり、仮釈放の決定の材料にしたり、銃犯罪の加害者となるリスクの高い人物をリスト化したりするのにAI技術を活用しています。しかし、AIの判断にはバイアス(偏り)が生じることが知られている中で、刑事司法の判断をAI任せにすることで人権侵害が起こらないかという懸念があります。

AIは人間の言葉から女性差別や人種差別を学び取る - GIGAZINE


AI技術が経済発展に果たす重要性は誰もが認めるところですが、AIの持つ影響力が大きいが故に、その取り扱いを巡っては、AIは人類を滅ぼしかねないというAI脅威論を生み出すほどです。AI技術を人類共有の知として活用するべく発展させていくためには、倫理的な制限の必要性を訴える声は日増しに強まっていると言えます。

人工知能は核兵器よりも潜在的に危険、ホーキング博士が「100年以内に人工知能は人間を超える」と警告 - GIGAZINE


AI脅威論が一部でささやかれる中、より汎用性の高いAI開発に乗り出したDeepMindは、イギリスの国民保健サービス(NHS)と提携して医療費の削減に取りくみましたが、160万人の患者の診療データへのアクセス権が報じられると「個人情報保護の観点で問題がある」「データ取得方法に関する法的根拠が疑問だ」という批判が殺到し、患者がデータ提供を拒否できるオプションを追加せざるを得ない状況に追い込まれるなど、AIと人権に関する問題に直面しています。

そんなセンシティブな問題を抱えるAI技術ですが、研究をさらに前進させるためには、AIと倫理に関するさまざまな問題の解決は避けては通れない道であると考えたDeepMindが、AIと倫理に関する研究成果を発表し、また、他の研究者と連携してこの問題を共同研究するために、開発部門とは独立した組織として設立したのがDMESというわけです。

DeepMindは自らの使命を「知性によって世界をよりよいものにすること」と定めており、AI技術の開発はその有力な手法の一つです。そのため、AI開発においてはオープンな研究と調査を行っていく責任がDeepMindにはあるとのこと。そして、独自の研究だけでなく他の研究者と共同研究を行うことを予定しているDMESは、AIが現実社会に与える影響について議論する基礎を提供するのが設立の目的。DMESのバーティー・ハーディング共同リーダーは、「AIが社会に役立つ技術であるならば、社会の優先的な事項に活用しつつも、懸念を解消する形で開発しなければなりません」と述べています。


すでにDeepMindのDMESには、オックスフォードインターネット研究所のデジタル倫理ラボ(Delab)、バース大学の政策研究所(IPR)、ニューヨーク大学、イギリス公共政策研究所(IPPR)、レバーウェル・センター(CFI)、イギリス王立協会などイギリス・アメリカなどの研究施設がパートナーに名を連ねており、「AIと倫理」に関する議論を深め、AI研究の発展に寄与するべく研究に取り組みます。DMESは2018年前半に最初の研究論文を発表する予定です。

・関連記事
囲碁チャンピオンを打ち破ったGoogleの人工知能「AlphaGo」を作った天才デミス・ハサビスが人工知能を語る - GIGAZINE

「AlphaGo」に続いてGoogleのDeepMindが人間並みの知性を持つ「スーパーヒューマンAI」の開発へ - GIGAZINE

DeepMindが「前進せよ」という指令だけで自分で学んで不気味な動きで突き進むAIフィギュアのムービーを公開 - GIGAZINE

AI(人工知能)に対するありがちな「誤解」とそれに対する回答まとめ - GIGAZINE

プーチン大統領が「AIを制するものが世界を牛耳る」と学生に説く - GIGAZINE

「AI脅威説は無責任」というマーク・ザッカーバーグに対してイーロン・マスクが反論するバトル - GIGAZINE

イーロン・マスクの「AI脅威論」はマーケティング戦略だという指摘 - GIGAZINE

99

in ソフトウェア,  サイエンス, Posted by logv_to