メモ

人工知能は核兵器よりも潜在的に危険、ホーキング博士が「100年以内に人工知能は人間を超える」と警告

by Global Panorama

2015年5月にロンドンで開催された「Zeitgeist 2015」のカンファレンスで、スティーヴン・ホーキング博士が、人工知能が大きく向上しコントロールできなくならないために人類がすべきことを語りました。ホーキング博士は2014年にBBC Newsのインタビューに対しても「人工知能の進化は人類の終焉を意味する」と発言しており、人工知能開発に対して警鐘を鳴らしています。

FLI - Future of Life Institute
http://futureoflife.org/misc/open_letter

Stephen Hawking warns computers will overtake humans within 100 years | Operating Systems | Techworld
http://www.techworld.com/news/operating-systems/stephen-hawking-warns-computers-will-overtake-humans-within-100-years-3611397/

What Experts Think About the Existential Risks of Artificial Intelligence
http://www.theepochtimes.com/n3/1366189-what-ai-experts-think-about-the-existential-risk-of-ai/

2015年1月にイーロン・マスク氏、ビル・ゲイツ氏、スティーヴン・ホーキング博士、および学者や研究者などが、人工知能を扱う産業の安全基準に対する公開状を書き、人工知能の誤動作によって人間に危険が及ぶのを防ぐため、いつでも人工知能を安全に制御できるフェールセーフのシステムを開発研究すべきだと要求しました。

人工知能の研究は一時下火になっていたものの、IBMが人間のように自ら学習・思考・分析を行う人工知能「ワトソン」の医療関連での開発をしたことから、再び注目され始めました。人工知能は世界に非常に大きな影響力を持ち、GoogleやFacebookなどのグローバルなテクノロジーの企業によって開発が進められ、Appleが開発しているiPhone・iPadに搭載されている音声認識アシスタント「Siri」や、Googleの自動運転システムなどに人工知能がすでに使用されています。Financial Timesによると、シリコンバレーにある150のスタートアップは人工知能を開発しているとのこと。

by ibmphoto24

2014年にオックスフォード大学の研究者であるヴィンセント・ミュラー氏とニック・ボストロム氏が行った人工知能についての調査によると、170人の研究者の内18%が「今後人工知能は人間の存在を脅かす可能性が十分にある」と答え、13%が「今後人工知能が人間にとって不利益になる」と回答しています。また、ほとんどの研究者は、人工知能が人間の知能を超えることは避けられないと考えているとのこと。

イーロン・マスク氏は2014年にTwitterで、「人工知能は核兵器よりも潜在的な危険をはらむため、我々は細心の注意を払う必要がある」とつぶやいています。

また、イーロン・マスク氏は「人類が高度な人工知能を生み出すきっかけとなるブートローダーにならないことを望むが、その運命をたどる可能性は高い」ともつぶやいていました。

2015年5月にロンドンで開催された「Zeitgeist 2015」のカンファレンスで、ホーキング博士は今後100年以内に人工知能が人間を超えるだろうと警告しました。人工知能が人類を超えるとき、人工知能に人類と協力する目的を持たせるべき必要があり、また人工知能の開発は人類がコントロールできるように進めるべきだ、とホーキング博士は考えています。加えて、私たちの将来は技術の新興勢力と技術を利用する知恵の争いになる、とホーキング博士は語りました。

by NASA HQ PHOTO

オックスフォード大学の人工知能のエキスパートであるニック氏は、人工知能が人間の知的レベルに達した後に、短期間で更に知的レベルが上がるだろうと指摘しています。短期的には「誰が人工知能をコントロールするかが問題」となりますが、長期的に見れば「人工知能をコントロールできるかどうか自体が問題」になるとホーキング博士は考えており、科学者と技術者が人間のコントロールを超えない人工知能の調整を行う必要があるとのことです。

・関連記事
ロボットや人工知能の進化は人間の仕事を2025年までに奪い尽くすのか? - GIGAZINE

95億円で買収・人間のような自然な文章を自動で生成可能な「Wordsmith」プラットフォームとは - GIGAZINE

人工知能が上司のかわりに地下鉄エンジニアの勤務シフトを生成するという試み - GIGAZINE

マリオが自己学習し感情さえも持つ人工知能のプロジェクトとは? - GIGAZINE

ゲームを自ら学んで人間以上に上達できる人工知能「DQN」が人間を脅かす日はいつくるのか? - GIGAZINE

in ソフトウェア,   メモ, Posted by darkhorse_log