「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに

by Stephen Chin

人間とコミュニケーションを取ることができるロボットがますます一般的になりつつあり、ツアーガイドや警備員、守衛などの仕事をロボットが受け持つ事例が増えています。しかし、人間のようにコミュニケーションを取ることができるロボットを「ロボットとして扱うこと」はとても難しいことが、最新の研究で明らかになっています。

New study finds it’s harder to turn off a robot when it’s begging for its life - The Verge
https://www.theverge.com/2018/8/2/17642868/robots-turn-off-beg-not-to-empathy-media-equation

ドイツの研究者たちがオープンアクセスジャーナルのPLOS ONEに掲載した論文では、89人のボランティアを集め、小さなヒューマノイドロボット「NAO」の助けを借りながら1対1で指定の作業を行ってもらうという実験が行われています。作業中、NAOは「パスタとピザのどちらが好き？」などの質問を被験者たちに投げかけたそうです。

被験者には「NAOの学習アルゴリズムを改善するための実験」と伝えられていたそうですが、実際は別の目的がありました。それは、作業が終了した後に被験者へ「ロボットの電源を切ってください」と頼み、どれだけの被験者が電源を切ることができるかを調べるというもの。

実験時の写真

被験者がロボットの電源を切ることができるかをただ調査するだけでなく、89人の被験者の半分に対しては、NAOが「ノー！どうか僕の電源を切らないで！」と懇願するように条件を設定したそうです。すると、NAOの言葉を聞いた43人の被験者のうち13人は、最後まで電源を切ることができませんでした。また、残りの30人もNAOの訴えを聞かなかった人と比べると、平均で2倍も電源をオフにするのにかかった時間が長くなったそうです。

ロボットの電源をオフにすることを拒否した被験者は、「ロボットがお願いしてきたことに驚いたから」や「電源を消さないでとお願いしてきたから」とその理由を記しています。被験者たちの反応を受け、研究チームは「人々はロボットを機械としてではなく現実の人間として扱う傾向があり、(嘆願により)電源を消すことをやめるか、少なくともその行動について深く考えるようになる」と記しています。

by Stephen Chin

これは1996年に心理学者のバイロン・リーブス氏とクリフォード・ナス氏が書いた著書で初めて登場した「メディアの方程式」と呼ばれる理論に基づいていると考えられています。メディアの方程式というのは、人間以外のメディア(TV、映画、コンピューター、ロボットなど)を人間であるかのように扱う傾向を理論化したものです。

2人の心理学者がメディアの方程式を提唱して以降、多くの研究で「人間の行動がメディアの方程式にどのような影響を受けているか？」が調べられてきました。特にロボットとのやり取りは顕著で、人間は人間と同じような人格を持つボットとのやり取りを楽しむ傾向があることなどが研究から明らかになっています。

2007年には命乞いする猫型ロボットを用いた同様の実験が行われていますが、人間の道徳的葛藤をかき立てるような実験は今回が初めてのこと、と海外メディアのThe Vergeは記しています。

2007年に行われた猫型ロボットによる実験の様子は以下のムービーで見られます。確かにロボットの見た目がとっぴすぎて感情移入しづらいかも。

Switching off a robot - YouTube


2018年に発表されたNAOを使った研究では、2007年の研究よりも多くの被験者を対象としています。また、ロボットの電源を切る判断を下す前に、一緒に作業を行うことで一定の関係を築いており、NAOと被験者は作業中にジョークを言い合ったり個人情報を共有することもあったそうです。ただし、こういった社会的行動を共に行うことが、「被験者がNAOを助けるか助けないかの判断に大きな影響を与えることはなかった」と研究チームは記しています。

研究に参加したデュイスブルク・エッセン大学のAike Horstmann氏は、「私たちはこういったロボットに慣れなければいけないのだと思います。メディアの方程式は、何百年も何千年もこの惑星で唯一の社交的な存在であった我々人間が、ロボットに対して社交的な対応を取ってしまうことを示唆しています。現在、この惑星に存在する社交的な存在は人間だけではないため、我々はその変化に適応しなければいけないのです。これは無意識下での反応かもしれませんが、変化する可能性も十分にあります」と語っています。

つまり、ロボットの電源を切ることが嫌だとしても、よりロボットが増えて一般化していくであろうこれからは、それに慣れなれていく必要があるというわけです。

by RoboCup2013