「通行人を助けるため運転者を犠牲にするのか？」全自動運転車は人の命に関わる道徳的ジレンマにどう対応するのか？

By Todd Dwyer

Googleが全自動運転車のデモ走行を何度も行ったり、テスラがEV(電気自動車)「モデルS」に自動運転機能を新しく搭載したりするなど、全自動運転車の導入は遠くない未来に迫っています。市場が全自動運転車の導入へ向けて盛り上がりを見せる中、全自動運転車にとって大きな壁となりそうな倫理的問題が議論の的になっています。

[1510.03346] Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?
http://arxiv.org/abs/1510.03346

Why Self-Driving Cars Must Be Programmed to Kill | MIT Technology Review
http://www.technologyreview.com/view/542626/why-self-driving-cars-must-be-programmed-to-kill/

倫理学の思考実験には、人間が道徳的なジレンマにどう対応するかに迫る「トロッコ問題」というものがあります。線路を走るトロッコが制御不能で止まることができなくなり、そのまま放置すると線路の先にいる5人の作業員が死んでしまうのですが、線路は分岐していて進路を変えることが可能。ただし、もう一方の先では1人の作業員がおり、トロッコの進路を変えると作業員はひき殺されてしまいます。この状況下で、線路の分岐を操作できる人が「進路を変えずに5人が死亡する代わりに1人を助ける」「進路を変えて1人が死亡する代わりに5人を助ける」という2つの選択肢から1つを選ぶ、というのがトロッコ問題です。つまり、単純に言うと「5人を助けるために1人を殺してもよいか？」ということ。

By keppet

できるだけ多くの人々に最大の幸福をもたらすことが社会の善であるとする「最大多数個人の最大幸福」をスローガンとする功利主義に基づくのであれば、1人を見殺しにする代わりに5人を生かすことになりますが、道徳的観点から見ると疑問を抱く人がいるのも事実であり、文字通り道徳的なジレンマというわけです。

自動車の運転に関してもトロッコ問題と同じことが起こりえます。例えば、友人をのせて自分が運転している自動車が制御不能に陥り、このままいくと前方にいる子どもの集団に突っ込んでしまうという場面に遭遇したと仮定します。子どもの集団をよけると道から落下し運転手と同乗者の両方が死を免れない場合、運転している人は5人の命か、自分を含めた2人の命を選ばなければいけません。

人間が運転しているときは、運転者の道徳心や一瞬の判断力など、さまざまな要素が複雑に絡み合うのですが、自動運転車の場合は、トロッコ問題にどう対応するかアルゴリズムでプログラム化する必要があり、これをいかに対処するかどうかが全自動運転車導入に向けて議論の的になっているわけです。

By Brook Ward

この全自動運転車のトロッコ問題に取り組むべくトゥールーズ第一大学経営学部のJean-Francois Bonnefon心理学博士が率いる研究チームは「トロッコ問題には答えがないものの、全自動運転車が導入され消費者に広く認知されるためには、トロッコ問題に対する世論が最も重要な役割を担うであろう」として調査を実施しました。調査はAmazonが提供するサービス「Amazon Mechanical Turk」で働く700人の従業員を対象にさまざま条件の道徳的ジレンマを含んだ問題に取り組んでもらうというもの。

調査結果では、被害者を最小限にするように全自動運転車はプログラムされるべきという考えが支持され、功利主義的な回答が得られました。しかし、Bonnefon博士によると「全自動カーは被害者を最小限に抑えるようにプログラムされるべきという考えが多かったものの、自分自身は全自動運転車を運転したくないという意見がありました」と調査について話しています。つまり、功利主義的にプログラムされた全自動運転車を他の人が運転するのは良いけれども、自分では運転したくないということです。

調査からは「全自動カーは功利主義的に設計されるべきだけども自分は運転しない」という矛盾を含んだ結果を得られましたが、Bonnefon博士は「もし全自動運転車が1台のバイクへの衝突を避けて壁に突っ込むようにプログラムされるのであれば、自動車とバイクの運転者のどちらが生き残る可能性が高いかを考慮する必要がでてきます。また、全自動運転車に子どもが乗車しているかどうかでも結果は違ってくるでしょう」とさまざまな要素を考慮する必要があることを強調しました。

今回の調査結果は、全自動運転車のトロッコ問題への対応方法を定める最初の一歩であり、今後どのように議論が進められるのか、非常に気になるところです。

・つづき
「プログラムが人の命を左右する」、全自動運転車の道徳的ジレンマを解説 - GIGAZINE