「プログラムが人の命を左右する」、全自動運転車の道徳的ジレンマを解説

By Frank Jania

自動運転機能を搭載したテスラの「モデルS」やGoogleの全自動運転車など、運転手ではなくコンピュータの制御のみで運転を行う自動運転車は、人的ミスによる交通事故を減少できるものとして考えられています。しかしながら、全自動運転車が倫理的問題を抱えているとして導入に疑問を抱く人がいるもの事実であり、全自動運転車が持つという道徳的ジレンマについて詳しく解説するムービーまで登場しました。

The ethical dilemma of self-driving cars - Patrick Lin - YouTube


全自動運転車で高速道路を走っている場面を想像してみます。

自分の自動車の左にもう1台自動車が、前に大型トラックが、そして右にバイクが走行していると仮定。

左・前・右の3方向がふさがった状態で、前方のトラックの荷台が崩れて道路に落ちてきました。このとき、全自動運転車がとる行動は3つに分かれるはず。

1つは、落ちてきた荷物に衝突すること。

もう1つは荷物をよけて左の自動車に衝突。

3つ目は、荷物をよけて右のバイクに衝突することです。

左にいる自動車に衝突すると、他の人を事故に巻き込んでしまいますが、死亡にいたる事故になることはなさそう。ハンドルを切らずに荷物に衝突すれば、他人には迷惑をかけずに自分だけが被害を受けます。ハンドルを右に切ってバイクに衝突すると、自分が助かる可能性はかなり上がりますが、バイクの運転者は重傷、もしくは死に至るかもしれません。

全自動運転車ではなく普通の自動車を運転していると、このような場合は運転手の行動に全てがかかっています。

ただし、運転手がどのような行動をとったとしても、それは「瞬時に反応した」だけであり、3つの選択肢からどれかを選ぶ「決断をした」ことにはなりません。

しかし、全自動運転車の場合は、人が運転して事故に反応するのとは異なり、事故に対する行動がアルゴリズムで事前にプログラム化されています。

つまり、全自動運転車が事故を起こしたときにとる行動は何カ月、もしくは何年も前に決められている可能性があるというわけです。

人間でも困難な決断を下さなければいけない場合、全自動運転車がとる行動は一般的倫理の1つである「被害を最小限に抑える」に基づくべきだという意見が多くあります。しかしながら、被害を最小限にする功利主義的な考えを全自動運転車にプログラムすると、さらに大きな問題が出てくる可能性があるとのこと。

例えば、先と全く同じ状況で、左にヘルメットを装着したドライバーが運転するバイクが、右にヘルメットを未装着のドライバーが運転するバイクが走っていたと仮定します。

被害を最小限に抑えるという倫理に基づくと、ヘルメットをしていて生き残る可能性が高い左のバイクに衝突するはず。しかし、安全のためにヘルメットを装着している人が、ヘルメットをしていない人の代わりに交通事故に合うのは疑問符が残ります。

反対に右にハンドルを切ってしまうと、ヘルメットを装着していない運転手が死ぬ可能性はかなり高くなり、この行動は被害を最小限に抑えるという倫理に背くことになります。

全自動運転車は、こういった倫理的問題に対処する必要があるわけです。もしかすると、全自動運転車が下した決断により、何の落ち度もない運転手が罪の意識にさいなまれるかもしれません。

「交通事故の際にできるだけ多くの命を救うようにプログラムされた全自動運転車」と「交通事故の際にオーナーの命を最優先する全自動運転車」のどちらをユーザーは望むのでしょうか？

もしかすると全自動運転車が下す決断は、事前にプログラムされるのはなく、複数の中からランダムで選択する方が良いかもしれません。

全自動運転車の道徳的ジレンマというのは、まだまだ議論が続いている状態で、今後の全自動運転車の導入に向けて大きな壁となりそうです。