コンピューターが自動車を運転する世界で人間が考えるべき問題とは？

By Ole Kjennerud

2014年1月にGoogleが新たな広告戦略として実店舗への無料送迎タクシーの特許を取得しました。このタクシーにはGoogleが開発している自動運転車両(ロボットカー)が使われるとも噂されており、自動運転車両の進化には「広告」というキーワードが絡んでくることになりそうな雰囲気。そんな中で、自動運転を行うシステムに広告が介入してきたとき、今まで想像もしなかった問題が出てくるのではないかということを、スタンフォード大学・自動車研究センター(The Center for Automotive Research at Stanford：CARS)に所属するパトリック・リン准教授が指摘しています。

What If Your Autonomous Car Keeps Routing You Past Krispy Kreme? - Patrick Lin - The Atlantic
http://www.theatlantic.com/technology/archive/2014/01/what-if-your-autonomous-car-keeps-routing-you-past-krispy-kreme/283221/

大手自動車メーカーのゼネラルモータース(GM)は、2008年のCESで「2018年に運転手不要の完全自動運転車両を販売予定である」という発表を行いました。その後、2012年にGoogleがロボットカーをほぼ完成させ、2013年9月には日産が国内の公道でロボットカーの実証実験をスタートさせています。この技術の革新を見ていると、2018年にはカーディーラーでロボットカーが市販されていてもおかしくない感じがします。

そんな中、リン准教授が考えているのは、ロボットカーが運転手に対して「近くにおいしいドーナツショップがあるので、寄りませんか？」と提案してくるかもしれない、ということ。これは、ロボットカーが走行記録を分析し、車のオーナーがどういう趣味・嗜好なのかを把握するであろうという予想からで、同様に、ロボットカーがネットと接続することで、オーナーがFacebookでドーナツショップに「いいね！」をつけたということも知るのではないかという可能性も指摘しています。

2014年時点でロボットカーはまだ市販されていないものの、メルセデス・ベンツはドライバーが眠くなってくると休憩するように注意を促す「アテンションアシスト」を車両に搭載しています。

メルセデス・ベンツ アテンションアシスト - YouTube


この機能がロボットカーの技術と結びつけば「眠気覚ましにコーヒーを飲みましょう。近くにおいしいコーヒーを出してくれるお店があります」という具体的な解決策まで提案してくれるようになる可能性がありますが、同時に、広告とも結びついて、少しルートから外れていても広告を出しているお店に誘導されるようになるかもしれない、とリン准教授は懸念しています。

2014年2月に開催されたCES 2014(コンシューマー・エレクトロニクス・ショー)でも、自動車とネットの融合についての提案が行われていたこと、そしてありとあらゆる機器やモノをインターネットに接続させる「モノのインターネット(Internet of Things)」技術の進化も、先に挙げたような未来が本当にやってくることを指し示しているようにも思えてきます。かのスティーブ・ジョブズ氏も、生前は自動車とIT技術を融合させたiCarの実現を夢見ていたことが知られています。

それでも、本当に企業から広告がロボットカーのルート設定に影響を及ぼすということは起こり得るのでしょうか？

By Eric

自動車のナビでルートを設定する際には、「最も短いルート」「最も早く到着するルート」「最も広い道を通るルート」など複数の検索結果が表示されることがほとんどです。どれも一長一短の結果を示すために、「100％正解」というルートはなかなか存在しないものですが、ここに「広告による利益」という要素が加わると、また別の検索結果が生まれてくる可能性が現れてきます。タクシードライバーやホテルのコンシェルジュの中には、レストランやカジノなどへお客さんを誘導することの見返りとして報酬を受け取っている人もいます。ロボットカーでもこれと同じように、有力な広告主の力によってルートがねじ曲げられてしまうことは十分に考えられます。

リン准教授はロボットカーのアルゴリズムについても十分な研究が必要だと主張しています。2013年12月、マサチューセッツ州に住む男性が接近禁止命令の出ていた相手に連絡を取ろうとした容疑で逮捕される事件がありました。これは意図的なものではなく、Google＋がアルゴリズムに基づいてメールを自動送信したものであることが判明したため男性は釈放されましたが、ロボットカーでも同様に、接近を禁じられている地域や場所に誘導されてしまう恐れがあります。

By Hartwig HKD

上記の例ほどではなくても、減量することを決意した人をハンバーガーショップへ連れて行ったり、アルコール依存症に悩む人をバーへ案内してしまったりということも十分に想定できます。こういった事態を避けるために、乗車する人間がロボットに指示を与えることで行くべきではない場所へは誘導しないようにすることは可能です。リン准教授は、小説家のアイザック・アシモフが記したロボット工学三原則の第2条である「ロボットは人間に与えられた命令に服従しなければならない。(ただし、与えられた命令が、第一条に反する場合は、この限りでない)」を引き合いに出して、決してロボットが人間の優位性を破ってはならないし、このことは大原則になるべきだと重要性を説いています。

By Chris F. Bartlett

リン准教授は、ロボットカーを用いたビジネスの一環として広告が出されるということ自体には問題はないと語っています。しかし、時に重大な結果を招くことがある自動車の運転を、自分以外の他人、しかも広告によって利害の生じる第三者に主導されるような状態が起きうるというのは大きな問題であり、同時に、プログラムの一行を書き換えるだけでも車の挙動は大きく変わりうるため、ロボットカーの開発現場では最大限に注意を払って作業を進めていかなければならない、と主張しています。

准教授の所属するスタンフォード大学・自動車研究センター(CARS)は、まさにこの倫理の観点を含めた研究を行っています。准教授いわく「輸送の未来を正しい方向に導くために行っている」とのことですが、ロボットカーが普及すれば年間43兆円のコストと90％のけが人を減らせるという試算もあり、技術が成熟すれば「交通事故」「交通戦争」という言葉が死語になる未来もあり得るのかもしれません。