GMの自動運転テクノロジーは「数km走行するたびに人間の介入が行われる」という自動運転と呼ぶにはお粗末過ぎる出来栄えであることが明らかに

2023年10月、アメリカの自動車メーカーであるゼネラルモーターズ(GM)と同社の自動運転車開発部門であるGMクルーズ、日本の自動車メーカーであるホンダが、共同開発した自動運転専用車両のクルーズ・オリジンを用いた自動運転タクシーサービスを2026年初頭に開始すると発表しました。しかし、そんなGMクルーズが開発する自動運転テクノロジーは数km走行するたびに人間のオペレーターによる介入が入るという、自動運転とはほど遠い出来栄えになっていることがThe New York Timesの報道により明らかになっています。

G.M.’s Cruise Moved Fast in the Driverless Race. It Got Ugly. - The New York Times
https://www.nytimes.com/2023/11/03/technology/cruise-general-motors-self-driving-cars.html

Could Cruise be the Theranos of AI? And is there a dark secret at the core of the entire driverless car industry?
https://garymarcus.substack.com/p/could-cruise-be-the-theranos-of-ai

2016年にGMが10億ドル(約1500億円)で買収したとウワサされるCruise Automation(現、GMクルーズ)について、The New York TimesがGMクルーズの自動運転テクノロジーが実際に多くの人々が期待するような技術とはほど遠い状態にあると報じました。

この報道について、ロボット工学者のロドニー・ブルックス氏が「The New York Timesの報道により、GMクルーズの自動運転技術についてこれまで明らかになっていなかったことが報告されました。この報道によると、GMクルーズの自動運転では遠隔からの人間の介入が2.5～5マイル(約4～8km)ごとに発生しているそうです。これが本当なら見事な欺まんです。GMクルーズの自動運転車両は自動運転していたわけではないのだから」と述べ、人間のオペレーターによる介入があまりに頻繁すぎて、自動運転と呼ぶことはできないと指摘しました。

報道によると、GMクルーズの自動運転技術を採用する車両では、車両1台当たり1.5人のスタッフによるサポートが行われていたそうです。また、別の情報筋は「GMクルーズの自動運転技術は間違いなく人間によるリモート介入に依存している」と語っており、GMクルーズの自動運転AIを実際よりも優れたものであるかのようにみせるために、人間のオペレーターによる介入が行われていることを明かしています。

ただし、この「人間のオペレーターによる介入」で実際にどのようなことが行われているかは不明です。GMクルーズの自動運転搭載車両がオペレーターの介入なしでも問題なく動作するものの、GM側が過保護にオペレーターによる介入を用いているのか、それともオペレーターの介入がなければまともに走行できないようなレベルなのかは不明。そのため、「オペレーターが介入でどういったことを行っているのか」を明確にする必要があると指摘されています。

コンピューターサイエンティストのゲイリー・マーカス氏は、「実際のところはわかりませんが、この種のテクノロジーを放っておけば、地獄が解き放たれてしまう気がしてなりません。そして、自動運転車を開発する企業が遠隔オペレーターをどのように使用しているかについては、ほとんど明かされていないことに気づきました。GMクルーズだけでなく、他の自動運転技術開発企業もオペレーターに過度に依存しているのか、オペレーターが何をしているのか、オペレーターの介入なしでも車両はまともに機能するのかについて、我々は何も知りません」と述べ、自動運転技術におけるオペレーターの介入についてほとんど情報開示されていない点を問題視しました。

GM、GMクルーズ、ホンダが共同開発している自動運転車両のクルーズ・オリジン

なお、GMおよびGMクルーズの開発する自動運転車両については以前から懐疑の声があがっていました。CNBCの報道によると、GMクルーズの自動運転車両は2023年8月からサンフランシスコで走行していましたが、同車両は消防現場に突入したり、救急車の通行を妨げたり、犯罪現場に侵入したりと複数の問題を引き起こしていた模様。サンフランシスコ消防署長のジャニーン・ニコルソン氏は、「(GMクルーズの自動運転車両は)75件以上の事件を起こしました。ロシアンルーレットをしているようなものなので、公共の安全を考慮し、自動運転車両を修正する必要があります」とコメントしており、サンフランシスコの弁護士であるデビッド・チウ氏も「解決すべき問題がいくつかある」と指摘。これらの問題を受け、カリフォルニア州陸運局は2023年10月にGMクルーズの無人車両運行許可を一時停止しています。

Why San Francisco’s robotaxi rollout has been such a mess
https://www.cnbc.com/2023/11/04/why-san-franciscos-robotaxi-rollout-has-been-such-a-mess.html

海外掲示板のHacker News上には「サンフランシスコで無料で提供されていたGMクルーズの自動運転タクシーに何度も乗ったことがある」という人物が、実際にGMクルーズの自動運転タクシーに乗った際の体験談を記しています。

I took a bunch of Cruise rides in SF when it was free, and I think I know what w... | Hacker News
https://news.ycombinator.com/item?id=38147144

この人物によると、GMクルーズの自動運転タクシーは明らかに自動運転で走行しているものの、かなり頻繁に周囲の環境に混乱して立ち往生してしまうそうです。

例えば、自動運転タクシーが右折しようとしている角からバンが少し突き出して止められていると、車両は立ち往生してしまうそうです。これは明らかにGMクルーズの自動運転タクシーが道路のさらに外側を進むようにプログラムされておらず、角を曲がった先が見えない場合には、曲がることを許可されていないため起きる挙動だそうです。

実際、このような場面に遭遇した際に、GMクルーズのサポートに電話したことがあるそうですが、電話するまでサポートは問題が発生していることに気づいていなかった模様。また、自動運転タクシーが角を曲がらない理由については上記の仮説があったため、サポートに「車を少しずつ前に進める」ことを提案したものの、オペレーターは車両を数メートル後退させては自動運転に切り替えるばかりで、オペレーターが自身の運転で問題を解決しようとすることはなかったそうです。

結局、オペレーターは「車両を前進させる」という提案を受け入れるまでに少なくとも3回は同じ動作(後退)を試みたそうです。その後、自動運転タクシーを少し前進させると角を曲がった先が見えるようになり、明らかに自動で車両が発進したとのこと。そのため、このユーザーは「これは遠隔のオペレーターが車両を操作しているという話ではなく、車両が停止したときに遠隔のオペレーターが介入しなければならないという出来事が頻繁に発生しているというだけだと思います」と、自身の見解を述べています。