Amazonが配送ドライバーを監視するために取り付けた車内カメラが誤作動しまくって給料を下げてくるという報告

2021年初頭、Amazonがアメリカ国内で働く配送ドライバーを監視するためにAI搭載の車内カメラを順次取り付け始めました。このAI搭載車内カメラによって監視されているドライバーから「他の車に割り込まれるたびに『適切な車間距離を保っていない』と誤診断して給料を削ってくる」という報告が上がっています。

Amazon’s AI Cameras Are Punishing Drivers for Mistakes They Didn’t Make
https://www.vice.com/en/article/88npjv/amazons-ai-cameras-are-punishing-drivers-for-mistakes-they-didnt-make

2021年2月、Amazonはアメリカ国内で働く配送ドライバー7万5000人の監視のためにNetradyne製AI搭載車内カメラ「Driveri」を順次設置し始めました。このカメラは安全運転しているかを監視するためという名目でしたが、生体認証データへのアクセス許可なども義務づけられることから、ドライバーからは「プライバシーを侵害しているという非難の声が上がっていました。

Amazonがドライバーを車載カメラで監視＆生体認証データへのアクセス許可を義務づける - GIGAZINE

このAI搭載車内カメラに対し、ドライバーから「規則に違反していないのにペナルティを科してくる」という報告が上がっています。ロサンゼルス近郊で配達ドライバーとして活動するデレク氏によると、問題の車内カメラは他の車に割り込まれるたびに「適切な車間距離を維持してください」という音声で警告してくるとのこと。ロサンゼルス近郊では右折の際にはしょっちゅう車に割り込まれるため、実質的にこの警告を回避するのは不可能。デレク氏は「私が何もしてないのに、こうした警告を行ってくるというのはとても不愉快です」と語ります。

Netradyne製AI搭載車内カメラは、脇見運転などの「イベント」を感知するたびに警告を発します。しかし、サイドミラーなどの確認なども脇見運転として分類するなど、安全運転に必須な行為ですら違反行為として判断してくるという声が上がっています。この種の誤検知の中でも最も頻度が高いのが一時停止関連で、一時停止の標識でちゃんと停止してから曲がる直前に左右確認のために再度停止すると警告してくる他、優先車線側に車両が来ている場合のみ停止義務が発生する「YIELD」標識を一時停止標識と誤認するケースもあるとのこと。

AI搭載車内カメラによる診断はスコア化されて給与査定に影響します。しかし、ドライバー側がどの行為が違反として判断されたのかを教えて欲しいと求めても、Amazon側は一切応答しないとのこと。ドライバーは1日中監視を受けていることに対して「安心だと思えなくなった」と語り、配達会社に録画映像の監視という業務を増やしていると指摘しています。

Amazonの広報担当者は、Netradyne製AI搭載車内カメラを搭載して以来、事故が48％減、停止線や信号の違反が77％減、シートベルト着用義務違反が60％減、車間距離保持義務違反が50％減、不注意運転が75％減になったと主張。これに対して警告音声の煩わしさからスコアを無視して「ステッカーを貼ってレンズを隠す」という対策や、脇見運転監視を回避するために「サングラスをかける」という対策をとるドライバーが出てきているとのことです。