乗り物

自動運転カーは歩行者の肌の色が濃いと衝突事故を起こしやすい

by ke wen

いくつかの顔認証システムが肌の色が濃い人を正確に識別することに苦労していることは既に知られていますが、新たに自動運転カーに搭載されている人工知能(AI)システムも同様の問題を抱えていることが明らかになっています。研究によると、肌の色が濃い歩行者の方が自動運転カーによる事故に遭遇する確率が高まるそうです。

Predictive Inequity in Object Detection
(PDF)https://arxiv.org/pdf/1902.11097.pdf

Self-Driving Cars May Hit People With Darker Skin More Often
https://futurism.com/the-byte/biased-self-driving-cars-darker-skin


ジョージア工科大学の研究者たちが、自動運転カーなどに用いられる最先端の物体認識システムで用いられている8つのAIモデルの精度を詳しく調査し、その結果を論文として論文投稿サイトのarXivで掲載しています。研究チームが調査した物体認識システムは、自動運転カーが道路標識や歩行者、その他の物体を正しく認識するために用いられるものです。

調査では物体認識システムにチェックさせる歩行者の写真を、一般的に人間の肌の色を分類するために使用される「フィッツパトリック分類」のスコアに基づいて、「肌の色が薄いカテゴリ」と「肌の色が濃いカテゴリ」の2つに分けました。そして、物体認識システムに歩行者が「肌の色が薄い人」「肌の色が濃い人」「肌の色は判別できないが人間」「人ではない」のどれかを判断させるというテストを実施しています。



テストの結果、フィッツパトリック分類においては肌の色が濃いとされる「淡褐色」「褐色」「黒色」を持つ歩行者に対しては、物体認識システムが「一様に劣ったパフォーマンス」を示すことが明らかになっています。研究者によると、日中または夜間といった写真を撮影したタイミングに関する変数を考慮したとしても、肌の色が濃い歩行者の画像を含むグループは物体認識システムの精度を平均で5%も低下させていたそうです。

by Tomo Nogi

ジョージア工科大学の研究チームによる研究結果から、自動運転カーの物体認識システムがこのままの精度で普及すれば、肌の色によって交通事故に遭遇する確率が変わってくるということになります。しかし、研究グループは調査結果を基に「データセットに肌の色が濃い歩行者の画像をより多く使うことで、より正確に歩行者を検知できるようになる」としています。

この記事のタイトルとURLをコピーする

・関連記事
自動運転カーの安全な公道テスト走行の実現にメーカーは苦慮している - GIGAZINE

自動運転で発生した2件の死亡事故への「誤検知」の影響とは? - GIGAZINE

Uberの自動運転カーが女性をはねて死なせる事故が発生、Uberは自動運転の公道テストを中止 - GIGAZINE

Uberの自動運転カーが横断者をはねて死なせた事故の車載カメラ映像が公開、ドライバーの確認不足の疑いも - GIGAZINE

Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明 - GIGAZINE

in ソフトウェア,   乗り物, Posted by logu_ii

You can read the machine translated English article here.