IBMが顔認識市場から撤退を表明、「テクノロジーが差別と不平等を助長することを懸念」

by Steven Lilley

IBMが「テクノロジーが差別と人種的不平等を助長するために使われている」という懸念を発表し、汎用(はんよう)的な顔認識技術の市場から撤退する方針を発表しました。

IBM CEO's Letter to Congress on Racial Justice Reform - THINKPolicy Blog
https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/

IBM to withdraw from the facial recognition market out of profiling fears - CNET
https://www.cnet.com/news/ibm-to-withdraw-from-the-facial-recognition-market/

IBM gets out of facial recognition business, calls on Congress to advance policies tackling racial injustice
https://www.cnbc.com/2020/06/08/ibm-gets-out-of-facial-recognition-business-calls-on-congress-to-advance-policies-tackling-racial-injustice.html

IBMは2020年6月8日に「人種平等改革に関するIBM CEOの連邦議会への書簡」を発表。その中で、IBMのアルビンド・クリシュナCEOは「IBMは、大規模な監視やレイシャル・プロファイリング、基本的人権および自由の侵害、あるいは当社の価値観および信頼と透明性の原則に合致しない目的のために、他のベンダーの提供する顔認識技術を含めてあらゆる技術を使用することを断固として反対し、これを容認しません」と宣言しました。

また、「私たちは今こそ、顔認識技術を国内の法執行機関が採用すべきかどうか、またどのように採用すべきかについて、全国的な話し合いを始めるときだと考えています」とIBMは述べています。

IBMが顔認識市場から撤退することを発表したのは、2020年5月25日に黒人男性が白人警察官に取り抑えられて窒息死した「ジョージ・フロイドの死」と、それに端を発して急速に規模が拡大した黒人差別への抗議運動が背景にあります。

以前より「顔認識技術は法執行機関が運用するには正確性に欠ける」と指摘されています。たとえば、Amazonの顔認識技術「Amazon Relognition」を使って連邦議会議員の顔を犯罪者データベースと照合したところ、28人が犯罪者と誤認識されたという報告があります。

Amazonの顔認識技術が28人の議員を「犯罪者」と誤認 - GIGAZINE

そんな顔認識技術の「公平性と正確性の向上」を目指して、IBMは2019年1月に100万人分の顔データを修めた膨大なデータセットを公開。しかし、このデータセットは写真共有サイト・Flickrの写真を無断で利用していた可能性が指摘され、問題となりました。

IBMが100万人の顔データを収めた膨大なデータセットを「顔認識技術の公平性」を目指してリリース - GIGAZINE

ニュースメディアのCNBCは、「IBMの顔認識事業は会社に大きな収益をもたらしていませんでした。しかし、アメリカ政府が主要な顧客であるIBMがこのような決定を行ったのは注目に値します」という関係者の証言を報じています。同関係者は「今回の決定はビジネス上のものでもあり、倫理的なものでもあります。ここ数週間、従業員を含む多くの関係者が顔認識技術の利用を懸念しています」と語りました。