リモート司法試験の顔認証で「黒人の顔が認識されない」という不具合が発生

新型コロナウイルスの影響を考慮し、アメリカの司法試験は個人のPCを通してリモートで実施されています。試験を受けるにあたり、受験者は顔認証システムで個人の認証を行う必要があるのですが、「黒人の顔が認証されず試験を受けられない」という問題が発生しており、一部の受験者たちから不安や怒りの声が上がっています。

ExamSoft's remote bar exam sparks privacy and facial recognition concerns | VentureBeat
https://venturebeat.com/2020/09/29/examsofts-remote-bar-exam-sparks-privacy-and-facial-recognition-concerns/

以下はリモートでニューヨーク州の司法試験を受けたアリーヴァルディー・ハーン氏のツイート。ハーン氏は「サポートから『ランプなどの適切な照明の前に座ってください』と言われ、ニューヨーク州司法試験の模擬試験を完了できないという問題が発生しています。顔認証システムは人種差別です。私は『適切な照明』を使っていますよね？」とコメントし、怒りをあらわにしています。

カリフォルニア州の司法試験を受ける予定である黒人のキアナ・カトン氏もまた、ハーン氏と同じく「司法試験に合格するだけでなく、顔認識システムがもたらす課題に対処しなければならない」という問題に悩まされています。カトン氏はリモート司法試験で自身の顔を認識させるため、2日間の試験日程中ずっと顔に直接光を当て続けなければならない可能性があるとのこと。

「顔に光を当て続けなければならないということは、人によっては頭痛を起こしてしまう可能性があります。光に敏感な人や、偏頭痛を起こしやすい人なら、試験のパフォーマンスに影響を及ぼすのではないかと私は本当に心配しています」と、カトン氏は試験への不安を語りました。

アメリカの20州で実施されているリモート司法試験はExamSoftという企業によってシステムが管理されています。試験を受けるするためには、参加者は虹彩および顔の生体認証データを提出する必要があるとのこと。「およそ3万人以上のロースクール卒業生が参加する司法試験において、リモートでの試験実施はアメリカ史上最大の試みです。リモート試験を管理するすべての管轄区域でExamSoftを使用する方針です」とアメリカ司法試験委員会(NCBE)の広報担当者はテクノロジー系メディアのVentureBeatに対して語っています。

また、ExamSoftの広報担当者はVentureBeatに対し「顔認識システムによって、司法試験を受けている最中に試験が中断されることはありません」とコメント。しかし、ExamSoftは顔認識システムがハーン氏やカトン氏のような黒人の顔をそもそも認識すらしない点については言及せず、同社が使用している顔認識システムを開発した企業の名前も明かしませんでした。

VentureBeatは「ExamSoftには依然としていくつかの懸念が渦巻いている」と指摘しています。2020年7月28日には、ExamSoftが管理するミシガン州のリモート司法試験がDDoS攻撃を受けており、攻撃や被害の詳細は記事作成時点で調査中とのこと。そのため、顔認証システムの精度に加えてセキュリティの面でも問題が懸念されています。

NCBEの指導のもと、ExamSoftは2020年10月以降もリモート司法試験をサポートすることが予定されています。ExamSoftの共同創設者であり、記事作成時点では同社から退いているグレッグ・サラブ氏は、アメリカ法曹協会(ABA)からのインタビューに対して「模擬試験や実地試験での一貫性のないパフォーマンスから証明されるように、現時点でリモート試験を実施するのは危険だと感じています」と述べ、インターネット接続を介した試験に関連するリスクや、ExamSoftのような企業が顔認証などの技術をテストするのに十分な時間を割けてないことに懸念を示しています。

さらに、電子フロンティア財団(EFF)が2020年9月にカリフォルニア最高裁判所へあてた書簡でも、試験で使用されているシステムによって司法試験に不公平が生じることへの懸念が表明されていました。さらにEFFは、ExamSoftのカリフォルニア州消費者プライバシー法(CCPA)違反について懸念を表明するとともに、「ExamSoftが収集したデータはハッカーをおびき寄せている」と警告しています。

リスクを軽減するために、カリフォルニア州はExamSoftに対して司法試験に関連した生体認証データをすべて削除するよう要求。ExamSoftが司法試験中に収集した生体認証データをいつ削除するかは記事作成時点で不明ですが、テストの実施から少なくとも60カ月後になる可能性があるとVentureBeatは推測しています。

リモート司法試験はリスクが高いと批判する声に対してExamSoftの広報担当者は、同社の約22年の歴史で何千もの顧客との間に信頼を築いてきたと述べ「我々は、関連会社が弊社のソフトウェアや製品の品質、安定性についてどのように感じているかについてはお伝えすることはできません」とコメントしています。