リモート学習に伴い導入された「不正行為防止ソフトウェア」の監視に大学生が苦しんでいる

新型コロナウイルスのパンデミックにより世界各国でリモートワークやリモート学習が導入され、記事作成時点でも学校に通わず自宅で教育を受ける学生が大勢います。そんな中、テストで学生の不正行為を監視するために「不正行為防止ソフトウェア」を導入する大学もありますが、学生たちはソフトウェアによる誤った不正判定やプライバシーの問題に苦しんでいると指摘されています。

College Students Are Learning Hard Lessons About Anti-Cheating Software — Voice of San Diego
https://voiceofsandiego.org/topics/education/college-students-are-learning-hard-lessons-about-anti-cheating-software/

リモート教育の導入が急ピッチで進む中ではさまざまな問題が浮上しましたが、そのうちの一つが「自宅でテストを受ける学生による不正行為をどうやって検出すればいいのか？」というものです。そこに参入したのが、Respondus・Honorlock・ProctorU・Proctorioといった、「不正行為防止ソフトウェア」を提供する企業です。

Respondusは自社のウェブサイト上で、監視ソフトウェアは学生の行動を監視して試験中の疑わしい行動を検出し、試験終了後に教授が行動を確認できるようにフラグを立てると説明しています。監視ソフトウェアは学生の顔を認識し、顔のデータやマウスのアクティビティといったデータを集め、強力なAIを用いて「不正行為に関連するパターンと異常」を認識するとのこと。

しかし、Respondusなどが使用する顔認識技術にはプライバシー上の問題に加え、さまざまな疑念が投げかけられています。特に、顔認識技術は人種によるバイアスが存在し、特に黒人の顔がうまく認識されない割合が高いという問題点は以前からたびたび指摘されています。アメリカでは顔認識技術の導入の不完全性を問題視したいくつかの都市が、相次いで顔認証システムの使用を禁止しています。

アメリカの大都市が相次いで顔認証システムを禁止に - GIGAZINE

by Mike MacKenzie

ワシントンD.C.に本部を置くプライバシー擁護団体の電子プライバシー情報センターで上級弁護士を務めるジョン・デイヴィソン氏は、顔認識技術が明らかに有色人種へ不公平な悪影響を及ぼすと指摘。また、有色人種だけでなく特徴的な容姿をした人についても、AIが誤ってフラグを立てやすくなる可能性があるとのこと。

デイヴィソン氏は不正行為防止ソフトウェアが学生について多くのデータを収集する一方、学生側にはデータ収集をオフにする選択肢がないのは問題だと指摘。また、「企業の多くは収集するデータから不正行為の兆候を検出できると、かなり注目に値する主張を行っています。しかし、これは不透明なアルゴリズムによるものであり、システムが不正行為の兆候に正しくフラグを立てているかどうかを評価することは非常に困難です」と述べ、ソフトウェアの有効性にも疑問を呈しています。

しかし、アルゴリズムの正確性を知ることが難しいにもかかわらず、不正行為防止ソフトウェアを販売する企業はパンデミック中に成長しています。ワシントン・ポストによると、不正行為防止ソフトウェア開発企業は多くの大学と契約を結び、数百万ドル(数億円)もの利益を得ているとのこと。

サンディエゴ州立大学も、Respondusの不正行為防止ソフトウェアを導入した大学の一つです。サンディエゴ州立大学に在籍するウィリアム・スコット・モリーナ氏は、2020年夏から始まった経営学の講義で「Respondus LockDown Browser」というソフトウェアのインストールを求められました。

モリーナ氏によると、Respondus LockDown Browserは机全体や机の下、部屋全体をカメラで記録する必要があり、PCのキーボード上に余計なものがないことを示すために、鏡を設置することも要求したそうです。さらに、試験中にインターネット接続が途切れた場合、学生は自動的に不正をしたと判定されてしまうとのこと。ガールフレンドと3歳の娘と共に暮らす31歳のモリーナ氏にとって、予期せぬハプニングでインターネット接続が途切れることは珍しくないため、この点だけでも非常にストレスが多かったと述べています。

リモート講義で好成績を収めていたモリーナ氏でしたが、8月中旬に行われた2回目のテストの後で「用意したメモ用紙の表と裏をカメラに見せなかった」「試験中に話していた」といった不正行為を警告するメールを、講師のレニー・メリル氏から受け取りました。モリーナ氏はメモ用紙の両面を見せないことや「難しい問題文を声に出すくせ」が疑わしいと判定されることを知らなかったと述べており、メリル氏に弁明のメールを送ったとのこと。

しかし、その後に行われた3回目のテストでも、モリーナ氏は「試験の開始直後に1分間ほど席を離れた」「電卓を使わないはずの問題で電卓を使っていた」といった点が不正行為と見なされ、単位を認定されませんでした。モリーナ氏によると、試験の開始直後に席を離れたのは娘が部屋のドアをノックしたため、ガールフレンドが娘を連れて行くまで待っていたからだったそうです。また、モリーナ氏は問題を最初から順番に解いていたわけではないため、電卓を使ったタイミングが問題に答える順番と一致しなかったと主張しています。

モリーナ氏は単位の不認定に抗議するため、一連の問題についてサンディエゴ州立大学に設置されたCenter for Student Rights and Responsibilities(学生の権利と責任センター)に訴えました。予定されていた会議が新型コロナウイルスの影響で2回も延期となりましたが、訴えから1カ月以上が経過したころ、ようやくモリーナ氏は大学側から処分を行わないとの通知を受け取ることができたそうです。

そしてモリーナ氏は通知を経営学の教授に転送し、何度も自分にふさわしい成績を与えるように主張して、最初に単位が不認定とされてから2カ月後にようやく単位を得ることができました。この間、モリーナ氏は非常に大きなストレスを感じており、寝ても覚めても単位の不認定に関する問題に悩み続けたと述べています。

同様のストレスを感じているのはモリーナ氏だけではなく、サンディエゴ州立大学の3年生であるニーコリー・ソリス氏も、「電卓を使用する際はカメラに向かって計算内容を口頭で説明する」といった要求にストレスを覚えているとのこと。「ただでさえ難しいと感じている講義でオンライン試験を受けるのは不安です」と、ソリス氏は話しました。

また、マリアナ・エーデルシュタイン氏はオンライン試験中にRespondusの不正行為防止ソフトウェアを使うと、試験のパフォーマンスが低下すると報告しています。「私は外的要因を制御できません。隣人が芝生を刈る時間も、Amazonの配達員が家を訪れてベルを鳴らす時間も制御できないのです」と述べ、リモート環境での試験は困難だとエーデルシュタイン氏は主張しています。

エーデルシュタイン氏は不正防止ソフトウェアのプライバシー慣行についても懸念を抱いています。ある日のテストにおいて、Respondusの不正行為防止ソフトウェアは机の下も映すことを要求しましたが、エーデルシュタイン氏はショートパンツをはいていたそうで、数秒間にわたり素足がソフトウェアに撮影されてしまったとのこと。電子フロンティア財団の研究ディレクターであるジェイソン・ケリー氏は、Respondus以外の不正行為防止ソフトウェアも、下半身を映すことを要求していると指摘しています。

加えて、Respondusは撮影したムービーの保存期間をデフォルトで5年としており、クライアントの要望によってさらに保存期間を延長することもできるとしています。ケリー氏は「控えめに言ってこれはばかげています。教師や大学がデータを保存するのは、疑わしい活動があったかどうかを判断するために必要な期間だけです。それは1週間か2週間、長くても1カ月程度でしょうか？」と述べました。

この懸念に対し、サンディエゴ州立大学側はキャプチャされたムービーが不正防止のレビュー目的のみに使用され、永続的に保存されることはないと主張。また、Respondusのデイヴィッド・スミッター氏は、不正行為防止ソフトウェアが収集したデータにアクセスできるのは少数のエンジニアに制限されており、特定のデータにアクセスするとセキュリティおよびプライバシーチームに通知が届くと説明しています。

ハーバード大学ケネディ・スクールのセキュリティ専門家であるブルース・シュナイアー氏は、事前に十分な精査をせずにハイテク企業とパートナーシップを結んだ点について、大学が責任を負うべきだと指摘。また、教育データのプライバシー規制に関する専門家のリネット・アタイ氏は、企業と大学は収集するデータを学生が確認できるようにするべきだと主張。「学生はプライバシーとセキュリティの慣行を理解するため、大学や企業の決定について十分な情報を与えられるべきです」と、アタイ氏は述べました。