Intelが生徒の授業態度を分析するAIを計画、活用法や批判意見はどのようなものか？

学校の授業で学生がどれくらい学習内容を理解しているか、授業に集中できているか、なにか悩みを抱えていないかなどは、学生に直接明かしてもらわないと理解することは難しいもの。仮想空間上で行う授業のソフトを販売する企業のClassroom TechnologiesがIntelと提携して開発しているシステムでは、生徒の表情や教材への取り組み方を分析することで、生徒の授業態度や理解度を検出できるとのことです。教育者にとってかなり有益な情報を得られると期待される一方で、学生の権利を重んじた多数の批判意見も出ています。

Class tests Intel AI to monitor student emotions on Zoom - Protocol
https://www.protocol.com/enterprise/emotion-ai-school-intel-edutech

Intelは人工知能(AI)と画像・映像分析を利用して、学生の顔のキャプチャから学習への取り組み状態を読み取る技術を開発しています。開発に携わったIntelの研究者のシネム・アスラン氏は「このシステムにより、教師は生徒がいつ助けを必要としているか認識し、生徒にあった教材を提供し、生徒が授業に退屈しないように対応する、大規模な個別指導が可能になります」と述べています。

Classroom Technologiesの共同研究者であるマイケル・チェイスン氏は、「Intelの教育分析AIを仮想空間でのリモート授業に導入することで、対面でなくては難しい教師と生徒とのコミュニケーションを改善することができます」と、教育現場でのAIシステムへの期待を語っています。

一方で、学生の表情や態度をAIで分析することに関して大きく分けて2つの批判意見が上がっています。まずひとつ目は、「そもそも顔の表情やその他の外部情報から、退屈や混乱、幸せや悲しみなどの感情を、正確に判断するのは不可能」という実現性の点。AI社会的影響を研究するケイト・クロフォード氏は、人の見た目から能力や精神状態に対する誤った推測を行うことを「Phrenological Impulse(骨相学的衝動)」と呼んで批判し、「同じ表情でも文脈を無視して顔の動きだけで感情を読み取ることは、誤解を招きかねないです」と警告しています。

「感情認識AI」の危険性を専門家が警告、一体何が問題なのか？ - GIGAZINE

また、セキュリティや試験の不正防止の目的で生徒個人の身元確認を行う際に、顔認識は学生を監視するという不安や、プライバシーを著しく侵害するなど、道義上の点からも批判意見が出ています。また、顔認証技術は有色人種の誤検知率が高くなりがちなことから、人種差別的であるとして顔認証技術の禁止が主張されることも多くあります。

アメリカの大都市が相次いで顔認証システムを禁止に - GIGAZINE

by Mike MacKenzie

チェイスン氏は顔認証AIへの批判をよく理解した上で、「私たちは人々の個人的権利に敏感であり、システムによって権利に過度な侵入をしないようにする必要があります」と述べています。またアスラン氏は、Intelのテクノロジーによって生徒を監視したり不正を検知して罰したりする方向ではなく、正しく適切な授業を行えるように教師を指導し、生徒が助けを求めている時により良い追加情報を提供することが目的であると展望を語っています。

しかし一方で、非営利の消費者組織であるコンシューマー・レポートでAIのバイアスと説明責任の問題のアナリストを務めるナンディア・サンパス氏は、「Intelの顔認証AI技術を使用すれば、意図しなくても学生を監視したり罰したりすることになりうる」と危険視しています。

Classroom Technologiesの仮想講義ソフトにIntelの顔認証AI技術を導入するのはテスト段階で、チェイスン氏は「AIによる分析の結果が生徒の成績に関連しているかどうか、そこから教育での有用なデータを取得できるかを確認する必要があります」と今後の展望について述べつつ、「まだ完全に成熟した技術とは思っていません。分析したデータはあくまでひとつのアイデアであり、文脈なしで単独で使用するべきではありません」と慎重な姿勢を示しています。