Microsoftが「感情を読み取る」と物議を醸した顔認証ツールを廃止

Microsoftが、年齢や性別、表情などを読み取る顔認識サービスの一部機能を廃止することを発表しました。これらの「人々の感情を読み取る機能」は、Microsoftの社内外で正当性やプライバシーに関する物議を醸していました。

Microsoft's framework for building AI systems responsibly - Microsoft On the Issues
https://blogs.microsoft.com/on-the-issues/2022/06/21/microsofts-framework-for-building-ai-systems-responsibly/

Responsible AI investments and safeguards for facial recognition | Azure Blog and Updates | Microsoft Azure
https://azure.microsoft.com/en-us/blog/responsible-ai-investments-and-safeguards-for-facial-recognition/

Microsoft to retire controversial facial recognition tool that claims to identify emotion - The Verge
https://www.theverge.com/2022/6/21/23177016/microsoft-retires-emotion-recognition-azure-ai-tool-api

Microsoftは2022年6月21日に、同社のAI倫理の指針を定めた「(PDFファイル)Microsoft Responsible AI Standard,v2」を発表しました。これを受けて、Microsoftの責任あるAI最高責任者(Chief Responsible AI Officer)のNatasha Crampton氏は、顔認証サービス「Azure Face」の一部機能を制限することを発表しました。

具体的には、ユーザーがAzure Faceを使用して顔認証をする際に、この技術をどこでどのように使うかをMicrosoftに伝えなければならないようになったとのこと。ただし、画像や動画に映り込んだ顔に自動的にぼかしをかけるような、有害ではない用途は引き続きフリーアクセスのままになります。

Microsoftはさらに、Azure FaceをAI利用に関する新基準に合わせる作業の一環として、サービスから「性別・年齢・笑顔・ひげ・髪・化粧などの属性を識別する機能」を除外し、感情を認識する機能の一般公開も停止することを発表しました。

その理由について、Crampton氏は「社内外の専門家は、感情の定義に関する科学的コンセンサスの欠如や、感情の予測が個別のユースケース、地域内、人口統計にどのように一般化されるかの問題、およびこの種の機能に関するプライバシー上の懸念の高まりを指摘しています。また、顔の分析やその他のAI技術を使っているかどうかにかかわらず、人々の感情を推測すると主張されているあらゆるAIシステムを慎重に分析していく必要があると判断しました」と述べて、テクノロジーで顔認証や感情推測をすることに伴うプライバシー問題に対応するためだと説明しています。

Crampton氏が指摘したように、表情や感情を読み取るMicrosoftのAI技術は、国や人種によって表情が異なる点や、外面的な表現と内面的な感情を同一視するのは不適切である点などから専門家により厳しく非難されてきました。

ノースイースタン大学の心理学教授であるリサ・フェルドマン・バレット氏は、IT系ニュースサイトのThe Vergeに対して、「しかめっ面を検出することはできますが、それは怒りを検知したことにはなりません」と語っています。

今回の決定に伴い、Azure Faceで性別や年齢などの属性を認識するサービスは即日新規ユーザーに提供されなくなり、既存ユーザーも6月30日以降は使用できなくなります。また同様に、音声合成サービスである「Custom Neural Voice」でも、用途をMicrosoftに報告しなければならない制限が適用されるとのこと。

Crampton氏は、録音された声からAIの声を合成するこの機能について、「教育、アクセシビリティ、エンターテインメントにおいてエキサイティングな可能性を秘めていますが、話者を不適切に偽装し、聞き手を欺くような使い方をされることも容易に想像できてしまいます」と述べました。