GPT-4の顔認識性能を懸念してOpenAIが顔認識機能を制限

GPT-4の画像認識機能に備わった特定の個人を識別するという能力がプライバシー法に違反する可能性があるという懸念から、OpenAIが顔認識機能に制限をかける措置を取っていることが明らかになりました。

A ChatGPT That Recognizes Faces? OpenAI Worries World Isn’t Ready. - The New York Times
https://www.nytimes.com/2023/07/18/technology/openai-chatgpt-facial-recognition.html

Report: OpenAI holding back GPT-4 image features on fears of privacy issues | Ars Technica
https://arstechnica.com/information-technology/2023/07/report-openai-holding-back-gpt-4-image-features-on-fears-of-privacy-issues/

2023年3月に発表されたGPT-4は、テキストだけでなく画像の入力も受け付ける「マルチモーダルAI」として開発されていることが明らかになっていました。

OpenAIはこの発表に続き、Be My Eyesというスタートアップと共同でアプリの開発に従事しており、目の不自由なユーザーに画像を説明し、ユーザーが周囲の環境をよりよく解釈できるようにするプロジェクトに取り組んでいます。

しかし、ニューヨーク・タイムズがニュージーランドに住む目の不自由な女性の体験談を紹介したところによると、あるときになってOpenAIが開発しているアプリが顔情報の提供を停止し、「プライバシー保護のため顔が隠されています」とのメッセージを表示し始めたとのこと。ニューヨーク・タイムズは「女性は失意を表した」と記しています。

この点についてニューヨーク・タイムズから取材を受けたOpenAIの政策研究者、サンディニ・アガルワル氏は、上記の原因についてOpenAIがGPT-4の顔認識能力を縮小したことが理由であると認めました。

アガルワル氏によると、OpenAIのシステムはWikipediaにページが作られるような公人を識別することが可能なものの、「生体情報の使用には市民からの明確な同意が必要」と定めたイリノイ州やヨーロッパのような地域では、こうした機能がプライバシーに関連する法律を侵害する可能性があるそうです。

さらに、アプリが「性別」「感情」といった情報を誤って解釈する可能性もあり、こうした情報を表示してしまうことで、不適切または有害な結果を招いてしまうことも考えられるそうです。OpenAIは、GPT-4の画像解析機能が広く利用されるようになる前に、安全上の懸念を排除することを目指して開発を進めているとのことです。

GPT-4のような生成AIモデルが直面する画像認識という課題は、OpenAIだけでなく数々の企業が乗り越えていかなければいけないものでもあります。テクノロジー系メディアのArs Technicaは、GoogleのAI「Bard」やGPT-4をベースとしたMicrosoftのBing AIが認証システムの「CAPTCHA」を解いたという事例を引用し、「AIを搭載したコンピュータ・ビジョンは、遅かれ早かれ、すべての人のデバイスに搭載されるかもしれませんが、倫理的な影響を最小限に抑えながら広くリリースされるようになるには、企業が複雑な問題を解決する必要があることも明らかです」と指摘しました。