ソフトウェア

MicrosoftやGoogleの研究者が「顔認識技術」に規制を求めている

by kaja47

カメラで捉えた人の顔を認識する顔認識技術は、すでに中国イギリスをはじめとするいくつかの国々で犯罪捜査などに活用されています。その一方でAmazonの開発した顔認識技術が犯罪者でないアメリカの連邦議員28人を犯罪者と誤認するなど、いまだにそのシステムが完全でないことも確かです。そんな顔認識技術が政府によって使用されることについて、「規制が必要だ」とMicrosoftやGoogleの研究者らが主張しています。

Microsoft Pushes Urgency of Regulating Facial-Recognition Technology - WSJ
https://www.wsj.com/articles/microsoft-pushes-urgency-of-regulating-facial-recognition-technology-1544129253

Google and Microsoft researchers call for facial recognition regulation
https://www.telegraph.co.uk/technology/2018/12/06/google-microsoft-researchers-call-facial-recognitionregulation/

AI_Now_2018_Report.pdf
(PDFファイル)https://ainowinstitute.org/AI_Now_2018_Report.pdf

顔認識技術についてはAmazonやFacebook、GoogleにMicrosoftなど世界最先端のIT企業がしのぎを削っています。そんな中、Microsoftの社長であるブラッド・スミス氏は2018年12月6日に更新したブログの中で、「顔認識技術のルール制定の遅れによって、社会的な問題が悪化してきた」と語りました。


政府機関による顔認識技術の採用は中国を中心として急速に拡大しており、国中に設置された監視カメラと顔認識技術を組み合わせることによって「政府による国民の監視がより強力になるのではないか」と懸念されています。

2018年にはAmazonが開発した顔認識技術を警察に販売していたことを報じられ、人権団体や株主が「顔認識技術の販売をストップしてくれ」と要望する事態に発展しています。一方でAmazon Web Services(AWS)のCEOであるアンディ・ジャシー氏は、「Amazonは顔認識技術を販売した機関が技術を悪用していることを確認していません」とプレスカンファレンスで語りました。加えて顔認識技術に関するルール制定についても、「使用する国や政府が自分自身でルールを決めるべきだ」として、企業が顔認識技術にルールを定めることに難色を示したとのこと。

by Matthew Henry

スミス氏は顔認識技術の規制について、特に「人種やジェンダーの差別」「プライバシー」「政府による民衆の監視」という3点について規制を設けるべきだと主張し、警察や政府が顔認証技術を用いる場合、人々にそのことを周知した上で同意を得る必要があるとしています。さらにスミス氏はジョージ・オーウェルの小説「1984年」を例に挙げ、「今日のテクノロジーを用いれば、1984年で描かれたものと同様の監視社会を実現することもできます」と警鐘を鳴らしました。

企業側にもテクノロジーの発達に伴う責任意識が成長しつつあり、たとえば近年ではGoogleが「AI技術を兵器開発に使わない」と宣言しています。Googleのように最先端のテクノロジーを開発・運用するにあたって自らを律する動きは、大手IT企業の中で高まりつつあるとのこと。

Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表 - GIGAZINE


2018年12月6日、ニューヨーク大学の研究者に加えてMicrosoftやGoogleの研究者を含めた組織「AI Now Institute」により、顔認識技術に対して規制を求めるレポートが提出されました。報告書の中ではアメリカの連邦政府に対し、顔認識技術の運用についての監視と透明性を求めています。

AI Now Instituteの報告書内で専門家らは、「顔認識技術を用いたさまざまな監視やデータ収集は、公益を保護するために厳しい規制が必要です。共同体は顔認識技術により監視を拒絶する権利を持つべきです」と述べています。

また、中でも顔認識技術の販売者が「個人の内的感情や精神の不調を検出できる」と主張している顔認識技術には問題が多いと指摘。「企業のオフィスに設置して従業員の満足度を測ることができる」という予想もされていますが、AI Now Instituteは「これらの技術には科学的裏付けが十分ではなく、骨相学や人相学といった疑似科学を連想させる非倫理的で無責任なものです。この技術が雇用や保険、教育や治安維持に用いられることは重大なリスクがあります」として、強く非難しました。

・関連記事
Amazon幹部が「顔認識ソフトを法執行機関に提供し続ける」と従業員に対して説明 - GIGAZINE

Amazonの顔認識技術が28人の議員を「犯罪者」と誤認 - GIGAZINE

ロンドンの警察は誤検知率98%の顔認識システムで大衆を監視している - GIGAZINE

顔認識機能を使って逃亡者を6万人参加のコンサート会場から中国警察が見つける - GIGAZINE

中国の警察は顔認識機能を搭載したサングラス型デバイスを導入して監視体制を強化している - GIGAZINE

in ソフトウェア, Posted by log1h_ik