Amazon幹部が「顔認識ソフトを法執行機関に提供し続ける」と従業員に対して説明

by Zhao !

Amazon社内で行われた全員参加のスタッフミーティングにおいて、Amazon Web Services(AWS)のCEOを務めるアンドリュー・ジャシー氏が、顔認識API「Amazon Rekognition」の悪用は認めないとしつつも、法的に規制されない限り法執行機関を含めた顧客への提供を今後も続けていく意向を示しました。

Amazon Execs Addressed Concerns About Amazon Rekognition And ICE At An All-Hands Meeting
https://www.buzzfeednews.com/article/daveyalba/amazon-all-hands-facial-rekognition-ice

Amazon told employees it would continue to sell facial recognition software to law enforcement - The Verge
https://www.theverge.com/2018/11/8/18077292/amazon-rekognition-jeff-bezos-andrew-jassy-facial-recognition-ice-rights-violations

AWSが開発した深層学習による顔認識ソフト「Amazon Rekognition」は、警察や法執行機関へ販売されていることが明らかになっています。群衆の中から指名手配犯の顔を見つけ出したり、国境を越える移民の中からテロリストを発見したりという活用が期待されています。一方で、こうした顔認識ソフトは一般市民の監視にも発展しかねないと、市民権利団体から反対の声があがっていました。

Amazonが顔認識ソフトを警察に販売していることが判明、国民の監視に乱用される可能性アリとして警鐘が鳴らされる - GIGAZINE

また、Amazon Rekognitionの精度には疑問の声もあり、実際にアメリカ連邦議員の顔を犯罪者の顔写真データベースと照合するテストを行ったところ、一部議員の顔を犯罪者だと誤認識したという結果が報告されています。

Amazonの顔認識技術が28人の議員を「犯罪者」と誤認 - GIGAZINE

この反対運動を受けて、Amazonの株主は「Amazon Rekognitionは法執行の強化を目的にしているかもしれないが、最終的に市民権や人権を侵害する可能性すらある」という書簡を、Amazonのジェフ・ベゾスCEOに送っています。

Amazon株主がベゾスCEOに「政府への顔認識技術の供与をやめるべき」との要望書を提出 - GIGAZINE

外部だけではなく、Amazonの従業員からも、Rekognitionを警察などの法執行機関に提供するべきではないという反対意見が出ています。

Amazonが警察に監視用の顔認識ソフトを売ることについてAmazon従業員はどう感じているのか？ - GIGAZINE

そして、スタッフミーティングで行われた以下の質疑応答をBuzzfeedが報じています。

Q：
「Amazonが、移民税関執行局(ICE)を含む法執行機関にAmazon Rekognitionを販売している」ということについて、Amazonの従業員と市民権利団体の両方から懸念が表明されたことについて、どういう対処を行っていますか？

ジェフ・ベゾス：
はい。アンディ、言いたいことはある？

アンドリュー・ジャシー：
AWSのディープラーニングによる画像認識、顔認識、映像認識サービスに注目してくださって、ありがとうございます。これは広く議論が分かれるところだと思います。Amazon Rekognitionが法執行機関だけでなくそれ以外の業界の多種多様なお客様に普及していることは本当に素晴らしく、価値あることだと強く感じています。

Amazon Rekognitionによる顔認識システムが人身売買を食い止めたり、生き別れた親子を再会させたり、盗難防止のためのセキュリティとさまざまな認証に用いられたりなど、1年もしくは1年半以内にはAmazon Rekognitionが価値あるものだと考えるようになるでしょう。

Amazon Rekognitionには多くの価値があります。もちろん、どんな種類の技術であれ、それが責任持って使われていることを確認しなければなりません。それは新しい技術や既存の技術にも当てはまります。全ての悪がコンピューターやサーバーによって処理されるということについて考えてみてください。もしコンピューターがなかったら、私たちの世界はどれだけ全く違うものになっていたかについても考えてみてください。

人が責任を持って技術を使うかということを確かめたいようですが、AWSには一連の規約とサービスがあります。Amazon Rekognitionを含むAmazonの全てのサービスについて、ユーザーがサービスの規約に違反し、無責任な使い方をすれば、Amazonのサービスを使用できなくなります。憲法上の権利を侵害していると判明した場合、サービスを利用することができません。私は、民主主義社会では、技術を規制するようなガイドラインを明示することこそ政府の果たすべき責任だと考えています。そういったガイドラインが提示されれば、私たちはそれを順守するまでです。ありがとうございます。