メモ

Apple独自のクレカ「Apple Card」が性差別を行っているという指摘が多数登場


Apple独自のクレジットカードであるApple Cardに新規入会する際、「女性には不当に低い限度額が設定されてしまう」という問題が発生すると多数報告されています。

Building a fairer and more inclusive financial services industry for everyone
https://medium.com/@nydfs/building-a-fairer-and-more-inclusive-financial-services-industry-for-everyone-917183dae954

Apple’s credit card is being investigated for discriminating against women - The Verge
https://www.theverge.com/2019/11/11/20958953/apple-credit-card-gender-discrimination-algorithms-black-box-investigation

Goldman wants to fix the Apple Card flaw that has users claiming bias
https://www.cnbc.com/2019/11/11/goldman-wants-to-fix-the-apple-card-flaw-that-has-users-claiming-bias.html

問題の発端となったのが、オープンソースのウェブアプリケーションフレームワーク「Ruby on Rails」を開発した著名プログラマーのDavid Heinemeier Hansson氏の「Apple Cardに入会する際、私には妻の20倍の利用限度額が設定された」という報告です。


Hansson氏の説明によると、クレジットカードの限度額の決定や住宅ローンなどの可否を決定する「支払いにおける信用力」に関する指数であるクレジットスコアは、妻のほうが高いとのこと。つまり、Apple Cardの限度額を決定する際には、クレジットスコアよりも女性に対する差別の方が優先されているのではないか、とHansson氏は指摘しているわけです。


この報告に対して、Appleの共同設立者の1人であるスティーブ・ウォズニアック氏も「私と妻はクレジットカードを共有で使っており、資産も共同で所有してきた。にもかかわらず、Apple Cardでは、私に妻の10倍の利用限度額が設定された」と同様の問題が起こったことを報告。


一連の問題は、クレジットカードの利用限度額を決定するために利用されているアルゴリズムに、女性差別を助長するような何かしらの要素が存在するのではないかとも指摘されています。

一方、Appleと共同でApple Cardを提供しているゴールドマン・サックスはアルゴリズムについて、「Apple Cardの申請にはそもそも性別の記入欄が存在しません。性別に基づいて差別を行ったということはありえません」と断言しました。


ニューヨーク州金融監督局のLinda A. Lacewell長官は「ニューヨーク州の法律において、年齢、信条、人種、肌の色、性別、性的指向、国籍などの特性によって差別することは禁じられています」と述べ、Apple Cardに用いられたアルゴリズムが実際に差別的だったのかを調査すると約束しました。Lacewell長官は、「もし違法な差別が助長されていた場合は、適切な措置を講じます」とコメントしています。

この記事のタイトルとURLをコピーする

・関連記事
「Apple Cardはこれまでで最も成功したクレジットカードだ」とゴールドマン・サックスCEOが語る - GIGAZINE

Apple独自のクレジットカード「Apple Card」は本当に他のクレジットカードと比べてプライバシーを保護してくれるのか? - GIGAZINE

人種に関するデータが存在しない医療システムで人種差別が行われてしまった理由とは? - GIGAZINE

AIの先祖である「書類選考用アルゴリズム」もまた人種・女性差別的だったという事実 - GIGAZINE

「ヘイトスピーチ検出AI」が逆に人種差別を助長する可能性がある - GIGAZINE

「欠陥のある自動採点システム」が何百万人もの学生の小論文を評価している - GIGAZINE

in メモ, Posted by log1k_iy

You can read the machine translated English article here.