「Apple Cardは不当に低い限度額を女性に設定しているのか?」を調査した結果を当局が発表
Appleが発行するクレジットカードであるApple Cardには、「女性には不当に低い限度額が設定されているのではないか」という疑いが持たれていました。この点についてニューヨーク州金融サービス局が1年以上にわたって40万人を対象に実施したデータ分析や、数千ページに渡るAppleからの書面回答を調査した結果を報告しています。
Report on Apple Card Investigation
(PDFファイル)https://www.dfs.ny.gov/system/files/documents/2021/03/rpt_202103_apple_card_investigation.pdf
Press Release - March 23, 2021: DFS Issues Findings on the Apple Card and Its Underwriter Goldman Sachs Bank | Department of Financial Services
https://www.dfs.ny.gov/reports_and_publications/press_releases/pr202103231
Apple Cardは2019年の夏にサービス提供がスタートしましたが、同年の11月には「Apple Cardが性差別をしているのではないか?」という説が浮上。この説の根拠となったのは、あるプログラマーによる「自分よりも妻の方がクレジットスコアが高いにもかかわらず、自分の限度設定額は妻の10倍だった」という主張です。Appleの共同設立者の1人であるスティーブ・ウォズニアック氏が同様の事態を経験したと発信ことも、この説が注目を集めた理由です。
Apple独自のクレカ「Apple Card」が性差別を行っているという指摘が多数登場 - GIGAZINE
これに対し、Appleと共同でApple Cardを提供しているゴールドマン・サックスはアルゴリズムについて、「Apple Cardの申請にはそもそも性別の記入欄が存在せず、性別に基づいて差別を行うことはありえません」と断言しました。しかし、性別の記入欄がなかったからといって性差別が起こらないわけではないと、専門家は指摘しました。
この問題に対し2019年から始まったニューヨーク州金融サービス局による調査結果が、2021年3月23日付けで発表され、「女性に対するバイアスがあるという証拠は存在しない」と結論付けられました。
この調査では、ゴールドマン・サックスとAppleから数千ページにも及ぶ書面による回答と記録が提出され、Apple Cardの利用者への聞き取りや、Apple Cardに申し込んだニューヨーク州40万人のデータ分析が行われたとのこと。
そしてデータ分析の中で、同様の信用情報を持つ男性と女性に対して、Apple Cardのアプリケーションが同様の結論を出すことも示されました。Apple Cardが差別を行っていると主張しているユーザーについても分析を行ったところ、アプリケーションが示した結論は説明可能であり、合法で、銀行のポリシーとも一致するという証拠が示されたとのこと。金融サービス局は、カスタマーサービスの欠陥と透明性の欠如が消費者の不信感を募らせる結果になったとも述べています。
「公正な貸付を定めた法制度への違反があったという証拠は見つかりませんでしたが、この調査は、同一信用機会法(ECOA)が制定されてから50年近く経過してもクレジットにアクセスする差別が存在することを、私たちに思い出させるものでした」と調査を代表するリンダ・レースウェル氏は述べています。ECOAは、1975年に制定された、消費者金融における男女差別・人種差別禁止を目的とする法律です。
またレースウェル氏は「この報告書は、クレジットへのアクセスを改善するために、現代の慣習や法律、貸し手に対する差別規制に近代化と強化を施すべきという点についても触れています」と述べた上で、Apple Cardがクレジットに関して適切にユーザーを判断していないと感じる人に対して、「配偶者の信用情報に依存していたり、配偶者にクレジットカードの使用を許可されているユーザーは、配偶者と同じ信用情報を持っていると誤解しているかもしれません」と呼びかけました。
「平等なクレジットへのアクセスについては幅広い議論を必要としており、これはその一部です」とレースウェル氏は述べています。
・関連記事
Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止 - GIGAZINE
「モザイク画像の解像度を64倍にする研究」が人種差別の議論に発展、非難を集めた研究者はアカウントを停止 - GIGAZINE
AIは人間の言葉から女性差別や人種差別を学び取る - GIGAZINE
「差別をAIに植え付ける」としてMIT研究者らが大規模なデータセットをネットから完全削除 - GIGAZINE
人工知能に偏見を抱かせないようにするための方法とは? - GIGAZINE
・関連コンテンツ