ゴールドマン・サックス、Apple Cardアルゴリズムによる性別バイアスで非難される

Apple Cardは数ヶ月前に登場したばかりですが、すでに規制調査の対象となっています。しかし、この問題はテクノロジー企業だけに責任を負わせることはできないようです。

クレジットラインの承認に関する性別バイアスの問題が提起されています。Apple Cardは、男性と女性に異なるクレジット限度額を設定していると非難されており、その責任はパートナーであるゴールドマン・サックスにも向けられています。

Apple Card 性別バイアス

デンマークの起業家でありソフトウェア開発者であるデビッド・ハイネマイヤー・ハンソンがこの問題を最初に報告しました。彼は、妻のジェイミーがApple Cardのクレジットラインの増額を拒否されたとツイートしましたが、彼女は彼よりも高いクレジットスコアを持っています。

「私の妻と私は共同で税申告を行い、共同財産州に住んでおり、長い間結婚しています。それでも、Appleのブラックボックスアルゴリズムは、私が彼女の20倍のクレジット限度額に値すると考えています」と彼は書きました。

このカップルは、Appleのカスタマーサービスに問題を提起した後、正式な内部苦情を提出しました。彼らは何度も差別のケースではないと保証されましたが、最終的にジェイミーのクレジット限度額は夫と同じに引き上げられましたが、彼にとっては問題が適切に解決されたわけではありませんでした。

「これは単に一つのアルゴリズムを調査することだけではありません」とニューヨーク州金融サービス局のリンダ・レイスウェル局長は書いています。「DFSは、テクノロジーコミュニティと協力して、全国の消費者が金融サービスへのアクセスに影響を与えるアルゴリズムが差別をせず、すべての個人を平等かつ公正に扱うことを確信できるようにしたいと考えています。」

顔認識にバイアスがあることが判明したのと同様に、Apple Cardのアルゴリズムにもバイアスがあります。どちらの状況でも、最終的なバイアスを犯しているのはコンピュータですが、これらのアルゴリズムは人によってプログラムされているため、コンピュータとアルゴリズムがプログラマーのバイアスを引き継いでいるかどうかが常に問題となります。

男女を別々に判断する問題について、ブルッキングス研究所のフェローであるアーロン・クラインは次のように説明しました。「女性はクレジットリスクである傾向があります。差別は違法ですが、データは、収入やその他の要因を考慮すると、女性がより良いクレジットリスクであることを示しています。したがって、男性により良いクレジット条件を与えることは違法であり、国際的な経験とも矛盾しているようです。」

この問題に対する公の反応は、ゴールドマン・サックスに回答を発表させることになりました。彼らは、クレジット評価は個々の収入と信用力に基づいて行われており、これにより家族のメンバーが「大きく異なるクレジット決定」を持つ可能性があることを強調しました。

ゴールドマン・サックスの広報担当者アンドリュー・ウィリアムズは、「すべてのケースにおいて、私たちは性別のような要因に基づいて決定を下していないし、今後も下すことはありません」と強調しました。

責任の分担

元Apple社員がこの問題が進行していることに失望しているとツイートした後、Appleの共同創業者スティーブ・ウォズニアックは「私たちにも同じことが起こった（10倍）にもかかわらず、別々の資産や口座はありませんでした。責任はゴールドマン・サックスにあると言う人もいますが、Appleが関与している以上、彼らも責任を共有すべきです」と返信しました。

Apple Cardの不平等なクレジット承認に関して、Appleもゴールドマン・サックスと同じくらい責任があると思いますか？Apple Cardを持っていて性別バイアスに気づきましたか？下のコメントであなたの経験を教えてください。

画像クレジット: Apple.comおよびパブリックドメイン