Goldman Sachs обвиняется в гендерной предвзятости из-за алгоритма Apple Card

Карта Apple доступна всего несколько месяцев, но уже стала предметом регуляторного расследования. Однако, это не кажется тем, что можно обвинить только технологическую компанию.

Существуют проблемы, касающиеся гендерной предвзятости при одобрении кредитных линий. Карта Apple обвиняется в установлении различных кредитных лимитов для мужчин и женщин, при этом вину также возлагают на ее партнера Goldman Sachs.

Гендерная предвзятость Apple Card

Давид Хайнемайер Ханссон, датский предприниматель и разработчик программного обеспечения, первым сообщил об этой проблеме. Он написал в Twitter, что его жена Джейми была отказана в увеличении кредитной линии по карте Apple, хотя у нее более высокий кредитный рейтинг, чем у него.

“Мы с женой подаем совместные налоговые декларации, живем в штате с совместной собственностью и давно женаты. Тем не менее, черный ящик алгоритма Apple считает, что я заслуживаю кредитный лимит в 20 раз больше, чем она,” - написал он.

Пара в конечном итоге подала официальную внутреннюю жалобу после обращения в службу поддержки Apple. Хотя им неоднократно уверяли, что это не случай дискриминации, кредитный лимит Джейми в конечном итоге был повышен до уровня ее мужа, но для него это не решило проблему должным образом.

“Это не просто вопрос изучения одного алгоритма,” - написала суперинтендант Департамента финансовых услуг штата Нью-Йорк Линда Лейсвелл. “DFS хочет работать с технологическим сообществом, чтобы убедиться, что потребители по всей стране могут быть уверены, что алгоритмы, которые все больше влияют на их возможность доступа к финансовым услугам, не дискриминируют и вместо этого относятся ко всем людям одинаково и справедливо.”

Так же, как и в случае с распознаванием лиц, было обнаружено, что алгоритм Apple Card имеет предвзятость. В обеих ситуациях именно компьютеры совершают окончательную предвзятость, но эти алгоритмы программируются людьми, поэтому вопрос всегда заключается в том, передают ли компьютеры и алгоритмы в конечном итоге предвзятости программистов.

Говоря о вопросе оценки женщин и мужчин отдельно, Аарон Кляйн, сотрудник Брукингского института, объяснил: “Женщины, как правило, являются кредитными рисками. Хотя дискриминация незаконна, данные показывают, что с учетом дохода и других факторов женщины являются лучшими кредитными рисками. Поэтому предоставление мужчинам лучших условий кредита является как незаконным, так и, похоже, противоречит международному опыту.”

Общественный ответ на эту проблему заставил Goldman Sachs выпустить ответ. Они подчеркнули, что кредитные оценки проводятся на основе индивидуального дохода и кредитоспособности, и это может привести к тому, что члены семьи будут иметь “значительно разные кредитные решения.”

Пресс-секретарь Goldman Sachs Эндрю Уильямс подчеркнул, что “всегда, в любых случаях, мы не принимали и не будем принимать решения на основе таких факторов, как пол.”

Доля вины

После того, как бывший сотрудник Apple написал в Twitter, что ему разочаровывающе, что это происходит, соучредитель Apple Стив Возняк ответил, что “то же самое произошло с нами (10X), несмотря на отсутствие каких-либо отдельных активов или счетов. Некоторые говорят, что вина лежит на Goldman Sachs, но поскольку Apple связана, они должны разделить ответственность.”

Считаете ли вы, что Apple несет такую же вину, как и Goldman Sachs, за неравные одобрения кредитов по Apple Card? У вас есть карта Apple и вы заметили гендерную предвзятость? Поделитесь своим опытом в комментариях ниже.

Кредит изображения: Apple.com и Общественное достояние