Goldman Sachs Acusado de Viés de Gênero Devido ao Algoritmo do Apple Card

O Apple Card está disponível há apenas alguns meses, mas já está na base de uma investigação regulatória. No entanto, esta não parece ser uma culpa apenas da empresa de tecnologia.

Há questões levantadas sobre viés de gênero nas aprovações de linha de crédito. O Apple Card é acusado de estabelecer limites de crédito diferentes para homens e mulheres, com a culpa sendo atribuída ao seu parceiro Goldman Sachs também.

Viés de Gênero do Apple Card

David Heinemeir Hansson, um empreendedor dinamarquês e desenvolvedor de software, foi o primeiro a relatar esse problema. Ele tuitou que sua esposa Jamie teve um aumento de linha de crédito negado no Apple Card, embora ela tenha uma pontuação de crédito mais alta do que ele.

“Minha esposa e eu fazemos declarações de impostos conjuntas, vivemos em um estado de propriedade comunitária e estamos casados há muito tempo. No entanto, o algoritmo caixa-preta da Apple acha que eu mereço 20 vezes o limite de crédito que ela merece,” escreveu.

O casal acabou apresentando uma reclamação formal interna após levantar a questão com o serviço de atendimento ao cliente da Apple. Embora tenham sido assegurados repetidamente de que não se tratava de discriminação, o limite de crédito de Jamie foi eventualmente elevado para ser o mesmo que o de seu marido, mas para ele isso não resolveu o problema adequadamente.

“Isso não se trata apenas de analisar um algoritmo,” escreveu a superintendente do Departamento de Serviços Financeiros do Estado de Nova York, Linda Lacewell. “O DFS quer trabalhar com a comunidade tecnológica para garantir que os consumidores em todo o país possam ter confiança de que os algoritmos que impactam cada vez mais sua capacidade de acessar serviços financeiros não discriminam e, em vez disso, tratam todos os indivíduos de forma igual e justa.”

Assim como foi encontrado viés no reconhecimento facial, o algoritmo do Apple Card também apresenta viés. Em ambas as situações, são os computadores que cometem o viés final, mas esses algoritmos são programados por pessoas, então a questão sempre é se os computadores e algoritmos estão, em última análise, transmitindo os preconceitos dos programadores.

Falando sobre a questão de julgar mulheres e homens separadamente, Aaron Klein, um pesquisador da Brookings Institution, explicou: “As mulheres tendem a ser riscos de crédito. Embora seja ilegal discriminar, os dados indicam que, controlando a renda e outras coisas, as mulheres são melhores riscos de crédito. Portanto, dar melhores condições de crédito aos homens é tanto ilegal quanto parece inconsistente com a experiência internacional.”

A resposta pública a essa questão forçou o Goldman Sachs a emitir uma resposta. Eles enfatizaram que as avaliações de crédito são feitas com base na renda e na solvência individual, e isso pode levar a membros da família a terem “decisões de crédito significativamente diferentes.”

O porta-voz do Goldman Sachs, Andrew Williams, enfatizou que “em todos os casos, não tomamos e não tomaremos decisões com base em fatores como gênero.”

Parte da Culpa

Após um ex-funcionário da Apple tuitar que estava desapontado com o que estava acontecendo, o cofundador da Apple, Steve Wozniak, respondeu que “a mesma coisa aconteceu conosco (10X) apesar de não termos nenhum ativo ou conta separada. Alguns dizem que a culpa é do Goldman Sachs, mas da forma como a Apple está ligada, eles deveriam compartilhar a responsabilidade.”

Você acha que a Apple é igualmente culpada que o Goldman Sachs por suas aprovações de crédito desiguais do Apple Card? Você tem o Apple Card e notou o viés de gênero? Conte-nos suas experiências nos comentários abaixo.

Crédito da Imagem: Apple.com e Domínio Público