골드만 삭스, 애플 카드 알고리즘으로 성차별 혐의 받아

애플 카드는 몇 달밖에 출시되지 않았지만, 이미 규제 조사의 근거가 되고 있습니다. 그러나 이 문제는 기술 회사만의 잘못으로 돌릴 수 없는 것 같습니다.

신용 한도 승인에 대한 성차별 문제가 제기되고 있습니다. 애플 카드는 남성과 여성에게 서로 다른 신용 한도를 설정한 혐의를 받고 있으며, 그 파트너인 골드만 삭스에게도 비난이 쏟아지고 있습니다.

애플 카드 성차별

덴마크의 기업가이자 소프트웨어 개발자인 데이비드 하이네마이어 한손이 이 문제를 처음으로 보고했습니다. 그는 자신의 아내 제이미가 애플 카드에서 신용 한도 증가를 거부당했다고 트윗했지만, 그녀는 그의 신용 점수보다 높습니다.

“저와 아내는 공동 세금 신고를 하고, 공동 재산 주(state)에 살며, 오랫동안 결혼해 왔습니다. 그럼에도 불구하고 애플의 블랙 박스 알고리즘은 제가 그녀보다 20배 더 많은 신용 한도를 받을 자격이 있다고 생각합니다,”라고 그는 썼습니다.

이 부부는 애플 고객 서비스에 문제를 제기한 후 공식 내부 불만을 제기하게 되었습니다. 그들은 반복적으로 차별이 아니라는 보장을 받았지만, 결국 제이미의 신용 한도는 남편과 동일하게 인상되었지만, 그에게는 문제가 제대로 해결되지 않았습니다.

“이 문제는 단순히 하나의 알고리즘을 조사하는 것이 아닙니다,”라고 뉴욕주 금융 서비스국의 수장인 린다 레이스웰이 썼습니다. “DFS는 기술 커뮤니티와 협력하여 소비자들이 재정 서비스에 접근하는 능력에 점점 더 영향을 미치는 알고리즘이 차별하지 않고 모든 개인을 동등하고 공정하게 대우할 수 있도록 확신할 수 있도록 하고자 합니다.”

얼굴 인식에서 편향이 발견된 것처럼, 애플 카드 알고리즘에서도 편향이 존재합니다. 두 경우 모두 궁극적으로 편향을 저지르는 것은 컴퓨터이지만, 이러한 알고리즘은 사람들이 프로그래밍하므로, 질문은 항상 컴퓨터와 알고리즘이 궁극적으로 프로그래머의 편향을 전달하고 있는지 여부입니다.

여성과 남성을 별도로 판단하는 문제에 대해 브루킹스 연구소의 연구원인 아론 클라인은 “여성은 신용 위험이 될 가능성이 높습니다. 차별하는 것은 불법이지만, 데이터를 보면 소득 및 기타 요소를 고려할 때 여성이 더 나은 신용 위험으로 나타납니다. 따라서 남성에게 더 나은 신용 조건을 제공하는 것은 불법일 뿐만 아니라 국제 경험과도 일치하지 않는 것처럼 보입니다,”라고 설명했습니다.

이 문제에 대한 대중의 반응은 골드만 삭스에게 응답을 강요했습니다. 그들은 신용 평가가 개인의 소득과 신용도를 기반으로 이루어지며, 이로 인해 가족 구성원 간에 “상당히 다른 신용 결정”이 내려질 수 있다고 강조했습니다.

골드만 삭스의 대변인인 앤드류 윌리엄스는 “모든 경우에 우리는 성별과 같은 요소를 기반으로 결정을 내리지 않았으며, 앞으로도 내리지 않을 것입니다,”라고 강조했습니다.

책임의 분담

전 애플 직원이 이러한 일이 일어나고 있다는 것에 실망스럽다고 트윗한 후, 애플 공동 창립자인 스티브 워즈니악은 “우리에게도 같은 일이 발생했습니다(10배) 별도의 자산이나 계좌가 없었음에도 불구하고. 어떤 사람들은 골드만 삭스에 책임이 있다고 말하지만, 애플이 연관되어 있는 만큼 그들도 책임을 공유해야 합니다,”라고 답했습니다.

애플 카드의 불평등한 신용 승인에 대해 애플이 골드만 삭스와 동일한 잘못이 있다고 생각하십니까? 애플 카드를 가지고 계신가요? 성차별을 느끼셨나요? 아래 댓글로 여러분의 경험을 알려주세요.

이미지 출처: Apple.com 및 퍼블릭 도메인