마이크로소프트, 인종 편향 얼굴 인식 소프트웨어 수정 작업 진행 중
이것은 많은 사람들이 결코 생각하지 않을 일입니다 - 색깔이 있는 사람이라면 말이죠. 얼굴 인식 소프트웨어, 또는 적어도 마이크로소프트의 소프트웨어는 주로 백인 남성의 얼굴로 프로그래밍되었습니다. 이는 어두운 피부색의 얼굴, 특히 여성의 얼굴을 인식하는 데 더 어려움을 겪는다는 것을 의미합니다. 그러나 마이크로소프트는 이를 개선했다고 발표했습니다.
얼굴 인식 소프트웨어의 인종 차별적 측면
올해 초 마이크로소프트의 Azure 기반 Face API는 연구 논문에서 비판을 받았습니다. 그들은 색깔이 있는 사람들의 성별을 식별하려는 시도의 오류율을 조사했으며, 특히 어두운 피부색을 가진 여성의 경우 오류율이 20.8%에 달하는 것으로 나타났습니다. 그러나 “더 밝은 남성 얼굴”의 경우 오류율은 0%였습니다.
이는 인공지능 기술이 본질적으로 인공적이기 때문입니다. 이는 사람들이 프로그래밍해야 하며, 결과는 기술이 얼마나 잘 프로그래밍되었는지와 사용된 데이터에 따라 달라집니다.
마이크로소프트가 소프트웨어를 개발할 때, 어두운 피부색을 가진 사람들의 이미지가 충분하지 않았습니다. 이로 인해 색깔이 있는 사람들, 특히 여성의 오류율이 높아졌습니다.
인종 차별은 중요한 주제입니다. 마이크로소프트는 분명히 인종 차별을 하려는 의도가 없었지만, 소프트웨어가 주로 백인 남성으로 프로그래밍되도록 허용함으로써 프로그래머들이 의도치 않게 자신의 인종적 편견을 드러냈는지에 대한 질문이 제기됩니다.
수정
마이크로소프트가 왜 편향된 소프트웨어를 만들게 되었든 간에, 이를 수정할 필요가 있었습니다. 수정 후 회사는 어두운 피부색을 가진 사람들의 오류율을 최대 20배 줄일 수 있었다고 밝혔습니다. 여성의 경우 피부색에 관계없이 오류율이 9배 감소했습니다.
이 개선된 오류율을 얻기 위해 Face API 팀은 세 가지 변경을 시작했습니다. 명백히 수정 및 확장이 필요한 것은 그들의 벤치마크를 위한 교육 및 데이터였습니다. 그들은 피부색, 성별 및 연령에 특히 집중했습니다.
“우리는 편향을 감지하고 공정성을 운영화하는 다양한 방법에 대해 대화를 나눴습니다.”라고 마이크로소프트 뉴욕 연구소의 수석 연구원인 한나 월락이 말했습니다. “우리는 교육 데이터를 다양화하기 위한 데이터 수집 노력에 대해 이야기했습니다. 우리는 시스템을 배포하기 전에 내부적으로 테스트하기 위한 다양한 전략에 대해 이야기했습니다.”
인지 서비스 팀의 수석 프로그램 관리자 코르넬리아 카라페차는 결국 월락의 그룹이 “편향에 대한 더 미세한 이해”를 제공하고 그녀의 팀이 “피부색 전반에 걸쳐 책임을 질 수 있는 데이터 세트를 개발하는 데 도움을 주었다”고 말했습니다.
나아가기
“우리가 편향된 사회에서 내려진 결정을 모방하도록 기계 학습 시스템을 교육하고, 그 사회에서 생성된 데이터를 사용한다면, 그 시스템은 반드시 그 편향을 재생산할 것입니다.”라고 월락이 말했습니다.
이는 완전히 이해가 됩니다. 우리가 좋아하든 싫어하든, 인종 차별은 우리 사회에 존재합니다. 우리는 그것이 존재하지 않기를 바랄 수 있지만, 때때로 우리는 그것을 부인할 수 없습니다. 같은 사회가 우리가 사용하는 기술을 만들고 있으며, 이는 또한 인종적으로 편향될 수 있음을 의미합니다. 우리의 기술이 더 나아지기를 원한다면, 우리는 스스로 더 나아져야 합니다.
마이크로소프트가 개발자의 편향에 기반한 소프트웨어를 만든 것에 대해 어떻게 생각하십니까? 이것이 회사에 대한 당신의 의견을 바꾸나요? 이것이 사회에 어떤 영향을 미친다고 생각하십니까? 아래 댓글 섹션에 당신의 생각을 추가해 주세요.
