A Microsoft Trabalha na Correção de Seu Software de Reconhecimento Facial com Viés Racial

Isso é algo que muitas pessoas nunca pensariam – a menos que você seja uma pessoa de cor. O software de reconhecimento facial, ou pelo menos o software da Microsoft, foi programado principalmente com rostos masculinos caucasianos. Isso significa que ele tem mais dificuldade em reconhecer rostos mais escuros, particularmente femininos. Mas a Microsoft está anunciando que melhorou isso.

O Lado Racista do Software de Reconhecimento Facial

No início deste ano, a Face API da Microsoft, baseada no Azure, recebeu críticas em um artigo de pesquisa. Eles estavam analisando a taxa de erro nas tentativas de identificar o gênero de pessoas de cor e descobriram que era tão alta quanto 20,8 por cento, especialmente ao tentar identificar mulheres com tons de pele mais escuros. No entanto, com “rostos masculinos mais claros”, a taxa de erro era de zero por cento.

Isso ocorre porque a tecnologia de inteligência artificial é apenas isso – artificial. Ela precisa ser programada por pessoas, o que significa que os resultados vão depender de quão bem a tecnologia foi programada e dos dados que foram usados para isso.

Quando a Microsoft estava desenvolvendo seu software, não tinha imagens suficientes de pessoas com tons de pele mais escuros, e isso resultou na maior taxa de erro para pessoas de cor, especialmente para mulheres.

O racismo é um tópico importante a ser considerado. A Microsoft certamente não se propôs a ser racista, mas ao permitir que o software fosse programado principalmente com homens brancos, a questão é se os programadores estavam, involuntariamente, mostrando seu próprio viés racial.

A Correção

Independentemente do motivo pelo qual a Microsoft acabou com um software que mostrava o viés de seus criadores/programadores, era necessário corrigir isso. Após a correção, a empresa disse que conseguiu reduzir a taxa de erro para pessoas de pele mais escura em até vinte vezes. Para mulheres, independentemente do tom de pele, as taxas de erro foram reduzidas em nove vezes.

Para obter essa taxa de erro melhorada, a equipe da Face API iniciou três mudanças. De necessidade óbvia de revisão e expansão estavam o treinamento e os dados para seus benchmarks. Eles se concentraram especificamente em tom de pele, gênero e idade.

“Tivemos conversas sobre diferentes maneiras de detectar viés e operacionalizar a justiça”, disse Hannah Wallach, uma pesquisadora sênior do laboratório de pesquisa da Microsoft em Nova York e também uma especialista em justiça, responsabilidade e transparência em sistemas de IA. “Falamos sobre esforços de coleta de dados para diversificar os dados de treinamento. Falamos sobre diferentes estratégias para testar internamente nossos sistemas antes de implantá-los.”

Cornelia Carapcea, uma gerente de programa principal na equipe de Serviços Cognitivos, disse que eventualmente o grupo de Wallach deu “uma compreensão mais nuançada do viés” e ajudou sua equipe a desenvolver um conjunto de dados “que nos responsabilizava em relação aos tons de pele.”

Seguindo em Frente

“Se estamos treinando sistemas de aprendizado de máquina para imitar decisões tomadas em uma sociedade tendenciosa, usando dados gerados por essa sociedade, então esses sistemas necessariamente reproduzirão seus viéses”, disse Wallach.

Isso faz total sentido. Quer gostemos ou não, o racismo existe em nossa sociedade. Podemos não gostar de pensar que isso acontece, mas às vezes simplesmente não podemos negar. Essa mesma sociedade também cria a tecnologia que usamos, e isso significa que ela também pode ser racialmente tendenciosa. Se quisermos que nossa tecnologia faça melhor, então precisamos fazer melhor nós mesmos.

O que você acha sobre a Microsoft criar um software que foi baseado nos viéses de seus desenvolvedores? Isso muda sua opinião sobre a empresa? Como você acha que isso reflete na sociedade? Adicione seus pensamentos na seção de comentários abaixo.