Microsoft trabaja en la corrección de su software de reconocimiento facial con sesgo racial
Esto es algo que muchas personas nunca pensarían, a menos que seas una persona de color. El software de reconocimiento facial, o al menos el software de Microsoft, fue programado principalmente con rostros masculinos caucásicos. Eso significa que tiene más dificultades para reconocer rostros más oscuros, particularmente femeninos. Pero Microsoft está anunciando que han mejorado eso.
El lado racista del software de reconocimiento facial
A principios de este año, la API de Face de Microsoft, basada en Azure, recibió críticas en un documento de investigación. Estaban analizando la tasa de error de los intentos de identificar el género de personas de color y encontraron que era tan alta como el 20.8 por ciento, especialmente al intentar identificar a mujeres con tonos de piel más oscuros. Sin embargo, con “rostros masculinos más claros”, la tasa de error fue del cero por ciento.
Esto se debe a que la tecnología de inteligencia artificial es precisamente eso: artificial. Necesita ser programada por personas, lo que significa que los resultados dependerán de qué tan bien se programó la tecnología y de los datos que se utilizaron para hacerlo.
Cuando Microsoft estaba desarrollando su software, no tenía suficientes imágenes de personas con tonos de piel más oscuros, y esto resultó en una mayor tasa de error para las personas de color, especialmente para las mujeres.
El racismo es un tema importante a considerar. Microsoft ciertamente no tenía la intención de ser racista, pero al permitir que el software se programara principalmente con hombres blancos, la pregunta es si los programadores estaban mostrando involuntariamente su propio sesgo racial.
La solución
Independientemente de por qué Microsoft terminó con un software que mostraba el sesgo de sus creadores/programadores, necesitaba corregirlo. Después de corregirlo, la empresa dijo que pudo reducir la tasa de error para personas de piel más oscura hasta veinte veces. Para las mujeres, independientemente del tono de piel, las tasas de error se redujeron en nueve veces.
Para obtener esta tasa de error mejorada, el equipo de la API de Face inició tres cambios. De obvia necesidad de ser revisados y ampliados estaban el entrenamiento y los datos para sus puntos de referencia. Se centraron específicamente en el tono de piel, género y edad.
“Tuvimos conversaciones sobre diferentes formas de detectar sesgos y operacionalizar la equidad”, dijo Hannah Wallach, investigadora senior del laboratorio de investigación de Microsoft en Nueva York y también experta en equidad, responsabilidad y transparencia en sistemas de IA. “Hablamos sobre los esfuerzos de recolección de datos para diversificar los datos de entrenamiento. Hablamos sobre diferentes estrategias para probar internamente nuestros sistemas antes de implementarlos.”
Cornelia Carapcea, gerente de programa principal en el equipo de Servicios Cognitivos, dijo que eventualmente el grupo de Wallach dio “una comprensión más matizada del sesgo” y ayudó a su equipo a desarrollar un conjunto de datos “que nos mantuvo responsables a través de los tonos de piel.”
Avanzando
“Si estamos entrenando sistemas de aprendizaje automático para imitar decisiones tomadas en una sociedad sesgada, utilizando datos generados por esa sociedad, entonces esos sistemas necesariamente reproducirán sus sesgos”, dijo Wallach.
Esto tiene todo el sentido. Nos guste o no, el racismo existe en nuestra sociedad. Puede que no nos guste pensar que existe, pero a veces simplemente no podemos negarlo. Esa misma sociedad también crea la tecnología que usamos, y eso significa que también puede tener sesgo racial. Si queremos que nuestra tecnología funcione mejor, entonces necesitamos mejorar nosotros mismos.
¿Qué opinas sobre Microsoft creando un software que se basaba en los sesgos de sus desarrolladores? ¿Cambia tu opinión sobre la empresa? ¿Cómo crees que se refleja en la sociedad? Agrega tus pensamientos en nuestra sección de comentarios a continuación.
