Goldman Sachs Acusado de Sesgo de Género Debido al Algoritmo de Apple Card
La Apple Card ha estado disponible solo por unos meses, sin embargo, ya está en la base de una investigación regulatoria. Sin embargo, esta no parece ser culpa únicamente de la empresa tecnológica.
Se han planteado problemas relacionados con el sesgo de género en las aprobaciones de líneas de crédito. Se acusa a la Apple Card de establecer diferentes límites de crédito para hombres y mujeres, con la culpa también recayendo en su socio Goldman Sachs.
Sesgo de Género de la Apple Card
David Heinemeir Hansson, un empresario danés y desarrollador de software, fue el primero en informar sobre este problema. Tuiteó que a su esposa Jamie se le negó un aumento de línea de crédito en la Apple Card, a pesar de que ella tiene un puntaje de crédito más alto que él.
“Mi esposa y yo presentamos declaraciones de impuestos conjuntas, vivimos en un estado de propiedad comunitaria y hemos estado casados durante mucho tiempo. Sin embargo, el algoritmo de caja negra de Apple piensa que yo merezco 20 veces el límite de crédito que ella”, escribió.
La pareja terminó presentando una queja formal interna después de plantear el problema con el servicio al cliente de Apple. Aunque se les aseguró repetidamente que no era un caso de discriminación, el límite de crédito de Jamie finalmente se elevó para ser el mismo que el de su esposo, pero para él eso no abordó el problema adecuadamente.
“Esto no se trata solo de examinar un algoritmo”, escribió la superintendente del Departamento de Servicios Financieros del Estado de Nueva York, Linda Lacewell. “DFS quiere trabajar con la comunidad tecnológica para asegurarse de que los consumidores en todo el país puedan tener confianza en que los algoritmos que impactan cada vez más su capacidad para acceder a servicios financieros no discriminan y, en cambio, tratan a todas las personas de manera igual y justa.”
Así como se encontró que el reconocimiento facial tenía un sesgo, también lo tiene el algoritmo de la Apple Card. En ambas situaciones, son las computadoras las que cometen el sesgo final, sin embargo, esos algoritmos son programados por personas, por lo que la pregunta siempre es si las computadoras y los algoritmos están transmitiendo en última instancia los sesgos de los programadores.
Hablando sobre el tema de juzgar a mujeres y hombres por separado, Aaron Klein, un becario de la Institución Brookings, explicó: “Las mujeres tienden a ser riesgos de crédito. Si bien es ilegal discriminar, los datos indican que controlando por ingresos y otras cosas, las mujeres son mejores riesgos de crédito. Por lo tanto, dar mejores condiciones de crédito a los hombres es tanto ilegal como parece inconsistente con la experiencia internacional.”
La respuesta pública a este problema ha obligado a Goldman Sachs a emitir una respuesta. Enfatizaron que las evaluaciones de crédito se realizan en función de los ingresos individuales y la solvencia crediticia, y esto podría llevar a que los miembros de la familia tengan “decisiones de crédito significativamente diferentes.”
El portavoz de Goldman Sachs, Andrew Williams, enfatizó que “en todos los casos, no hemos tomado ni tomaremos decisiones basadas en factores como el género.”
Parte de la Culpa
Después de que un ex empleado de Apple tuiteara que le decepcionaba que esto estuviera sucediendo, el cofundador de Apple, Steve Wozniak, respondió que “lo mismo nos pasó (10X) a pesar de no tener activos o cuentas separadas. Algunos dicen que la culpa es de Goldman Sachs, pero dado el vínculo de Apple, deberían compartir la responsabilidad.”
¿Crees que Apple es igualmente culpable que Goldman Sachs por sus aprobaciones de crédito desiguales de la Apple Card? ¿Tienes la Apple Card y has notado el sesgo de género? Cuéntanos tus experiencias en los comentarios a continuación.
Crédito de la imagen: Apple.com y dominio público
