Goldman Sachs Accusé de Biais de Genre en Raison de l'Algorithme de la Carte Apple
La Carte Apple n’est disponible que depuis quelques mois, mais elle est déjà à la base d’une enquête réglementaire. Cependant, celle-ci ne semble pas pouvoir être imputée uniquement à l’entreprise technologique.
Des problèmes de biais de genre concernant les approbations de lignes de crédit ont été soulevés. La Carte Apple est accusée de fixer des limites de crédit différentes pour les hommes et les femmes, Goldman Sachs étant également pointé du doigt.
Biais de Genre de la Carte Apple
David Heinemeir Hansson, un entrepreneur danois ainsi que développeur de logiciels, a été le premier à signaler ce problème. Il a tweeté que sa femme Jamie s’était vu refuser une augmentation de ligne de crédit sur la Carte Apple, alors qu’elle a un score de crédit plus élevé que lui.
“Ma femme et moi faisons des déclarations de revenus conjointes, vivons dans un État de propriété communautaire et sommes mariés depuis longtemps. Pourtant, l’algorithme boîte noire d’Apple pense que je mérite 20 fois la limite de crédit qu’elle a,” a-t-il écrit.
Le couple a fini par déposer une plainte interne formelle après avoir soulevé le problème auprès du service client d’Apple. Bien qu’on leur ait assuré à plusieurs reprises qu’il ne s’agissait pas d’un cas de discrimination, la limite de crédit de Jamie a finalement été augmentée pour être la même que celle de son mari, mais pour lui, cela ne réglait pas le problème correctement.
“Ce n’est pas seulement une question d’examiner un algorithme,” a écrit la surintendante du Département des Services Financiers de l’État de New York, Linda Lacewell. “DFS souhaite travailler avec la communauté technologique pour s’assurer que les consommateurs à l’échelle nationale peuvent avoir confiance que les algorithmes qui impactent de plus en plus leur capacité à accéder aux services financiers ne discriminent pas et traitent plutôt tous les individus de manière égale et équitable.”
Tout comme il a été découvert que la reconnaissance faciale avait un biais, l’algorithme de la Carte Apple en a également un. Dans les deux situations, ce sont des ordinateurs qui commettent le biais ultime, mais ces algorithmes sont programmés par des personnes, donc la question est toujours de savoir si les ordinateurs et les algorithmes transmettent finalement les biais des programmeurs.
S’exprimant sur la question de juger les femmes et les hommes séparément, Aaron Klein, chercheur à la Brookings Institution, a expliqué : “Les femmes ont tendance à être des risques de crédit. Bien qu’il soit illégal de discriminer, les données indiquent qu’en contrôlant le revenu et d’autres éléments, les femmes sont de meilleurs risques de crédit. Donc, donner de meilleures conditions de crédit aux hommes est à la fois illégal et semble être incohérent avec l’expérience internationale.”
La réponse du public à ce problème a contraint Goldman Sachs à émettre une réponse. Ils ont souligné que les évaluations de crédit sont effectuées en fonction du revenu individuel et de la solvabilité, ce qui pourrait conduire à des “décisions de crédit significativement différentes” pour les membres de la famille.
Le porte-parole de Goldman Sachs, Andrew Williams, a souligné que “dans tous les cas, nous n’avons pas et ne prendrons pas de décisions basées sur des facteurs comme le genre.”
Part de la Responsabilité
Après qu’un ancien employé d’Apple ait tweeté qu’il était décevant que cela se produise, le co-fondateur d’Apple, Steve Wozniak, a répondu que “la même chose nous est arrivée (10X) malgré l’absence d’actifs ou de comptes séparés. Certains disent que la responsabilité incombe à Goldman Sachs, mais étant donné la manière dont Apple est impliqué, ils devraient partager la responsabilité.”
Pensez-vous qu’Apple est également responsable que Goldman Sachs pour ses approbations de crédit inégales de la Carte Apple ? Avez-vous la Carte Apple et remarqué le biais de genre ? Dites-nous vos expériences dans les commentaires ci-dessous.
Crédit d’image : Apple.com et domaine public
