Goldman Sachs wegen Geschlechterdiskriminierung durch Apple Card Algorithmus angeklagt
Die Apple Card ist erst seit wenigen Monaten verfügbar, doch sie steht bereits im Mittelpunkt einer regulatorischen Untersuchung. Allerdings scheint es, dass dies nicht allein dem Technologieunternehmen angelastet werden kann.
Es gibt Bedenken hinsichtlich der Geschlechterdiskriminierung bei der Genehmigung von Kreditlinien. Der Apple Card wird vorgeworfen, unterschiedliche Kreditlimits für Männer und Frauen festzulegen, wobei auch der Partner Goldman Sachs dafür verantwortlich gemacht wird.
Geschlechterdiskriminierung bei der Apple Card
David Heinemeir Hansson, ein dänischer Unternehmer und Softwareentwickler, war der erste, der dieses Problem berichtete. Er twitterte, dass seiner Frau Jamie eine Erhöhung der Kreditlinie auf der Apple Card verweigert wurde, obwohl sie eine höhere Kreditwürdigkeit als er hat.
“Meine Frau und ich reichen gemeinsame Steuererklärungen ein, leben in einem Gemeinschaftsbesitzstaat und sind seit langem verheiratet. Dennoch denkt der schwarze Kastenalgorithmus von Apple, dass ich 20-mal das Kreditlimit verdiene, das sie hat,” schrieb er.
Das Paar reichte schließlich eine formelle interne Beschwerde ein, nachdem sie das Problem beim Kundenservice von Apple angesprochen hatten. Obwohl ihnen wiederholt versichert wurde, dass es sich nicht um einen Fall von Diskriminierung handele, wurde Jamies Kreditlimit schließlich auf dasselbe Niveau wie das ihres Mannes angehoben, was für ihn das Problem jedoch nicht richtig löste.
“Es geht hier nicht nur darum, einen Algorithmus zu betrachten,” schrieb die Superintendentin des New Yorker Ministeriums für Finanzdienstleistungen, Linda Lacewell. “DFS möchte mit der Technologie-Community zusammenarbeiten, um sicherzustellen, dass Verbraucher landesweit Vertrauen haben können, dass die Algorithmen, die zunehmend ihre Fähigkeit zur Nutzung finanzieller Dienstleistungen beeinflussen, nicht diskriminieren und stattdessen alle Personen gleich und fair behandeln.”
So wie festgestellt wurde, dass die Gesichtserkennung eine Voreingenommenheit aufweist, so zeigt auch der Algorithmus der Apple Card eine Voreingenommenheit. In beiden Fällen sind es Computer, die die letztendliche Voreingenommenheit begehen, doch diese Algorithmen werden von Menschen programmiert, sodass die Frage immer ist, ob die Computer und Algorithmen letztendlich die Vorurteile der Programmierer weitergeben.
In Bezug auf die Beurteilung von Frauen und Männern separat erklärte Aaron Klein, ein Fellow der Brookings Institution: “Frauen gelten als Kreditrisiken. Während es illegal ist zu diskriminieren, zeigen die Daten, dass Frauen, wenn man Einkommen und andere Faktoren berücksichtigt, bessere Kreditrisiken sind. Daher ist es sowohl illegal als auch scheint es inkonsistent mit internationalen Erfahrungen zu sein, Männern bessere Kreditkonditionen zu geben.”
Die öffentliche Reaktion auf dieses Problem hat Goldman Sachs gezwungen, eine Antwort abzugeben. Sie betonten, dass Kreditbewertungen auf individuellem Einkommen und Kreditwürdigkeit basieren, was dazu führen könnte, dass Familienmitglieder “signifikant unterschiedliche Kreditentscheidungen” haben.
Der Sprecher von Goldman Sachs, Andrew Williams, betonte, dass “wir in allen Fällen keine Entscheidungen auf der Grundlage von Faktoren wie Geschlecht getroffen haben und dies auch nicht tun werden.”
Anteil an der Schuld
Nachdem ein ehemaliger Apple-Mitarbeiter getwittert hatte, dass es ihn enttäusche, dass dies passiert, antwortete Apple-Mitbegründer Steve Wozniak, dass “das Gleiche uns (10X) passiert ist, obwohl wir keine separaten Vermögenswerte oder Konten hatten. Einige sagen, die Schuld liege bei Goldman Sachs, aber da Apple beteiligt ist, sollten sie die Verantwortung teilen.”
Halten Sie Apple für ebenso schuldhaft wie Goldman Sachs bei den ungleichen Kreditgenehmigungen der Apple Card? Haben Sie die Apple Card und die Geschlechterdiskriminierung bemerkt? Teilen Sie uns Ihre Erfahrungen in den Kommentaren unten mit.
Bildnachweis: Apple.com und Gemeinfrei
