Goldman Sachs Accusato di Pregiudizio di Genere a Causa dell'Algoritmo della Apple Card

La Apple Card è disponibile solo da pochi mesi, eppure è già al centro di un’indagine regolamentare. Tuttavia, questa non sembra poter essere attribuita solo all’azienda tecnologica.

Ci sono questioni sollevate riguardo al pregiudizio di genere per le approvazioni delle linee di credito. La Apple Card è accusata di impostare limiti di credito diversi per uomini e donne, con la colpa che ricade anche sul suo partner Goldman Sachs.

Pregiudizio di Genere della Apple Card

David Heinemeir Hansson, un imprenditore danese e sviluppatore software, è stato il primo a segnalare questo problema. Ha twittato che sua moglie Jamie è stata negata un aumento della linea di credito sulla Apple Card, nonostante avesse un punteggio di credito più alto del suo.

“Mia moglie e io presentiamo dichiarazioni fiscali congiunte, viviamo in uno stato di proprietà comunitaria e siamo sposati da molto tempo. Eppure, l’algoritmo a scatola nera di Apple pensa che io meriti 20 volte il limite di credito che ha lei,” ha scritto.

La coppia ha finito per presentare un reclamo interno formale dopo aver sollevato la questione con il servizio clienti di Apple. Anche se sono stati assicurati ripetutamente che non si trattava di un caso di discriminazione, il limite di credito di Jamie è stato infine aumentato per essere lo stesso di quello di suo marito, ma per lui questo non ha affrontato adeguatamente il problema.

“Non si tratta solo di esaminare un algoritmo,” ha scritto la sovrintendente del Dipartimento dei Servizi Finanziari dello Stato di New York, Linda Lacewell. “DFS vuole collaborare con la comunità tecnologica per garantire che i consumatori a livello nazionale possano avere fiducia che gli algoritmi che influenzano sempre di più la loro capacità di accedere ai servizi finanziari non discriminano e trattano invece tutti gli individui in modo equo e giusto.”

Proprio come è stato scoperto che il riconoscimento facciale ha un pregiudizio, così fa anche l’algoritmo della Apple Card. In entrambe le situazioni, sono i computer a commettere il pregiudizio finale, eppure quegli algoritmi sono programmati da persone, quindi la domanda è sempre se i computer e gli algoritmi stiano passando i pregiudizi dei programmatori.

Parlando della questione di giudicare donne e uomini separatamente, Aaron Klein, un ricercatore della Brookings Institution, ha spiegato: “Le donne tendono a essere rischi di credito. Anche se è illegale discriminare, i dati indicano che controllando per reddito e altre cose, le donne sono rischi di credito migliori. Quindi dare agli uomini condizioni di credito migliori è sia illegale che sembra essere incoerente con l’esperienza internazionale.”

La risposta pubblica a questa questione ha costretto Goldman Sachs a emettere una risposta. Hanno sottolineato che le valutazioni di credito vengono effettuate in base al reddito individuale e alla solvibilità, e questo potrebbe portare a decisioni di credito “significativamente diverse” tra i membri della famiglia.

Il portavoce di Goldman Sachs, Andrew Williams, ha sottolineato che “in tutti i casi, non abbiamo e non faremo decisioni basate su fattori come il genere.”

Condivisione della Colpa

Dopo che un ex dipendente di Apple ha twittato che era deluso che ciò stesse accadendo, il cofondatore di Apple, Steve Wozniak, ha risposto che “la stessa cosa è successa a noi (10X) nonostante non avessimo beni o conti separati. Alcuni dicono che la colpa è di Goldman Sachs, ma il modo in cui Apple è coinvolta, dovrebbero condividere la responsabilità.”

Pensi che Apple sia altrettanto colpevole quanto Goldman Sachs per le sue approvazioni di credito disuguali della Apple Card? Hai la Apple Card e hai notato il pregiudizio di genere? Raccontaci le tue esperienze nei commenti qui sotto.

Crediti Immagine: Apple.com e Dominio Pubblico