Microsoft lavora per correggere il suo software di riconoscimento facciale con pregiudizi razziali

Questo è qualcosa a cui molte persone non penserebbero mai, a meno che non si sia una persona di colore. Il software di riconoscimento facciale, o almeno il software di Microsoft, è stato programmato principalmente con volti maschili caucasici. Ciò significa che ha maggiori difficoltà a riconoscere volti più scuri, in particolare quelli femminili. Ma Microsoft annuncia di aver migliorato questa situazione.

Il lato razzista del software di riconoscimento facciale

All’inizio di quest’anno, l’API Face di Microsoft, basata su Azure, ha ricevuto critiche in un documento di ricerca. Hanno esaminato il tasso di errore nei tentativi di identificare il genere delle persone di colore e hanno scoperto che era fino al 20,8 percento, specialmente quando si cercava di identificare donne con tonalità di pelle più scure. Tuttavia, con “volti maschili più chiari”, il tasso di errore era dello zero percento.

Questo perché la tecnologia dell’intelligenza artificiale è proprio questo: artificiale. Deve essere programmata da persone, il che significa che i risultati dipenderanno da quanto bene è stata programmata la tecnologia e dai dati utilizzati per farlo.

Quando Microsoft stava sviluppando il suo software, non aveva abbastanza immagini di persone con tonalità di pelle più scure, e questo ha portato a un tasso di errore più elevato per le persone di colore, specialmente per le donne.

Il razzismo è un argomento importante da considerare. Microsoft certamente non ha avuto l’intenzione di essere razzista, ma permettendo che il software fosse programmato principalmente con uomini bianchi, la domanda è se i programmatori stessero mostrando involontariamente il proprio pregiudizio razziale.

La soluzione

Indipendentemente dal motivo per cui Microsoft si sia ritrovata con un software che mostrava il pregiudizio dei suoi creatori/programmatore, doveva correggerlo. Dopo averlo corretto, l’azienda ha dichiarato di essere stata in grado di ridurre il tasso di errore per le persone con pelle scura fino a venti volte. Per le donne, indipendentemente dal tono della pelle, i tassi di errore sono stati ridotti di nove volte.

Per ottenere questo tasso di errore migliorato, il team dell’API Face ha avviato tre cambiamenti. Di ovvia necessità di essere rivisti ed espansi erano la formazione e i dati per i loro benchmark. Si sono concentrati specificamente su tono della pelle, genere e età.

“Abbiamo avuto conversazioni su diversi modi per rilevare il pregiudizio e rendere operativa l’equità”, ha detto Hannah Wallach, una ricercatrice senior per il laboratorio di ricerca di Microsoft a New York e anche un’esperta in merito a equità, responsabilità e trasparenza nei sistemi di intelligenza artificiale. “Abbiamo parlato degli sforzi di raccolta dati per diversificare i dati di addestramento. Abbiamo parlato di diverse strategie per testare internamente i nostri sistemi prima di implementarli.”

Cornelia Carapcea, una program manager principale del team Cognitive Services, ha detto che alla fine il gruppo di Wallach ha fornito “una comprensione più sfumata del pregiudizio” e ha aiutato il suo team a sviluppare un dataset “che ci ha reso responsabili attraverso le tonalità della pelle.”

Andando avanti

“Se stiamo addestrando sistemi di apprendimento automatico per imitare decisioni prese in una società con pregiudizi, utilizzando dati generati da quella società, allora quei sistemi riprodurranno necessariamente i suoi pregiudizi”, ha detto Wallach.

Questo ha perfettamente senso. Che ci piaccia o no, il razzismo esiste nella nostra società. Potremmo non voler pensare che esista, ma a volte non possiamo semplicemente negarlo. Quella stessa società crea anche la tecnologia che utilizziamo, e questo significa che può anche essere razzialmente pregiudicata. Se vogliamo che la nostra tecnologia faccia meglio, allora dobbiamo fare meglio noi stessi.

Cosa ne pensi di Microsoft che crea un software basato sui pregiudizi dei suoi sviluppatori? Cambia la tua opinione sull’azienda? Come pensi che si rifletta sulla società? Aggiungi i tuoi pensieri nella nostra sezione commenti qui sotto.