Microsoft travaille à corriger son logiciel de reconnaissance faciale biaisé racialement

C’est quelque chose auquel beaucoup de gens ne penseraient jamais - à moins d’être une personne de couleur. Le logiciel de reconnaissance faciale, ou du moins le logiciel de Microsoft, a été programmé principalement avec des visages masculins caucasiens. Cela signifie qu’il a plus de difficultés à reconnaître les visages plus foncés, en particulier ceux des femmes. Mais Microsoft annonce qu’ils ont amélioré cela.

Le côté raciste du logiciel de reconnaissance faciale

Plus tôt cette année, l’API Face de Microsoft, basée sur Azure, a reçu des critiques dans un article de recherche. Ils examinaient le taux d’erreur des tentatives d’identification du genre des personnes de couleur et ont constaté qu’il était aussi élevé que 20,8 pour cent, surtout lorsqu’il s’agissait d’identifier des femmes à la peau plus foncée. Pourtant, avec des “visages masculins plus clairs”, le taux d’erreur était de zéro pour cent.

C’est parce que la technologie de l’intelligence artificielle est justement cela - artificielle. Elle doit être programmée par des personnes, ce qui signifie que les résultats vont dépendre de la qualité de la programmation de la technologie et des données utilisées pour cela.

Lorsque Microsoft développait son logiciel, il n’avait pas suffisamment d’images de personnes à la peau plus foncée, ce qui a entraîné un taux d’erreur plus élevé pour les personnes de couleur, en particulier pour les femmes.

Le racisme est un sujet important à considérer. Microsoft n’a certainement pas eu l’intention d’être raciste, mais en permettant au logiciel d’être programmé principalement avec des hommes blancs, la question est de savoir si les programmeurs montraient involontairement leur propre biais racial.

La solution

Quoi qu’il en soit, Microsoft devait corriger le logiciel qui montrait le biais de ses créateurs/programmeurs. Après l’avoir corrigé, la société a déclaré qu’elle avait pu réduire le taux d’erreur pour les personnes à la peau plus foncée jusqu’à vingt fois. Pour les femmes, quel que soit leur teint, les taux d’erreur ont été réduits par neuf fois.

Pour obtenir ce taux d’erreur amélioré, l’équipe de l’API Face a initié trois changements. Les données d’entraînement et les références devaient évidemment être révisées et élargies. Ils se sont concentrés spécifiquement sur le teint de la peau, le genre et l’âge.

“Nous avons eu des conversations sur différentes façons de détecter les biais et d’opérationnaliser l’équité,” a déclaré Hannah Wallach, chercheuse senior au laboratoire de recherche de Microsoft à New York et également experte en matière d’équité, de responsabilité et de transparence dans les systèmes d’IA. “Nous avons parlé des efforts de collecte de données pour diversifier les données d’entraînement. Nous avons discuté de différentes stratégies pour tester en interne nos systèmes avant de les déployer.”

Cornelia Carapcea, responsable de programme principal de l’équipe des Services Cognitifs, a déclaré qu’éventuellement, le groupe de Wallach a donné “une compréhension plus nuancée du biais” et a aidé son équipe à développer un ensemble de données “qui nous tenait responsables à travers les teintes de peau.”

Aller de l’avant

“Si nous formons des systèmes d’apprentissage automatique à imiter des décisions prises dans une société biaisée, en utilisant des données générées par cette société, alors ces systèmes reproduiront nécessairement ses biais,” a déclaré Wallach.

Cela a tout son sens. Que cela nous plaise ou non, le racisme existe dans notre société. Nous n’aimons peut-être pas penser qu’il existe, mais parfois nous ne pouvons tout simplement pas le nier. Cette même société crée également la technologie que nous utilisons, et cela signifie qu’elle peut également être racialement biaisée. Si nous voulons que notre technologie s’améliore, alors nous devons nous améliorer nous-mêmes.

Que pensez-vous de Microsoft créant un logiciel basé sur les biais de ses développeurs ? Cela change-t-il votre opinion sur l’entreprise ? Comment pensez-vous que cela se reflète sur la société ? Ajoutez vos réflexions dans notre section de commentaires ci-dessous.