Microsoft работает над исправлением своего программного обеспечения для распознавания лиц с расовой предвзятостью

Это то, о чем многие люди никогда не подумают, если только вы не человек цвета кожи. Программное обеспечение для распознавания лиц, или, по крайней мере, программное обеспечение Microsoft, было запрограммировано в основном на основе лиц белых мужчин. Это означает, что ему сложнее распознавать темные лица, особенно женщин. Но Microsoft объявляет, что они улучшили это.

Расистская сторона программного обеспечения для распознавания лиц

В начале этого года Face API Microsoft, основанный на Azure, подвергся критике в исследовательской работе. Они изучали уровень ошибок при попытках определить пол людей цвета кожи и обнаружили, что он достигал 20,8 процента, особенно при попытках идентифицировать женщин с темной кожей. Однако с “светлыми мужскими лицами” уровень ошибок составлял ноль процентов.

Это связано с тем, что технологии искусственного интеллекта именно такие — искусственные. Их необходимо программировать людьми, что означает, что результаты будут зависеть от того, насколько хорошо была запрограммирована технология и какие данные были использованы для этого.

Когда Microsoft разрабатывала свое программное обеспечение, у нее не было достаточного количества изображений людей с темной кожей. И это привело к более высокому уровню ошибок среди людей цвета кожи, особенно среди женщин.

Расизм — это важная тема для рассмотрения. Microsoft, безусловно, не ставила целью быть расистом, но, позволяя программному обеспечению быть запрограммированным в основном на основе белых мужчин, возникает вопрос, показывали ли программисты непреднамеренно свою собственную расовую предвзятость.

Исправление

Независимо от того, почему Microsoft в итоге получила программное обеспечение, показывающее предвзятость своих создателей/программистов, его нужно было исправить. После исправления компания заявила, что им удалось снизить уровень ошибок для людей с темной кожей до двадцати раз. Для женщин, независимо от цвета кожи, уровень ошибок был снижен в девять раз.

Чтобы достичь этого улучшенного уровня ошибок, команда Face API инициировала три изменения. Очевидной необходимостью были пересмотрены и расширены обучение и данные для их эталонов. Они сосредоточились в основном на цвете кожи, поле и возрасте.

“Мы обсуждали различные способы обнаружения предвзятости и операционализации справедливости”, — сказала Ханна Уоллах, старший исследователь лаборатории исследований Microsoft в Нью-Йорке и также эксперт в области справедливости, подотчетности и прозрачности в системах ИИ. “Мы говорили о усилиях по сбору данных для диверсификации обучающих данных. Мы обсуждали различные стратегии для внутреннего тестирования наших систем перед их развертыванием.”

Корнелия Карапчеа, главный менеджер программы в команде Cognitive Services, сказала, что в конечном итоге группа Уоллах дала “более тонкое понимание предвзятости” и помогла ее команде разработать набор данных, “который держал нас подотчетными по цвету кожи.”

Движение вперед

“Если мы обучаем системы машинного обучения имитировать решения, принятые в предвзятом обществе, используя данные, сгенерированные этим обществом, то эти системы обязательно будут воспроизводить его предвзятости”, — сказала Уоллах.

Это имеет полный смысл. Нравится нам это или нет, расизм существует в нашем обществе. Мы можем не любить думать, что это так, но иногда мы просто не можем это отрицать. То же самое общество также создает технологии, которые мы используем, и это означает, что они также могут быть расово предвзятыми. Если мы хотим, чтобы наши технологии работали лучше, то нам нужно стать лучше сами.

Что вы думаете о том, что Microsoft создала программное обеспечение, основанное на предвзятости своих разработчиков? Меняет ли это ваше мнение о компании? Как вы думаете, как это отражает общество? Добавьте свои мысли в наш раздел комментариев ниже.