マイクロソフト、レイシャルバイアスのある顔認識ソフトウェアの修正に取り組む

これは多くの人が考えもしないことです - それはあなたが有色人種でない限り。顔認識ソフトウェア、少なくともマイクロソフトのソフトウェアは、主に白人男性の顔でプログラムされています。つまり、特に女性の暗い肌の顔を認識するのが難しいということです。しかし、マイクロソフトはそれを改善したと発表しています。

顔認識ソフトウェアの人種差別的側面

今年の初め、マイクロソフトのAzureに基づくFace APIは、研究論文で批判を受けました。彼らは有色人種の性別を特定しようとした際のエラー率を調査し、特に暗い肌の女性を特定しようとした場合、エラー率が20.8パーセントに達することを発見しました。しかし、「明るい男性の顔」ではエラー率はゼロパーセントでした。

これは人工知能技術がその名の通り人工的であるためです。それは人々によってプログラムされる必要があり、つまり結果は技術がどれだけ良くプログラムされたか、そしてそれを行うために使用されたデータに依存します。

マイクロソフトがソフトウェアを開発していたとき、暗い肌の人々の画像が十分ではありませんでした。そのため、有色人種、特に女性のエラー率が高くなりました。

人種差別は重要なトピックです。マイクロソフトは確かに人種差別的になるつもりはありませんでしたが、ソフトウェアが主に白人男性でプログラムされることを許可することで、プログラマーが意図せず自分の人種的バイアスを示していたのかという疑問が生じます。

修正

マイクロソフトがその創造者/プログラマーのバイアスを示すソフトウェアを持つことになった理由に関係なく、それを修正する必要がありました。修正後、同社は暗い肌の人々のエラー率を最大20倍まで減少させることができたと述べました。肌の色に関係なく女性のエラー率は9倍に減少しました。

この改善されたエラー率を得るために、Face APIチームは3つの変更を開始しました。明らかに見直しと拡張が必要だったのは、彼らのベンチマークのトレーニングとデータです。彼らは特に肌の色、性別、年齢に焦点を当てました。

「私たちはバイアスを検出し、公平性を実現するためのさまざまな方法について話し合いました」と、マイクロソフトのニューヨーク研究所のシニアリサーチャーであり、AIシステムにおける公平性、説明責任、透明性の専門家であるハンナ・ウォラッハは述べました。「私たちはトレーニングデータを多様化するためのデータ収集の取り組みについて話し合いました。私たちは、システムを展開する前に内部でテストするためのさまざまな戦略について話し合いました。」

コグニティブサービスチームのプリンシパルプログラムマネージャーであるコーネリア・カラプチャは、最終的にウォラッハのグループが「バイアスのより微妙な理解」を提供し、彼女のチームが「肌の色に関して私たちを説明責任を持たせるデータセット」を開発するのを助けたと述べました。

前進

「もし私たちが偏見のある社会で行われた決定を模倣する機械学習システムを訓練しているなら、その社会によって生成されたデータを使用している場合、これらのシステムは必然的にそのバイアスを再生産することになります」とウォラッハは述べました。

これは完全に理にかなっています。私たちが好むと好まざるとにかかわらず、私たちの社会には人種差別が存在します。私たちはそれが存在するとは考えたくないかもしれませんが、時にはそれを否定することはできません。同じ社会が私たちが使用する技術を生み出し、それは人種的に偏見を持つ可能性があることを意味します。私たちの技術がより良くなることを望むなら、私たち自身もより良くなる必要があります。

マイクロソフトが開発者のバイアスに基づいたソフトウェアを作成したことについてどう思いますか？それはあなたの会社に対する意見を変えますか？それは社会にどのように反映されていると思いますか？以下のコメントセクションにあなたの考えを追加してください。