Microsoft arbeitet an der Behebung seiner rassistisch voreingenommenen Gesichtserkennungssoftware
Das ist etwas, woran viele Menschen nie denken würden – es sei denn, man ist eine Person of Color. Gesichtserkennungssoftware, oder zumindest die Software von Microsoft, wurde hauptsächlich mit kaukasischen männlichen Gesichtern programmiert. Das bedeutet, dass sie Schwierigkeiten hat, dunklere Gesichter, insbesondere Frauen, zu erkennen. Aber Microsoft kündigt an, dass sie das verbessert haben.
Die rassistische Seite der Gesichtserkennungssoftware
Früher in diesem Jahr erhielt Microsofts Face API, basierend auf Azure, in einem Forschungsbericht Kritik. Sie untersuchten die Fehlerquote bei dem Versuch, das Geschlecht von People of Color zu identifizieren, und fanden heraus, dass diese bis zu 20,8 Prozent betrug, insbesondere bei dem Versuch, Frauen mit dunkleren Hauttönen zu identifizieren. Bei „helleren männlichen Gesichtern“ betrug die Fehlerquote jedoch null Prozent.
Das liegt daran, dass künstliche Intelligenz-Technologie genau das ist – künstlich. Sie muss von Menschen programmiert werden, was bedeutet, dass die Ergebnisse davon abhängen, wie gut die Technologie programmiert wurde und welche Daten dafür verwendet wurden.
Als Microsoft seine Software entwickelte, hatte es nicht genügend Bilder von Menschen mit dunkleren Hauttönen, was zu der höheren Fehlerquote bei People of Color, insbesondere bei Frauen, führte.
Rassismus ist ein wichtiges Thema, das man berücksichtigen sollte. Microsoft hatte sicherlich nicht die Absicht, rassistisch zu sein, aber indem die Software hauptsächlich mit weißen Männern programmiert wurde, stellt sich die Frage, ob die Programmierer unbeabsichtigt ihre eigenen rassistischen Vorurteile zeigten.
Die Lösung
Unabhängig davon, warum Microsoft mit einer Software endete, die die Vorurteile ihrer Schöpfer/Programmierer zeigte, musste sie diese beheben. Nachdem sie es behoben hatten, sagte das Unternehmen, dass sie die Fehlerquote für Menschen mit dunklerer Haut um bis zu zwanzig Mal reduzieren konnten. Bei Frauen, unabhängig vom Hauttyp, wurden die Fehlerquoten um das Neunfache reduziert.
Um diese verbesserte Fehlerquote zu erreichen, initiierte das Face API-Team drei Änderungen. Offensichtlich überarbeitet und erweitert werden mussten die Schulungs- und Daten für ihre Benchmarks. Sie konzentrierten sich speziell auf Hautfarbe, Geschlecht und Alter.
„Wir hatten Gespräche über verschiedene Möglichkeiten, Vorurteile zu erkennen und Fairness zu operationalisieren“, sagte Hannah Wallach, eine leitende Forscherin im New Yorker Forschungslabor von Microsoft und auch Expertin für Fairness, Verantwortlichkeit und Transparenz in KI-Systemen. „Wir sprachen über Datenbeschaffungsbemühungen, um die Trainingsdaten zu diversifizieren. Wir sprachen über verschiedene Strategien, um unsere Systeme intern zu testen, bevor wir sie bereitstellen.“
Cornelia Carapcea, eine leitende Programmmanagerin im Team für kognitive Dienste, sagte, dass Wallachs Gruppe schließlich „ein nuancierteres Verständnis von Vorurteilen“ vermittelte und ihrem Team half, einen Datensatz zu entwickeln, „der uns über Hauttöne hinweg zur Verantwortung zog.“
Weitergehen
„Wenn wir maschinelles Lernen trainieren, um Entscheidungen zu imitieren, die in einer voreingenommenen Gesellschaft getroffen werden, unter Verwendung von Daten, die von dieser Gesellschaft erzeugt werden, dann werden diese Systeme notwendigerweise ihre Vorurteile reproduzieren“, sagte Wallach.
Das macht vollkommen Sinn. Ob wir es mögen oder nicht, Rassismus existiert in unserer Gesellschaft. Wir mögen nicht daran denken, dass es so ist, aber manchmal können wir es einfach nicht leugnen. Diese gleiche Gesellschaft schafft auch die Technologie, die wir nutzen, und das bedeutet, dass sie auch rassistisch voreingenommen sein kann. Wenn wir wollen, dass unsere Technologie besser wird, müssen wir selbst besser werden.
Was denken Sie darüber, dass Microsoft Software erstellt hat, die auf den Vorurteilen ihrer Entwickler basierte? Ändert das Ihre Meinung über das Unternehmen? Wie denken Sie, spiegelt es die Gesellschaft wider? Fügen Sie Ihre Gedanken in unserem Kommentarbereich unten hinzu.
