Gesichtserkennungssoftware ist voreingenommen, basierend auf Gender- und Rassenstudien

Gesichtserkennungstechnologie ist keine Spielerei mehr. Es wird zunehmend für Fußgänger verwendet und zeigt keine Anzeichen einer Verlangsamung. Abgesehen davon, dass es zum Entsperren Ihres Smartphones verwendet wird, hat es die Gesichtserkennung heute in jede Ecke geschafft. Tatsächlich wird die Technologie von chinesischen Polizisten verwendet, um Verdächtige zu identifizieren.

Laut neuen Untersuchungen des MIT Media Lab scheint die Gesichtserkennungstechnologie jedoch Vorurteilen zu unterliegen, die auf Geschlecht und Rasse beruhen. Joy Buolamwini, Forscherin am MIT Media Lab, erstellte einen Datensatz mit 1.270 Gesichtern. Anschließend testete sie die Genauigkeit von drei Gesichtserkennungssystemen von Microsoft, IBM und Megvii (einer chinesischen Firma). Überraschenderweise zeigte das Ergebnis Ungenauigkeiten bei der Geschlechtsidentifikation.

Als den Systemen die Fotos von hellhäutigen Männern gezeigt wurden, konnten sie ziemlich leicht identifiziert werden. Das System identifizierte jedoch bis zu 12 Prozent der dunkelhäutigen Männer falsch. und bis zu 35 Prozent der dunkelhäutigen Frauen.

"Insgesamt wurden männliche Probanden genauer klassifiziert als weibliche Probanden, die frühere Ergebnisse wiederholten (Ngan et al., 2015), und hellere Probanden wurden genauer klassifiziert als dunklere Personen." - Joy Buolamwini

Zu diesem Zweck gab IBM an, die Software für die Gesichtsanalyse stetig verbessert zu haben und sich "zutiefst" für "unvoreingenommene" und "transparente" Services zu engagieren. Microsoft hingegen sagte: „Wir haben bereits Schritte unternommen, um die Genauigkeit unserer Gesichtserkennungstechnologie zu verbessern “und in Forschung zu investieren,„ um Verzerrungen zu erkennen, zu verstehen und zu beseitigen.Und schließlich antwortete Megvii nicht.

Dies ist jedoch nicht das erste Mal, dass sich die Gesichtserkennungstechnologie als ungenau erwiesen hat. Bereits 2015 wurde Google von einem Softwareentwickler angerufen, als die Fotos-App seinen schwarzen Freund als „Gorillas“ identifizierte.