Facebook-Algorithmus bedient bei Job- und Immobilienanzeigen rassistische und sexistische Vorurteile

Bei Job- und Immobilienanzeigen diskriminiert Facebook ganz automatisch. Das hat eine auf «arXiv» vorab veröffentlichte Studie von Forschern der Northeastern University, der University of Southern California und der Non-Profit-Organisation ergeben.

Selbst wenn Werbende mit ihren Targeting-Parametern eigentlich ein breites Publikum ansprechen wollen, scheint sich Facebooks Algorithmus bei der Schaltung an rassistischen und sexistischen Stereotypen zu orientieren.

Stereotypes Targeting

Holzfäller sind weisse Männer, an der Supermarktkasse sitzen nur Frauen und Taxifahrer gehören sowieso Minderheiten an. Das sind klassische Stereotypen, die Facebooks Ad-Targeting offenbar ganz automatisch bedient. Denn wie die Forscher berichten, hat das soziale Netzwerk Anzeigen mit eigentlich gleich gewählten Targeting-Optionen in Tests extrem unterschiedlichen Nutzern angezeigt. Ein Job in der Holzindustrie wurde zu 72 Prozent Weissen vorgeschlagen, und neun von zehn waren dabei Männer. Eine Anzeige für Kassentätigkeit im Supermarkt dagegen bekamen zu 72 Prozent Frauen zu sehen und Jobs in der Taxibranche zu drei Vierteln Schwarze.

Dieser Unterschied scheint also am Inhalt der Anzeige zu liegen, sprich, dass der Algorithmus aufgrund von Textelementen wie der Jobbezeichnung oder Bildeigenschaften automatisch einen Rassen- oder Geschlechtsbias zeigt. Für Letzteres spricht auch, dass der Studie zufolge ein Wohnraumangebot automatisch seltener weissen Usern gezeigt wird, wenn einfach nur auf dem Foto eine farbige statt einer weissen Familie zu sehen ist. Doch auch das Werbebudget scheint eine Rolle zu spielen. Mehr Geld brachte in Versuchen einen höheren Frauenanteil im erreichten Publikum - über 55 Prozent bei sehr hohem Budget stehen unter 45 Prozent bei geringem Budget gegenüber.

Werber-Willen unterlaufen

Wenn Facebooks Werbe-Algorithmus tatsächlich automatisch diskriminiert, könnte das letztlich rechtliche Probleme bedeuten. Denn wie die Zeitschrift New York betont, sind nicht-inklusive Stellen- und Immobilienanzeigen in den USA illegal. Für Facebook mag freilich ein andereres Problem viel unmittelbarer greifen. «Unsere Ergebnisse zeigen zuvor unbekannte Mechanismen auf, die zu potenziell diskriminierender Werbeauslieferung führen können, selbst wenn Werbende ihre Targeting-Parameter gewählt haben, um hochinklusiv zu sein», schreiben die Forscher. Falls Werbetreibende ihre Interessen gefährdet sähen, könnte das die Werbeeinnahmen gefährden. (pte)

Zum Paper: «Discrimination through optimization: How Facebook's ad delivery can lead to skewed outcomes»