Das Diversitätsdilemma im Silicon Valley

Das Diversitätsdilemma im Silicon Valley

Wer gedacht hat, dass im Silicon Valley nicht nur die „Frappuccino mit Haselnussmilch“-Fraktion, sondern auch die diversitätsfreundliche politische Linke beheimatet ist, hat sich zwar nicht im ersten, wohl doch aber im zweiten Punkt getäuscht. Schon seit einigen Jahren häufen sich die Hinweise darauf, dass – wer hätte es gedacht – gesellschaftliche Diversität und Themen wie digitale Ethik nur da eine Rolle spielen, wo sie unternehmensinterne Machtstrukturen und sprudelnde Gewinne nicht antasten.

Einen weiteren Beleg dafür lieferte Google vor kurzem gleich selbst, als das Unternehmen der angesehenen KI-Ethikerin Timnit Gebru kündigte. Gebru war Mitbegründerin der Gruppe Black in A.I. und wurde bekannt durch einflussreiche Forschung im Bereich der sozialen Auswirkungen von Gesichtserkennungsprogrammen. Diese Forschung zeigte, dass die Erkennungssysteme Frauen und nicht-Weiße Menschen deutlich öfter fehlkategorisieren als Weiße Männer. Ein Artikel, den Gebru 2018 mitverfasste, wurde vielfach als „Wendepunkt“ bei dem Versuch angesehen, auf soziale Fehlwahrnehmungen automatisierter Entscheidungssysteme hinzuweisen und diese zu beseitigen.

Mit der Entlassung Gebrus schmälerte Google nicht nur (1) seine eigene technologische Fähigkeit, Diversitätsprobleme seiner Algorithmen in Angriff zu nehmen, sondern (2) auch die Diversität seiner Belegschaft selbst.

Algorithmen reproduzieren und verstärken gesellschaftliche Diskriminierung

Der Konflikt zwischen Gebru und ihrem ehemaligen Arbeitgeber entstand durch eine Auseinandersetzung über einen von ihr mitverfassten wissenschaftlichen Beitrag, der neue Systeme im Bereich der Sprachanalyse kritisierte, die auch Teil von Googles Suchfunktion sind. Da diese automatischen Systeme den Umgang mit Sprache durch „das Internet“ selbst, also die big data-Analyse einer Vielzahl von alltagsgebräuchlichen Texten lernen, enthalten diese Systeme oft die gleiche Art von Diskriminierung, die auch im Alltag unserer Gesellschaften anzutreffen ist.

Nach einer Studie des Karlsruher Instituts für Technologie bekommen Frauen beispielsweise nicht so leicht Kredite wie Männer, müssen höhere Zinsen zahlen und mehr Sicherheiten bieten. Eine weitere aktuelle Studie zeigt, dass das Bilderkennungssystem von Google Frauen und Männer Attribute zuweist, die traditionelle und überkommene Geschlechterrollen zementieren. So belegten automatisierte Systeme Bilder von Männern mit Bezeichnungen wie „offiziell“, „Geschäftsmann“, „Sprecher“, „Redner“ und „Anzug“. Bilder von Frauen hingegen wurden verknüpft mit Bezeichnungen wie „Lächeln“, „Frisur“ und „Oberbekleidung“.

Wie also könnte man diesem Problem begegnen? Eine Antwort auf diese Frage lautet: Mehr Diversität unter den Softwareentwicklern. Doch auch hier hinken die Big Tech Unternehmen der Gesellschaft hinterher.

Das Silicon Valley ist kein Hort gesellschaftlicher Diversität

Silicon Valley hat schon seit einiger Zeit sein eigenes Diversitätsproblem. Der Ausstieg von Timnit Gebru erfolgte ein Jahr nachdem die prominente A.I. Ethikerin Meredith Whittaker bei Google kündigte und sagte, sie und andere Mitarbeiter seien internen Vergeltungsmaßnahmen ausgesetzt gewesen, weil sie öffentlich Proteste gegen den unternehmensinternen Umgang mit sexueller Belästigung am Arbeitsplatz organisiert und sich gegen die unternehmensinterne Handhabe von KI-Ethik ausgesprochen hatten. Whittaker war neben ihrer Tätigkeit bei Google auch Mitbegründerin des AI NOW Instituts an der New York Universität, das sich ethischen Fragen im Bereich der künstlichen Intelligenz widmet.

Erst kürzlich warf zudem die ehemalige Google Mitarbeiterin Christina Curley ihrem einstigen Arbeitgeber vor, dass Schwarze bei Neueinstellungen benachteiligt würden. Curley’s Aufgabenbereich beinhaltete die Rekrutierung neuer Angestellte mit dem Ziel die Diversität des Unternehmens zu erhöhen. Sie berichtete von einem Vorfall, in dem eine Weiße Vorgesetzte ihren Baltimore-Dialekt als „Behinderung“ bezeichnete. Baltimore hat traditionell einen großen afroamerikanischen Bevölkerungsanteil.

Nicht nur Google, sondern auch viele andere Unternehmen des Silicon Valley geben sich darüber hinaus nicht sonderlich viel Mühe, ein diverses Arbeitsumfeld zu schaffen. Coinbase, ein start-up, das einen online-Handelsplatz für Kryptowährungen bietet, wurde in den letzten beiden Jahren von 15 Schwarzen Mitarbeitern verlassen. Mindestens elf hatten vorher ihre Vorgesetzten oder die Personalabteilung darüber informiert, dass sie rassistisch oder diskriminierend behandelt worden waren.

Pinterest, das sich im Sommer noch als Unterstützer der Black Lives Matter Proteste gerierte, führte einen Kleinkrieg gegen zwei nunmehr ehemalige Schwarze Mitarbeiterinnen, die sich für ein besseres Faktenprüfungssystem einsetzten und verweigerte ihnen Unterstützung, als ihre persönlichen Daten Hasswebseiten zugespielt worden waren.

Dies sind nur die neusten Beispiele eines langjährigen strukturellen Problems, das sich auch in der amerikanischen Beschäftigungsstatistik widerspiegelt: Während im Jahr 2019 etwa zwölf Prozent der US-amerikanischen Beschäftigten Schwarze waren, lag ihr Anteil in der Tech Industrie bei nur sechs Prozent. Im Falle Facebooks, Alphabets, Microsofts und Twitters sogar noch darunter. Auch mittlerweile sechs Jahre währende Diversitätsbemühungen haben hier nur ein Wachstum der Diversität im unteren einstelligen Bereich bewirkt.

So wie der Frappuccino to go zwar Zeit spart, aber ökologisch völlig unsinnig ist, kann auch digital-ethisches Greenwashing nicht darüber hinwegtäuschen, dass im augenscheinlich progressiven Silicon Valley ein starker Strukturkonservatismus Weiße Dominanz zementiert und eine repräsentativere Abbildung der Gesellschaft verhindert.

Wir müssen reden

Top Silicon Valley Unternehmen verfügen nicht nur über unvorstellbare Datenmassen, sondern auch über ungeheure Finanzmittel. Seit Mitte des Börsenexzessjahres 2020 beträgt die kombinierte Marktkapitalisierung von Facebook, Apple, Amazon, Netflix und Google (Alphabet) etwa ein Viertel des gesamten US-amerikanischen Aktienindexes S&P 500. Diese Kapital- und Marktdominanz verleiht Big Tech weltweit großen politischen Einfluss. Dieser Machtfülle können weder die USA noch die EU individuell begegnen – das haben vergangene, fehlgeschlagene Versuche gezeigt, den Einfluss der großen Spieler der Industrie zu brechen. Während die EU und die USA unter Donald Trump zerstritten über die Art und Weise der Regulierung dieser Unternehmen waren, scheint sich dies mit Blick auf die im Januar beginnende Präsidentschaft Joe Bidens zu ändern. Ein gemeinsamer transatlantischer Ansatz könnte erheblich mehr Schlagkraft entwickeln, darf dabei europäische Regulierungsversuche aber nicht verwässern.

Im Rahmen der Europäischen Digitalstrategie avisierte Gesetzesvorhaben der EU-Kommission haben das Ziel, die überbordende Marktmacht von Big Tech Unternehmen zu beschränken und deren automatisierte Entscheidungssysteme stärker zu kontrollieren. Der aktuelle Entwurf des Gesetzes für digitale Dienste sieht vor, Algorithmen transparent und anschlussfähig zu gestalten, „Audits“ zu unterwerfen und diese gegebenenfalls auch zu sanktionieren. Die deutsche Regierung sollte die Kommission auf ihrer Linie unterstützen und dem Beispiel der französischen Regierung folgen, alle von staatlichen Institutionen genutzten Algorithmen offenzulegen.

Der zweite Schritt, der auf Offenlegung und Anschlussfähigkeit der Algorithmen folgen sollte, ist die aktive ethische Gestaltung automatisierter Entscheidungssysteme in einem partizipativen Prozess. Denn da, wo Algorithmen wahllos und unkritisch auf der Grundlage öffentlich verfügbarer Texte entstehen, werden letztendlich auch einfach die ihnen inhärenten Werte, Normen und impliziten ethischen Leitbilder übernommen. Mit Ethik sind jedoch nicht jene Werte gemeint, die Menschen zufällig erworben haben, sondern jene, die sie gemäß gemeinschaftlicher Vorstellungen haben sollten. Aus diesem Grund sollten die Werturteile, die automatisierte Entscheidungssysteme täglich millionenfach treffen, öffentlich erörtert, abgewogen und priorisiert werden, damit sie unseren Zielen als Gesellschaft entsprechen und nicht einfach eine überkommene Vergangenheit reflektieren.

Autor: Tomislav Marsic

No Comments
Leave a Reply