5 Anforderungen an Ethik-Boards in KI-Unternehmen

Obwohl Ethik im Bereich Künstliche Intelligenz immer intensiver debattiert wird, sind ethische Probleme nicht unbedingt weniger geworden. Laut einer Capgemini-Studie mussten sich knapp 60 % der befragten Unternehmen in den letzten drei Jahren rechtlichen Prüfungen wegen Diskriminierungsvorwürfen unterziehen und 22 % sahen sich dem öffentlichen Zorn ihrer Kund*innen ausgesetzt. Was tun KI-Unternehmen überhaupt, um ethische Probleme anzugehen und öffentliche Bedenken auszuräumen?

Ethische Prinzipien, Trainings und Prüfsiegel reichen einfach nicht.

In den letzten beiden Jahren entstand ein wahrer Hype um die Formulierung ethischer Prinzipien , die als Kompass für das Handeln der Mitarbeiter*innen dienen sollen. Das war möglicherweise gut für das Marketing, aber im Endeffekt verlagerte es die Hauptschuld auf Entwickler*innen, von denen wohl nur die wenigsten jemals vorhatten ethisch Bedenkliches zu programmieren. Mittlerweile verbreitet sich die ernüchternde Erkenntnis: Prinzipien alleine helfen nicht, nicht einmal wenn sie den Segen des Papstes erhalten. Derselben Kritik müssen sich auch unternehmerische Ethik-Trainings aussetzen, die oft nur auf die untere Ebene der Unternehmenshierarchie zielen. Auch von ethischen Prüfsiegeln ist abzuraten, sofern sie ein lernendes (!) System zertifizieren, von dem manchmal nicht einmal die Entwickler*in sicher weiß, wie es sich bei fortgeführtem Training verhalten wird.

Immer mehr Unternehmen setzen auf Ethik-Boards

Ein vielversprechender Ansatz ist das Recruiting von Ethik-Expert*innen für Ethik-Boards die im direkten Austausch mit der Führungsebene stehen. Laut einem Forbes-Bericht sind Ethik-Expert*innen aktuell die begehrteste KI-Rolle: 64 % der befragten Unternehmen planen in der nächsten Zeit eine Ethik-Expert*in einzustellen oder zu trainieren. Ich habe fünf Empfehlungen formuliert, worauf man bei der Zusammensetzung eines Ethik-Boards achten sollte. Hier nun meine fünf Anforderungen[1]:

1. Fachliche Diversität
   Mark Twain hat einmal gesagt: „wer als Werkzeug nur einen Hammer hat, sieht in jedem Problem einen Nagel“. Wo manche einen rassistischen Bias erkennen, sehen andere nur einen Bug. Nicht-technische Expert*innen wie Soziolog*innen, Psycholog*innen oder auch Philosoph*innen oder Künstler*innen können manchmal den entscheidenden Hinweis geben.
2. Geografische Diversität
   Algorithmen sind in den seltensten Fällen nur in einer Region und Kultur verfügbar sondern agieren oft global. Expert*innen aus entfernten Regionen können ethische Herausforderungen erkennen, die in unserem Kulturkontext gar nicht existieren.
3. Soziale Diversität
   Eliten sind global vernetzt und denken oft zu ähnlich. Fachliche und geografische Diversität sind nichts wert, wenn das Ethik-Board am Ende nur aus Professor*innen besteht. Die Hauptaufgabe eines Ethik-Boards ist die Menschen zu vertreten, die von den Algorithmen betroffen sind. Daher sind die Einbeziehung und der Austausch mit Vertretern der Zivilgesellschaft z.B. nach Vorbild eines Citizen’s Council essentiell für Effektivität und Glaubwürdigkeit.
4. Unabhängigkeit
   „Wes Brot ich ess, des Lied ich sing.“ Eine Ethik-Expert*in, die ausschließlich von Ihrer Bezahlung lebt, ist weder nützlich noch glaubwürdig. Sie wollen unabhängige Rebell*innen an Bord, die Ihnen auf die Finger hauen, bevor es Ihre Kund*innen und Shareholder*innen tun.
5. Transparenz
   Fehler können immer geschehen. Als Entschuldigung reicht es nicht, wenn man sich dann auf die Freigabe eines Ethik-Boards berufen kann. Für das Vertrauen der Kunde*innen und Shareholder*innen ist es unabdingbar, dass die Aktivitäten und Entscheidungen der Ethik-Expert*innen transparent und nachvollziehbar sind. Denn wenn trotz aller Bemühungen etwas schiefgeht, ist es wertvoll, wenn wenigstens die ehrlichen Bemühungen sichtbar sind.

Kurz: Wir vertrauen keinen Algorithmen, sondern nur den Menschen dahinter. Ethik kommt nicht aus dem Code, sondern aus dem Herzen!

Max Haarich ist KI-Verantwortlicher der Gesellschaft für Digitale Ethik und Botschafter der litauischen Künstler-Republik Užupis. Am 13.11.2020 ab 18:30 Uhr diskutiert er ethische Fragen mit weiteren Expert*innen für Corporate Digital Responsibility beim 1E9-Festival.

[1] Gender-Diversität ist hier nicht aufgelistet, weil das einfach selbstverständlich sein sollte!

Bildnachweis: geralt https://pixabay.com/de/illustrations/integration-begr%C3%BC%C3%9Fung-h%C3%A4ndesch%C3%BCtteln-1777537/