Das Projektteam des bidt-Projekts „Ethik in der agilen Softwareentwicklung“ entwickelt ein Konzept, um ethische Überlegungen bereits in den Prozess der Softwareentwicklung zu integrieren. Ziel des Projekts ist es, eine normative wünschenswerte Ausgestaltung von Softwaresystemen zu ermöglichen. Ein Interview mit Dr. Jan Gogoll, wissenschaftlicher Mitarbeiter am bidt.
forschungsprojekt
Wann ist eine Software aus eurer Sicht „moralisch gut“?
Jan Gogoll: Auch auf die Gefahr hin, mit der ersten Antwort direkt enttäuschen zu müssen – eine Checkliste für moralisch gute Software kann es nicht geben, dafür ist Software und ihr Einsatz viel zu kontextspezifisch.
Am besten kann man sich einer Antwort nähern, wenn man die Frage umdreht: Was sind Anzeichen dafür, dass eine Software moralisch fragwürdig ist? Und auch hier wird es keine konkrete Liste geben können. Allerdings lässt sich anhand verschiedener Punkte und konsequentem Nachdenken oft feststellen, dass Probleme vorliegen.
So ist eine Software moralisch unzumutbar, sobald die Freiheit von Individuen durch den Einsatz der Software beschnitten wird; wenn Menschen in ihrer Menschlichkeit nicht respektiert, d. h., wenn ihre Selbstbestimmung und Autonomie missachtet werden. Darüber hinaus gibt es Anzeichen, die darauf hindeuten, dass eine Software moralisch fragwürdig ist, d. h., dass moralische Risiken vorliegen: Wenn Maschinen Menschlichkeit oder Lebendigkeit suggerieren – also wenn Maschinen zwischenmenschliche Beziehungen übernehmen, wenn sie sich in die Emotionalität von Menschen einschleichen oder diese übernehmen – dann gilt es aufzupassen, innezuhalten und gegebenenfalls Maßnahmen zu ergreifen.
Eine weitere Frage ist, wann es noch akzeptabel ist, durch Software manipuliert zu werden: zum Beispiel im Bereich von Nudging oder Dark Pattern – also immer dann, wenn menschliche Verhaltensweisen ausgenutzt werden.
Dr. Jan Gogoll Zum Profil
Aber auch hier ist die Sachlage komplexer als gedacht. Reicht es zum Beispiel aus, wenn transparent gemacht wird, dass Nudging stattfindet? Ist dies dann schon ein unzulässiger Eingriff in die Autonomie? Dies wird immer im konkreten Kontext zu beantworten sein.
Dieser Kontext ist wichtig, denn manche Softwareprodukte können große gesellschaftliche Einflüsse oder gar Veränderungen bewirken. Wenn durch die Bedienung von Software gesellschaftliche Strukturen unbeabsichtigt verändert (Predictive Privacy), demokratische Prozesse ausgehöhlt (Fake News) oder Personen dazu verleitet werden, Verantwortung an Maschinen zu delegieren, dann müssen wir aufpassen.
Die Philosophin Shannon Vallor fasst es recht gut zusammen, wenn sie sagt, dass die Frage „Ist Twitter gut oder böse?“ im Grunde sinnlos ist. Statt solcher pauschalen Bewertungen sollte man sich den konkreten Kontext anschauen. Welche positiven Dinge fördert Twitter (z. B. soziale Teilhabe, Meinungsfreiheit), welche negativen Auswirkungen hat es (z. B. Fake News, Cyber Mobbing) – und wie schaffen wir es, durch gutes Design Ersteres zu bewahren und Letzteres zu vermeiden?
Welche Anreize haben Unternehmen, ethische Faktoren in die Softwareentwicklung einfließen zu lassen?
Jan Gogoll: Oft entsteht leider der Eindruck, dass Ethik vor allem ein Werkzeug für Bedenkenträger und Verhinderer ist, das viel kostet und versucht, Veränderungen auszubremsen und Unternehmen in ihrer Geschäftstätigkeit zu behindern. Dies ist meiner Meinung nach eine falsche Betrachtungsweise. Das Richtige zu tun, ist sicherlich auch bei den meisten Unternehmen eine wichtige Motivation. Allerdings darf man nicht vergessen, dass Unternehmen in einem Spannungsfeld verschiedener normativer Ansprüche stecken.
Eine Abwägung zum Beispiel zwischen der Sicherung von Arbeitsplätzen oder dem bewussten Verzicht auf ein Feature, das gegebenenfalls zweifelhaft ist, ist dabei selten einfach. Wem jedoch diese Ansicht als zu naiv vorkommt: Ethik lässt sich auch leicht als Business-Case formulieren – und zwar dann, wenn man es ökonomisch als Investition betrachtet: Anfänglichen Kosten stehen dabei im besten Fall spätere Gewinne oder doch zumindest die Minimierung späterer Kosten gegenüber. Der offensichtlichste Anreiz betrifft ganz sicher das Risikomanagement.
Unternehmen und besonders ihre Marken investieren viel Geld und Aufwand in den Aufbau ihrer Reputation beim Kunden und in der Gesellschaft allgemein – und für Reputation gilt: Sie ist schwer aufzubauen, jedoch einfach zu verlieren.
Dr. Jan Gogoll Zum Profil
Vor allem in wohlhabenden Regionen steigt das Interesse an Produkten, mit denen sich die Kunden auch auf Werteebene identifizieren können, was das Kundenbindungspotenzial erhöht.
Daran anschließend ist eine umfassende normative Begleitung bei der Entwicklung von Software sinnvoll, um das Risiko von Fehlinvestitionen zu vermindern. Wenn das entwickelte Produkt im Nachhinein als untragbar gilt, sind ja dennoch Entwicklungskosten entstanden, die nun keine positiven Erträge erwirtschaften. 2018 stellte Amazon zum Beispiel die Entwicklung einer KI ein, die Einstellungsentscheidungen treffen sollte, jedoch weibliche Bewerberinnen benachteiligte. Amazon hat dieses Problem nicht gelöst bekommen und das Projekt schließlich, nach entstandenen Kosten von ca. 50 Millionen Dollar, eingestellt.
Zusätzlich kommen auch noch weitere Anreize hinzu, wie zum Beispiel Regulierung bzw. die Abwendung von Regulierung, die auch immer durch wahrgenommenes Fehlverhalten getrieben ist.
Ein abschließender Punkt, der in den letzten Jahren stark an Bedeutung zugenommen hat, ist die Frage der Refinanzierung. Viele Fremdkapitalgeber und Investoren beurteilen Unternehmen zunehmend nach sogenannten ESG (Environmental, Social and Governance)-Kriterien. Auch wenn die konkrete Ausgestaltung dieser Zertifizierungen noch teilweise fragwürdig ist, so bilden sie doch bereits jetzt Anreize für Unternehmen, auf diese Faktoren zu achten – schließlich ist die Frage der Finanzierung für alle Unternehmen essenziell.
Gibt es so etwas wie Greenwashing beim Thema Nachhaltigkeit eigentlich auch im Hinblick auf Ethik in der Softwareentwicklung?
Jan Gogoll: Das gibt es sicherlich. Hier würden wir besser den etwas breiteren Begriff des Ethics Washing verwenden. Zwar haben manche Softwareanwendungen auch Einfluss auf Fragen der ökologischen Nachhaltigkeit, also klassisches Greenwashing – man denke vor allem an Datencenter etc. – jedoch sind es andere Probleme, die öfter diskutiert werden. Der Bereich KI zum Beispiel fokussiert sich im Moment stark auf die Fragen der Transparenz, der Bias und der Privatsphäre.
Unter Ethics Washing ganz allgemein würde man in einer ersten Annäherung eine etwaige Diskrepanz zwischen den getätigten Aussagen von Unternehmen über ihre Aktivitäten bezüglich ethischer Software und deren tatsächlicher Implementierung verstehen.
Dr. Jan Gogoll Zum Profil
Ist dieses Delta signifikant, dann handelt es sich letztlich nur um reine Lippenbekenntnisse, die etwa dem Marketing oder dem Verhindern von möglicher Regulierung dienen. Das kann unter Umständen eine für die Unternehmen erfolgreiche Strategie darstellen, allerdings – um den Punkt von oben aufzugreifen – ist dies nicht ohne Risiko. Reputation lässt sich vor allem mit einer „Walk the Walk“-Strategie aufbauen – und eine nur scheinbare Verbindung zwischen den Versprechen und der Realität kann, sofern es auffällt, somit zum Reputationskiller werden. Allerdings gilt es auch festzuhalten, dass die Realität sehr komplex ist und eine Übertreibung der eigenen Fähigkeiten ja fast schon notwendigerweise zum Marketing gehört. Ob das Delta im Einzelfall zu groß ist, weil zum Beispiel gar keine Implementierung der Versprechen erfolgt ist oder lediglich im Rahmen der branchenüblichen Übertreibungen liegt, muss jeweils von Fall zu Fall bestimmt werden.
Herzlichen Dank für das Gespräch!
Das Gespräch führte Nadine Hildebrandt.
