Wie trifft man eine ethisch richtige Entscheidung? Aufgrund des zunehmenden Einsatzes von Softwaresystemen in immer mehr gesellschaftlichen Bereichen kommt dieser Frage bei der Softwareentwicklung eine wachsende Bedeutung zu. Ethische Entscheidungen, die sich auch in Algorithmen abbilden, haben durch ihre Anwendung im Maschinellen Lernen oder in autonomen Systemen oft Auswirkungen auf sehr viele Menschen. Es ist daher wichtig, dass Entscheidungen, die das Design der Softwareanwendung bedingen, klar argumentiert und nachvollziehbar sind.

In dem Projekt „Ethik in der agilen Softwareentwicklung“ am bidt wird ein Konzept entwickelt, ethische Überlegungen bereits in den Entwicklungsprozess zu integrieren. Die Leitung liegt bei Professor Julian Nida-Rümelin und Professor Alexander Pretschner. Zum interdisziplinären Team zählen der Verhaltensökonom Dr. Jan Gogoll, der Informatiker Severin Kacianka und die Philosophin Niina Zuber.

In diesem Papier stellt das bidt mit dem EDAP-Schema (Ethische Deliberation für agile Prozesse) ein Tool vor, das es agilen Teams erlaubt, die ethische Dimension ihrer Entwicklungsentscheidungen zu strukturieren, klar zu kommunizieren und schlüssig zu deliberieren. Dadurch können diese Entscheidungen von Dritten nachvollzogen und geprüft werden.

Working Paper Download (PDF)

Das Wichtigste in Kürze

Derzeit ist es technisch unmöglich, Maschinen beziehungsweise Algorithmen so zu programmieren, dass sie selbstständig ethisch wünschenswerte Resultate berechnen. Nichtsdestotrotz werden Maschinen immer mehr Teil unserer Lebenswelt und tiefer in unsere Gesellschaft sowie unseren Alltag integriert werden. Aufgrund ihrer enormen Reichweite und ihres Einflusses auf menschliche Entscheidungen haben solche Systeme eine starke normative Kraft. Softwaresysteme lenken beabsichtigt oder unbeabsichtigt Entscheidungen, weshalb sowohl im Entwicklungsprozess als auch im Technologie-Einsatz auf ungewollte, aber auch gewollte Implikationen Rücksicht genommen werden sollte.

Aktuell werden diese Design-Entscheidungen oft willkürlich, das heißt meist intuitiv und assoziativ, durch das Zusammenspiel von Entwicklerinnen/ Entwicklern und Technologie getroffen. Sehr oft setzt sich dabei das zumeist implizite ethische Verständnis von Vorgesetzten oder rhetorisch starken Minderheiten durch. Es ist daher ausschlaggebend, diesem häufig unstrukturierten Vorgehen mit einem semistrukturierten, auf wissenschaftlichen Erkenntnissen beruhenden Prozess entgegenzuwirken, um normative Belange zu lokalisieren und – wenn und wo notwendig – zu diskutieren und zu berücksichtigen.

Das EDAP-Schema fügt sich nahtlos in bestehende Entwicklungsprozesse ein, unterstützt die ethische Deliberation nicht nur des Entwicklerteams, sondern des ganzen Unternehmens – und dies ohne wesentliche Mehrarbeit. Als solches leistet es einen Beitrag zur Debatte um ethische Systeme und bietet einen pragmatischen und praxistauglichen Ansatz, Systeme unter ethischen Gesichtspunkten zu entwickeln.

Kontakt

Ansprechpartnerin zum Working Paper: Niina Zuber, Wissenschaftliche Referentin Forschung
Ansprechpartnerin für Presseanfragen: Margret Hornsteiner, Abteilungsleiterin Dialog