WORKING PAPER

Ethische Deliberation für agile Softwareprozesse: EDAP-Schema

Publikation
Von Niina Zuber (bidt Forschung) | Severin Kacianka (TU München)  | Prof. Alexander Pretschner (TU München, bidt-Direktorium), Prof. Julian Nida-Rümelin (LMU München, bidt-Direktorium)

Im Projekt „Ethik in der agilen Softwareentwicklung“ am bidt wird ein Konzept entwickelt, um ethische Überlegungen bereits in den Prozess der Softwareentwicklung zu integrieren.

Download Working Paper

Wie trifft man eine ethisch richtige Entscheidung? Aufgrund des zunehmenden Einsatzes von Softwaresystemen in immer mehr gesellschaftlichen Bereichen kommt dieser Frage bei der Softwareentwicklung eine wachsende Bedeutung zu. Ethische Entscheidungen, die sich auch in Algorithmen abbilden, haben durch ihre Anwendung im Maschinellen Lernen oder in autonomen Systemen oft Auswirkungen auf sehr viele Menschen. Es ist daher wichtig, dass Entscheidungen, die das Design der Softwareanwendung bedingen, klar argumentiert und nachvollziehbar sind.

In diesem Papier stellt das bidt mit dem EDAP-Schema (Ethische Deliberation für agile Prozesse) ein Tool vor, das es agilen Teams erlaubt, die ethische Dimension ihrer Entwicklungsentscheidungen zu strukturieren, klar zu kommunizieren und schlüssig zu deliberieren. Dadurch können diese Entscheidungen von Dritten nachvollzogen und geprüft werden.

Das Wichtigste in Kürze

Derzeit ist es technisch unmöglich, Maschinen beziehungsweise Algorithmen so zu programmieren, dass sie selbstständig ethisch wünschenswerte Resultate berechnen. Nichtsdestotrotz werden Maschinen immer mehr Teil unserer Lebenswelt und tiefer in unsere Gesellschaft sowie unseren Alltag integriert werden. Aufgrund ihrer enormen Reichweite und ihres Einflusses auf menschliche Entscheidungen haben solche Systeme eine starke normative Kraft. Softwaresysteme lenken beabsichtigt oder unbeabsichtigt Entscheidungen, weshalb sowohl im Entwicklungsprozess als auch im Technologie-Einsatz auf ungewollte, aber auch gewollte Implikationen Rücksicht genommen werden sollte.

Aktuell werden diese Design-Entscheidungen oft willkürlich, das heißt meist intuitiv und assoziativ, durch das Zusammenspiel von Entwicklerinnen/ Entwicklern und Technologie getroffen. Sehr oft setzt sich dabei das zumeist implizite ethische Verständnis von Vorgesetzten oder rhetorisch starken Minderheiten durch. Es ist daher ausschlaggebend, diesem häufig unstrukturierten Vorgehen mit einem semistrukturierten, auf wissenschaftlichen Erkenntnissen beruhenden Prozess entgegenzuwirken, um normative Belange zu lokalisieren und – wenn und wo notwendig – zu diskutieren und zu berücksichtigen.

Das EDAP-Schema fügt sich nahtlos in bestehende Entwicklungsprozesse ein, unterstützt die ethische Deliberation nicht nur des Entwicklerteams, sondern des ganzen Unternehmens – und dies ohne wesentliche Mehrarbeit. Als solches leistet es einen Beitrag zur Debatte um ethische Systeme und bietet einen pragmatischen und praxistauglichen Ansatz, Systeme unter ethischen Gesichtspunkten zu entwickeln.

Ressourcen

Working Paper

Ethische Deliberation
für agile Softwareprozesse:
EDAP-Schema

Download PDF
Forschungsprojekt

Ethik in der agilen Softwareentwicklung
ffffffffffffffffffffff
fffffffffffff

Link zum Projekt

Ansprechpartner

Zum Working Paper
Niina Zuber
Wissenschaftliche Referentin Forschung
Für Presseanfragen
Margret Hornsteiner
Abteilungsleiterin Dialog

Weitere Beiträge

BLOG

Ethischen Kodizes im Kontext der Softwareentwicklung mangelt es an praktischer Anwendbarkeit, da sie auftretende Wertekonflikte nicht lösen können. Unser EDAP-Ansatz schließt die Lücke zwischen Theorie und Praxis.

Symbolische Darstellung von Softwareentwicklung: Programmierer vor einem Computer
INTERVIEW

Der Philosoph Julian Nida-Rümelin und der Informatiker Alexander Pretschner forschen gemeinsam darüber, wie sich ethische Überlegungen bereits in die Entwicklung von Software integrieren lassen.

Alle Publikationen

NEWSLETTER

Neuigkeiten zur digitalen Transformation

Newsletter abonnieren