Ethische Entscheidungen autonomer Fahrzeuge

KI-Systeme werden zunehmend autonomer und sind in der Lage, spezifische Aufgaben eigenständig und ohne direkte menschliche Intervention auszuführen. Ein Beispiel hierfür sind autonome Fahrzeuge, die ab dem SAE-Automatisierungsgrad 3 in einem definierten Betriebsbereich bestimmte Fahrfunktionen ohne die Beteiligung menschlicher Fahrer:innen übernehmen können. Autonome Fahrzeuge treffen beispielsweise Entscheidungen darüber, wie viel Abstand sie zu anderen Verkehrsteilnehmerinnen und ‑teilnehmern halten, wann sie bremsen oder, in extremen Fällen, mit wem sie in unvermeidbaren Unfallsituationen kollidieren. Obwohl die Einführung autonomer Fahrzeuge grundsätzlich eine Verbesserung der Verkehrssicherheit erwarten lässt, hat die Vergangenheit gezeigt, dass dennoch Unfälle durch autonome Fahrzeuge auftreten können, die lebenswichtige Entscheidungen verlangen. Aber auch herkömmliche Entscheidungen über das Einhalten des erforderlichen Mindestabstands oder das Bremsverhalten eines autonomen Fahrzeugs tragen normative Bedeutung, da sie bestimmen, welchem Individuum wie viel Risiko auferlegt wird. Verringert ein autonomes Fahrzeug beispielsweise den Abstand zu einem Fahrradfahrer, so steigt die Wahrscheinlichkeit einer Kollision und im Falle einer Kollision der erwartete Schaden für diesen Fahrradfahrer. Die Tätigkeiten und das Fahrverhalten autonomer Fahrzeuge beinhalten also unter anderem die Übernahme komplexer und ethischer Entscheidungen, die letztendlich implizit festlegen, was eine gerechte Verteilung von Risiken im Straßenverkehr bedeutet.

Fraglich ist, was genau eine faire Risikoverteilung im Straßenverkehr ist und wie entsprechende ethische Überlegungen in die Trajektorienplanung autonomer Fahrzeuge eingebettet werden können. Sind Automobilhersteller verpflichtet, ihre autonomen Fahrzeuge so zu programmieren, dass die Sicherheit der Passagiere priorisiert wird? Sollten nicht in erster Linie vulnerable Gruppen wie Fußgänger:innen Fahrradfahrer:innen einen speziellen Schutz erhalten? Ist es zulässig, persönliche Merkmale wie das Alter der Straßenteilnehmer:innen bei der Entscheidungsfindung autonomer Fahrzeuge zu berücksichtigen? Wie lassen sich abstrakte Werte wie Fairness oder Sicherheit effektiv in KI-Systemen operationalisieren und in diese integrieren? Dies sind beispielhafte Fragestellungen und Herausforderungen, mit denen sich das Forschungsgebiet der Maschinenethik auseinandersetzt. Unternehmen müssen schließlich die Prinzipien und ethischen Überlegungen, die den Entscheidungen zugrunde liegen, im Voraus programmieren, um sicherzustellen, dass diese Aspekte explizit in der Entscheidungsfindung der autonomen Systeme berücksichtigt werden. Das übergeordnete Ziel der Maschinenethik besteht daher unter anderem darin, KI-Systeme zu entwickeln, die die Fähigkeit besitzen, moralische Informationen zu verarbeiten, Handlungsalternativen (basierend auf ethischen Prinzipien) abzuwägen und entsprechende Entscheidungen zu treffen. Im Hinblick auf autonome Fahrzeuge wurden mittlerweile bereits Ethikrichtlinien und Gesetze (z. B. BMJ 2023; Lütge 2017) verabschiedet, die den Schutz von Dritten und vulnerablen Straßenteilnehmerinnen und ‑teilnehmern vorschreiben und es untersagen, Entscheidungen auf Basis persönlicher Merkmale zu treffen. Richtlinien dieser Art und Initiativen im Bereich der Maschinenethik können dazu beitragen, die Entwicklung und Programmierung autonomer Fahrzeuge so zu gestalten, dass sie sich an gesellschaftlichen Bedürfnissen und Werten orientieren.

Vergleichbarkeit mit analogen Phänomenen

Im herkömmlichen, nicht automatisierten Straßenverkehr übernehmen Menschen die Fahrfunktionen. Sie treffen – eingebettet in die Vorgaben des Straßenverkehrsgesetzes – individuell Entscheidungen bezüglich des Abstands zu anderen Verkehrsteilnehmern, ihrer Geschwindigkeit und ihres Bremsverhaltens. Sie handeln instinktiv, passen ihr Fahrverhalten spontan an die vorliegende Straßensituation an und viele Entscheidungsprozesse – vor allem in Unfallsituationen – laufen schnell und unterbewusst ab. Im Kontext autonomer Fahrzeuge ergibt sich die Möglichkeit und Notwendigkeit, Entscheidungsprozesse und -prinzipien im Voraus festzulegen. Im automatisierten Straßenverkehr handelt es sich also nicht um intuitive, Ad-hoc-Entscheidungen einer einzelnen Fahrerin oder eines einzelnen Fahrers, sondern um vorprogrammierte, wohlüberlegte Entscheidungsprozesse, die ex ante definiert und in das Fahrzeug eingepflegt werden müssen. Um die optimale Trajektorie überhaupt auswählen zu können, müssen autonome Fahrzeuge zunächst ihr Umfeld und alle Handlungsalternativen identifizieren und analysieren. Dies erfordert die Erhebung und Verarbeitung vieler Daten, wie beispielsweise physische Hindernisse, das Fahrverhalten, die Geschwindigkeit oder den exakten Standort anderer Straßenteilnehmer:innen. Ein entscheidender Faktor für die effektive und sichere Implementierung autonomer Fahrzeuge und ihrer Entscheidungen im Straßenverkehr ist daher die vernetzte Mobilität, die es den Fahrzeugen ermöglicht, miteinander zu kommunizieren und Daten in Echtzeit auszutauschen.

Gesellschaftliche Relevanz

Die vorprogrammierten Entscheidungsprozesse autonomer Fahrzeuge haben im Vergleich zu den Entscheidungen einzelner menschlicher Fahrer, die lediglich das unmittelbare Umfeld betreffen, weitreichende gesellschaftliche Konsequenzen, z. B. hinsichtlich Fairness- und Sicherheitsaspekten. Der Einflussbereich der Entscheidungen autonomer Fahrzeuge ist somit erheblich größer. Sofern sich (ähnlich programmierte) autonome Fahrzeuge zunehmend verbreiten, skaliert die „automatisierte Moral“ also schneller im Gegensatz zum nicht automatisierten Straßenverkehr, wo dies nicht der Fall ist. In Anbetracht dessen ist es angebracht, eingehend über die spezifischen (ethischen) Prinzipien nachzudenken, die den Entscheidungsprozessen autonomer Fahrzeuge zugrunde liegen.

---