Professor Eric Hilgendorf ist Mitglied im bidt-Direktorium und Co-Projektleiter von zwei Forschungsvorhaben am Institut. Im Interview spricht der Jurist über die rechtlichen Herausforderungen der Digitalisierung, etwa bei Technologien wie der Künstlichen Intelligenz, und über die mitunter nötige Änderung juristischer Einschätzungen über die Zeit.
Sie leiten das Projekt „Zum Verhältnis von Rechtspolitik und Ethik in der Digitalisierung“ mit dem Philosophen Professor Nida-Rümelin. Könnten Sie den juristischen Blick darauf kurz erläutern?
Die digitale Transformation wirft eine Vielzahl von gesellschaftlichen Herausforderungen auf. Die Gesellschaft wird rechtliche Rahmenbedingungen schaffen müssen, um sie menschenverträglich zu gestalten. Wenn man 250 Jahre zurückschaut, zur industriellen Revolution, sieht man, dass es damals versäumt wurde, rechtzeitig rechtliche Regelungen zu schaffen. Das führte zu katastrophalen Zuständen, zu Verarmung breiter Bevölkerungsschichten, sozialen Verwerfungen bis hin zu Revolutionen, extremen Umweltverschmutzungen. Es hat damals über 100 Jahre gedauert, bis man diese Probleme beseitigen konnte. Es geht jetzt darum, es besser zu machen und rechtzeitig rechtliche Regelungen einzuführen.
Unser Projekt geht von der Prämisse aus, dass Juristen und Rechtspolitiker solche Regelungen nicht einfach so entwickeln können, sondern dass ethische Überlegungen erforderlich sind.
Es geht darum, neuere rechtspolitische Bestrebungen im Zusammenhang mit der Einhegung von Digitalisierung daraufhin zu untersuchen, welche rechtsethischen Gesichtspunkte hier genannt werden, und ob die Nennung solcher Argumente den philosophischen Standards genügt: Sind sie hinreichend klar formuliert und konsistent? Erfolgt die Berufung etwa auf Menschenwürde oder das Gemeinwohl unreflektiert oder theoretisch fundiert? Begnügt sich der Gesetzgeber mit Schlagworten oder beruhen seine Argumente auf einer tragfähigen Theorie?
Wir versprechen uns davon, dass die Rechtspolitik an Rationalität und damit natürlich auch an Überzeugungskraft und Akzeptanz in der Bevölkerung gewinnt. Es geht in unserem Projekt also nicht um die vordergründige Bewertung rechtspolitischer Vorhaben im Kontext der Digitalisierung, sondern um die systematische Erfassung, Analyse und Bewertung der dabei vorgebrachten rechtsethischen Argumente. Recht und Ethik arbeiten hier Hand in Hand.
Forschungsprojekt
Die Dynamik der digitalen Transformation lässt sich nur dadurch rechtlich einfangen, dass man sich zunächst auf Rahmenbedingungen konzentriert.
Prof. Dr. Dr. Eric Hilgendorf Zum Profil
Welche Herausforderung stellt die Dynamik der digitalen Transformation für das Recht dar?
Man wird nicht jedes Detail sofort regulieren können. Oft ist es sogar gefährlich, unter dem Eindruck echter oder vermeintlich akuter Problemszenarien Detailregulierungen zu schaffen, die dann in Zukunft womöglich gar nicht passen und kurz danach schon wieder obsolet sind.
Grundsätzlich ist der erste Schritt immer, sich Szenarien zu überlegen oder bereits vorhandene Szenarien daraufhin zu analysieren, ob das geltende Recht darauf anwendbar ist und, falls ja, welche neuen Interpretationen vielleicht erforderlich sind, um die Anwendbarkeit zu sichern – zum Beispiel beim autonomen Fahren oder der Monopolbildung im Internet.
Also braucht es nicht unbedingt neue Regulierungen für neue Technologien?
So ist es. Man wird häufig feststellen, dass die geltenden Regeln ausreichen. Hier ist erst einmal die Wissenschaft gefragt, Situationen zu durchdenken und Lösungen zur Diskussion zu stellen. Rechtspolitische Schnellschüsse schaden oft mehr als sie helfen.
Sie sind einer der Projektleiter in einem neuen Projekt am bidt zu „Mensch-KI-Partnerschaften für Erklärungen in komplexen soziotechnischen Systemen“. Was sind die aus Ihrer Sicht interessanten Fragestellungen dabei?
Mir scheint besonders interessant, dass hier möglicherweise eine neue Art von Akteur entsteht, den es so bislang nicht gab – jedenfalls meinen das viele. Anders als Maschinen wie ein klassisches Auto oder eine Industriemaschine, die ein Fließband antreibt, haben wir es bei Künstlicher Intelligenz mit etwas zu tun, dass zumindest den Anschein erweckt, als würde es eigenständig handeln. Das ist zum Beispiel der Fall, wenn eine Künstliche Intelligenz automatisiert Verträge abschließt oder eine Maschine nicht auf einen menschlichen Input reagiert, sondern völlig eigenständig agiert und selbst dazu lernt. Wenn das zu Schäden führt, entstehen neuartige Haftungsfragen.
Künstliche Intelligenz birgt sehr spannende neue ethische und rechtliche Herausforderungen.
Prof. Dr. Dr. Eric Hilgendorf Zum Profil
Manche KI-Anwendungen werden so gebaut, etwa humanoide Roboter, dass sie auch wie Akteure aussehen. Was bedeutet das rechtlich?
Bei Robotern, die menschenähnlich aussehen und sich so äußern, vielleicht sogar Emotionen vorspiegeln, wird es für eine Bürgerin, einen Bürger sehr schwierig sein, die Grenze zu ziehen zwischen Mensch und Sache.
Wenn etwa die Roboterrobbe Paro Schnurrgeräusche erzeugt, sich warm und pelzig anfühlt und ein freundliches, einladendes Gesicht hat, führt das dazu, dass viele Menschen sie personalisieren und meinen, sie haben es mit einem fühlenden Wesen zu tun.
Meines Erachtens ist das ein gefährlicher Irrtum. Hier entstehen keine neuen Subjekte. Aber der Anschein ist da. Und das bedeutet, dass man prüfen muss, inwieweit das Recht hier angepasst werden muss oder ob vielleicht bestimmte rechtspolitische Vorstöße als Irrtümer zu kritisieren sind.
Sie sagten vorhin, dass häufig das geltende Recht ausreicht. Gibt es auch Lücken, die aus Ihrer Sicht schon offensichtlich sind?
Ja, es gibt auch Lücken. Das deutsche Recht ist, was die Haftung angeht, vor allem die Zivilhaftung, sehr weit. Das ist ganz anders beim Datenschutz. Der Datenschutz in Europa ist in der DSGVO geregelt, und die erfasst primär personenbezogene Daten. Das ist historisch erklärbar und grundsätzlich richtig. Es besteht ein nachvollziehbares Bedürfnis, dass Informationen etwa über persönliche Vorlieben oder persönliche medizinische Daten nicht nach Belieben verbreitet werden können. Der „gläserne Mensch“ ist für Europäer, zumal Deutsche, die zwei totalitäre Diktaturen erlebt haben, eine angsterregende Vorstellung. Dagegen rechtliche Barrieren zu errichten macht Sinn.
Aber es gibt ein neues Feld: technische Daten. Das sind zum Beispiel Daten, die in einem Industrieroboter mittels Sensoren über Verschleißteile entstehen, die für die Fernwartung übertragen werden können. Diese Daten haben für die Hersteller solcher Maschinen einen außerordentlichen wirtschaftlichen Wert. Es kann zum Beispiel Vorteile gegenüber der Konkurrenz bedeuten, wenn man Informationen hat über den Verschleiß eines Maschinenteils relativ zur Nutzungsdauer oder zur Außentemperatur, denn auf diese Weise lassen sich die Maschinen passgenau verbessern.
Doch diese Daten sind im Moment nicht geschützt. Nach heutigem Stand besteht keinerlei rechtliche Möglichkeit, jemanden, der das System hackt und die Daten illegal abzieht, zur Verantwortung zu ziehen, jedenfalls dann nicht, wenn die Daten nicht besonders gesichert waren. Wobei man streng genommen gar nicht von einem „illegalen“ Abziehen der Daten sprechen kann: Denn Daten sind nicht eigentumsfähig, sie gehören niemandem.
Das Eigentumsrecht regelt Sachen, und Daten sind keine Sachen. Sie sind etwas Neues und dafür fehlt die rechtliche Regulierung. In einer Zeit, in der Daten als das neue „Öl des 21. Jahrhunderts“ bezeichnet werden, ist dies ein überraschender Befund.
Sie beschäftigen sich bereits seit Mitte der 1990er-Jahre mit der Digitalisierung aus ethischer und juristischer Perspektive. Hat man damals schon geahnt, wie sehr sie unser Leben und unseren Alltag bestimmen wird?
Die Wucht der ganzen Entwicklung hat man so wohl nicht vorausgesehen, obwohl viele, und ich auch, schon relativ früh gewarnt haben, dass möglicherweise die Tech-Giganten zu groß werden und irgendwann einmal nicht mehr zu kontrollieren sind. Auch Großkonzerne dürfen das Gemeinwohl nicht missachten; irgendwann stößt der Schutz des Eigentums an Grenzen. Oder anders ausgedrückt: „Eigentum verpflichtet“.
Ein Thema, das mich von Anfang an stark umgetrieben hat, ist die Haftung von Providern. Das betrifft zum Beispiel die Frage, ob nicht nur ein Krimineller strafrechtlich haftet, der über das Internet rechtsradikale Propaganda oder Hatespeech verbreitet, sondern ob man auch Provider zur Verantwortung ziehen kann, wenn sie es zulassen, dass über ihre Server solche Hetze läuft.
Hier gab es eine intensive Diskussion schon in den Neunzigerjahren. Der Gesetzgeber, zumal der europäische, hat sich damals zu Recht dafür entschieden, die Provider stark zu privilegieren, weil man dieses damals neue Geschäftsfeld Internet nicht überregulieren wollte.
Privilegierungen, die vor 20 oder 25 Jahren Sinn gemacht haben, sind heute nicht mehr zeitgemäß, auch weil die Digitalisierung so viele Bereiche erfasst hat.
Prof. Dr. Dr. Eric Hilgendorf Zum Profil
Wenn ein Provider im Wissen, dass einer seiner Nutzer kriminelle Aktivitäten im Netz entfaltet, diesen nicht sperrt, sollte er meines Erachtens wegen Beihilfe bestraft werden. Das würde Providern ein sehr starkes Motiv geben, solche Personen vom Netz zu nehmen und das Netz besser zu sichern. Das gilt bei Angriffen auf Krankenhäuser, die über das Internet gehackt werden, ebenso wie zum Beispiel für Hatespeech und Rechtspropaganda.
Der Gesetzgeber hat sich bisher nicht getraut, diese alte Privilegierung aufzuheben. Immerhin hat er vor ein paar Jahren das Netzwerkdurchsetzungsgesetz erlassen, das Betroffenen von Hatespeech das Recht gibt, eine Löschung von Einträgen zu verlangen. Es sieht hohe Geldbußen vor, wenn diese Löschung nicht erfolgt. Das ist ein Schritt in die richtige Richtung. Das Netzwerkdurchsetzungsgesetz ist erst kürzlich verschärft worden, meines Erachtens zu Recht. Ich vermute, dass der Weg dahin gehen wird, die Provider unter bestimmten Voraussetzungen als Gehilfen oder Mittäter auch strafrechtlich zur Verantwortung zu ziehen. Ich halte dies für richtig.
Wir haben bislang vor allem über deutsches und europäisches Recht gesprochen. Lässt sich ein globales Phänomen wie die Digitalisierung überhaupt national regeln?
Im ganzen Bereich der Digitalisierung schafft Europa die rechtlichen Standards. Das wird in der angelsächsischen Welt halb ärgerlich, halb neidvoll als „Brussels Effect“ bezeichnet.
In Amerika findet die Regulierung bei neuen Produkten nicht im Vorfeld statt, dafür ist die Produkthaftung sehr stark ausgebildet und es kann hohe Schadensersatzprozesse geben, wenn etwas passiert.
Der europäische Weg ist anders. Europa reguliert, bevor neue Technologien auf den Markt kommen, und legt Rahmenbedingungen fest. Große Hersteller wie Microsoft, die oft in den USA sitzen, aber auch in Europa verkaufen wollen, passen sich den europäischen Vorgaben inzwischen nolens volens häufig an. Natürlich wird aber versucht, durch gezielte Lobbyarbeit allzu strenge europäische Regeln zu verhindern.
Beim automatisierten Fahren hat Deutschland zum Beispiel im Sommer 2017 als erstes Land der Welt eine Regelung für eine bestimmte Kategorie von Fahrzeugen erlassen. Das wurde sofort in Japan und China diskutiert.
Die Welt blickt, was das Juristische angeht, sehr stark nach Europa und insbesondere nach Deutschland. Inzwischen wird im Bundesverkehrsministerium eine neue Regelung für weitgehend automatisiert fahrende Level-4-Fahrzeuge vorbereitet. Man kann sicher sein, dass auch dieser Vorstoß weltweit beachtet wird.
Europa reguliert, bevor neue Technologien auf den Markt kommen, und legt Rahmenbedingungen fest.
Prof. Dr. Dr. Eric Hilgendorf Zum Profil
Zur Person
Professor Eric Hilgendorf begleitet die Digitalisierung bereits seit Mitte der 1990er-Jahre aus rechtsethischer und juristischer Perspektive. Der Inhaber des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtstheorie, Informationsrecht und Rechtsinformatik an der Universität Würzburg, wo er die Forschungsstelle RobotRecht leitet, ist Mitglied im bidt-Direktorium. Gemeinsam mit Professor Julian Nida-Rümelin leitet er das Projekt „Zum Verhältnis von Rechtspolitik und Ethik in der Digitalisierung“.
