Chancen, Grenzen und konkrete Einsatzmöglichkeiten von KI in der Strafjustiz – diese Themen standen im Mittelpunkt eines Workshops zu KI und Strafrecht, bei dem Fachleute aus Justiz, Rechtswissenschaft, psychologischer Forschung und Technologie gemeinsam diskutierten. Der Workshop fand im Rahmen des vom bidt geförderten Forschungsprojekts „Wie ‚menschlich‘ muss Gerechtigkeit sein? Psychologische Determinanten von Vertrauen in Ko-Kreation mit generativer KI im Kontext Rechtssystem (Gerechte KI)“ statt, das untersucht, welche psychologischen Faktoren das Vertrauen in generative KI im Rechtssystem fördern oder hemmen. Das Projekt ist Teil des bidt-Forschungsschwerpunkts „Mensch und generative Künstliche Intelligenz: Trust in Co-Creation“. Dieser widmet sich der Frage, unter welchen Bedingungen Menschen der Interaktion mit generativer KI und den daraus resultierenden Produkten vertrauen beziehungsweise vertrauen könnten – und wann nicht.
Der Workshop widmete sich dabei nicht allein der Frage, was technisch bereits möglich ist. Ebenso im Fokus standen rechtliche Rahmenbedingungen, gesellschaftliche Akzeptanz und die Frage nach der menschlichen Verantwortung. Denn generative KI wird international bereits zunehmend für juristische Recherchen, die Informationsbeschaffung oder die Erstellung und Überarbeitung rechtlicher Dokumente eingesetzt. Bei gerichtlichen Entscheidungen selbst stößt ihr Einsatz jedoch auf besondere Anforderungen.
Vertrauen in KI – aber nicht ohne den Menschen
Welche Voraussetzungen die Justiz für einen verantwortungsvollen KI-Einsatz schaffen muss, zeigte der Eingangsimpuls von Dr. Martin Wachter, Leiter des Referats Legal Tech und KI im Bayerischen Staatsministerium der Justiz. Neben Datenschutz, technischen Kapazitäten und den Anforderungen der europäischen KI-Verordnung hob er insbesondere den Aufbau von KI-Kompetenz hervor. Psychologische Phänomene wie Confirmation Bias oder Ankereffekte machen deutlich, dass technische Unterstützung nicht automatisch zu besseren Entscheidungen führt. Vielmehr kann eine überzeugend wirkende KI auch zu einer Verschlechterung der Qualität von Entscheidungen führen, wenn fehlerhafter KI-Ergebnisse unkritisch übernommen werden. Entscheidend sei deshalb, Wissen über Funktionsweise, Möglichkeiten und Grenzen der Systeme in der Justiz zu verankern.
Man muss verstehen, wie das Ganze funktioniert, um es richtig nutzen zu können. Effizienzgewinne treten nur dann ein, wenn ich nicht mehr alles prüfen muss. Ich muss mich darauf verlassen können – und dafür muss ich es verstanden haben.
Dr. Martin Wachter
Dr. Marvin Walczok, wissenschaftlicher Mitarbeiter an der LMU (Sozialpsychologie mit Schwerpunkt Rechtspsychologie) im bidt-geförderten Projekt „Gerechte KI“, stellte psychologische Forschungsergebnisse zur Wahrnehmung KI-gestützter richterlicher Entscheidungen vor. Mehrere Studien des Projekts untersuchen unter anderem, wie Menschen rein menschliche, hybride und vollständig KI-basierte Entscheidungen beurteilen. Dabei zeigt sich: Rein KI-generierte Entscheidungen werden als weniger vertrauenswürdig wahrgenommen und finden weniger Akzeptanz – insbesondere bei emotional geprägten Straftaten. Hybride Modelle, bei denen Menschen und generative KI zusammenwirken, werden dagegen positiver bewertet, solange ein erkennbarer menschlicher Einfluss bestehen bleibt. Damit rückt eine grundsätzliche Frage in den Vordergrund: Wie menschlich müssen Entscheidungsprozesse in der Justiz sein, damit sie als legitim und vertrauenswürdig wahrgenommen werden?
Menschliche Akteure dürfen nicht vollständig ersetzt werden. Wir brauchen eine Rechtsprechung, die alle Akteurinnen und Akteure miteinschließt.
Dr. Marvin Walczok Zum Profil
Auch Dr. Sebastian Dötterl, Richter am Oberlandesgericht München, stellte die menschliche Entscheidungshoheit ins Zentrum seines Beitrags. An einem praktischen Experiment demonstrierte er, wie generative KI bereits heute Ermittlungsakten analysieren und Entwürfe für Abschlussverfügungen erstellen kann. Die technischen Möglichkeiten reichen damit von unterstützenden Analysen und Textentwürfen bis hin zur theoretisch denkbaren automatisierten Entscheidung. Gerade deshalb müsse geklärt werden, was technisch möglich, rechtlich erlaubt und für den Rechtsstaat angemessen sei. Sein Fazit: die Formel „Unterstützen Ja, Ersetzen Nein“ greife zu kurz, weil sie die Grundlage der Entscheidungen und den Entscheidungsprozess ausblendet.
Die Systeme müssten so programmiert sein, dass sie Anwenderinnen und Anwender zwingen, sich mit dem Fall, der Akte und dem Gesetz zu befassen. Die Aufgabe der Justizverwaltung: Schulungen organisieren, damit KI-Kompetenz in der Fläche ankommt – und die Anwendungen auf Herz und Nieren getestet werden können.
Dr. Sebastian Dötterl
Von Chatbots bis KI-Agenten: Was heute schon möglich ist
Einen Überblick über die praktische Nutzung von KI im juristischen Alltag gab Rechtsanwalt Nico Kuhlmann. Das Spektrum reicht von allgemeinen Chatbots über spezialisierte Legal-Research- und Workspace-Anwendungen bis hin zu automatisierten Workflows und KI-Agenten. KI kann beispielsweise als Sparringspartner bei der Ideenfindung dienen, erste Entwürfe erstellen, umfangreiche Dokumente auswerten oder beim Lernen unterstützen.
Für die vollständige Bearbeitung ganzer Arbeitsprozesse ohne menschliche Kontrolle sieht Kuhlmann dagegen derzeit keinen geeigneten Anwendungsbereich. Zugleich dürfte generative KI die juristische Arbeit grundlegend verändern: Unter anderem könnten Zahl und Umfang von Schriftsätzen wachsen und die Bandbreite ihrer Qualität größer werden.
Wir müssen uns selbst fragen: Wie kontrolliere ich die KI oder auch: Wie gehe ich vor, um die Kontrollfähigkeit zu haben?
Nico Kuhlmann
KI-Kompetenz wird zur Schlüsselqualifikation
Möglichkeiten und Grenzen der Systeme sowie die Lehre des nötigen Know-how prägten auch die abschließende Plenumsdiskussion mit Prof. Dr. Friederike Funk, (LMU, Leiterin des Forschungsprojekts „Gerechte KI“), Dr. Marvin Walczok, Dr. Sebastian Dötterl, Nico Kuhlmann und Dr. Martin Wachter. Neben der technischen KI-Kompetenz brauche es weiterhin fundierte juristische Fachkompetenz – und zunehmend eine ausgeprägte „Kontrollkompetenz“: Wer KI nutzt, muss ihre Ergebnisse kritisch prüfen und beurteilen können. Diese kritische Prüfung KI-erstellter Ergebnisse erfordert nicht nur die technischen KI-Kompetenzen, sondern auch die juristische Fachkompetenz.
Dabei spielt auch die juristische Ausbildung eine wichtige Rolle. Diskutiert wurde, wie KI-Kompetenz stärker in Studium und Referendariat verankert werden kann, ohne dass grundlegende fachliche Fähigkeiten verloren gehen. Denn Zeitdruck und hohe Komplexität können die Gefahr erhöhen, möglicherweise fehlerhafte KI-Ausgaben ungeprüft zu übernehmen.
Der interdisziplinäre Workshop machte deutlich: Die zentrale Frage für die Strafjustiz lautet längst nicht mehr, ob generative KI juristische Arbeit verändern wird. Entscheidend ist vielmehr, wie ihr Einsatz gestaltet werden kann – so, dass ihre Potenziale genutzt werden, ohne menschliche Urteilskraft, Verantwortung und rechtsstaatliche Prinzipien aus dem Blick zu verlieren. Psychologische Forschung kann hier mögliche Fehlerquellen aufzeigen und mit ihren Ergebnissen zu Lösungsansätzen beitragen. Dr. Martin Wachter brachte abschließend auf den Punkt:
Wir müssen uns alle selbst an der Nase fassen, das Denken nicht zu verlernen. Mit jedem Tag, den man KI nutzt, verliert man die ursprünglichen Fähigkeiten – und das wird rasend schnell gehen. Man sollte dafür sorgen, dass man die eigenen Kernkompetenzen nicht verliert.
Dr. Martin Wachter
