| Aktuelles | Blog | Künstliche Intelligenz vor Gericht

Künstliche Intelligenz vor Gericht

Der Einsatz von Algorithmen und Künstlicher Intelligenz durch die Polizei zur Abwehr von Gefahren ist umstritten. Die Technologie erweist sich zwar als überaus nützlich, denn die Polizei kann mit deren Hilfe riesige Datenmengen auswerten, was Menschen händisch nicht könnten. Allerdings führt gerade diese Tatsache zu tiefen Grundrechtseingriffen. Nun hat das Bundesverfassungsgericht erstmals umfassend dazu Stellung genommen.


Die Länder Hamburg und Hessen haben eine Rechtsgrundlage für eine automatisierte Auswertung der polizeilichen Datenbestände geschaffen. Hintergrund ist, dass die Polizei sehr große Datenmengen gesammelt hat und es schwierig ist, diese händisch auszuwerten, um Anhaltspunkte für zukünftige Straftaten zu finden. Hessen setzt deshalb eine Software der Firma Palantir ein, also einen Algorithmus, der die Datenbestände der Polizei automatisiert auswerten kann.

Dabei werden nicht nur polizeilich Verdächtige in die Datenbank eingegeben, um Anhaltspunkte für zukünftiges strafbares Verhalten dieser Personen zu finden, es sollen auch Strukturen und Netzwerke von Kriminellen erkannt werden. Hessen setzt zwar nur einen Algorithmus ein, die Rechtsgrundlage ist aber technikoffen formuliert, sodass auch künstliche Intelligenz angewendet werden könnte. Das Bundesverfassungsgericht hat demnach seine gerichtlichen Maßstäbe unter der Prämisse formuliert, dass künstliche Intelligenz zum Zuge kommt. Insofern stand künstliche Intelligenz erstmals vor dem höchsten deutschen Gericht.

Zu messen war der in das Recht auf informationelle Selbstbestimmung eingreifende Einsatz der automatisierten Datenauswertung, die gegebenenfalls mithilfe von künstlicher Intelligenz arbeitet, am Grundsatz der Verhältnismäßigkeit. Dabei war entscheidend, welches spezifische Eingriffsgewicht der Einsatz der Technologie mit sich bringt.

Das Bundesverfassungsgericht hat ausgeführt, dass bereits die automatisierte Datenauswertung lediglich mithilfe eines Algorithmus schwer wiegt, da dadurch neues Wissen erzeugt werden kann. Bereits der Algorithmus kann etwas, das Menschen, die vor diesen riesigen Datenmengen stehen, nicht können. Zum einen können Personen verdächtig werden, die vorher nicht verdächtig waren, indem Netzwerke und Strukturen aus den Datenbergen ermittelt werden. Zum anderen kann der Algorithmus durch die Verknüpfung der vorhandenen Datenmengen auch ein komplettes Bild einer Persönlichkeit entwerfen. Wenn künstliche Intelligenz eingesetzt wird, steigt das Eingriffsgewicht nach Aussage des Gerichts sogar noch weiter. Es sei dann mittels Mustererkennung ein Predictive Policing möglich, also eine Aussage über die zukünftige Gefährlichkeit bestimmter Personen mittels künstlicher Intelligenz. Hinzu kämen insbesondere die bekannten Probleme der erschwerten Nachvollziehbarkeit von künstlicher Intelligenz sowie Gefahren von Diskriminierung.

Es stellte sich damit die Frage, ob der Einsatz von schwerwiegenden Algorithmen oder gar künstlicher Intelligenz mithilfe der automatisierten Datenauswertung in der Polizeiarbeit gerechtfertigt werden kann. Das Gericht hat klargemacht, dass der Einsatz der Technologie mit unserer Verfassung unter engen Voraussetzungen in Einklang gebracht werden kann. Es sind die engen Voraussetzungen, die das Bundesverfassungsgericht in ständiger Rechtsprechung zu schwerwiegenden heimlichen Ermittlungsmaßnahmen entwickelt hat: nur zum Schutz besonders gewichtiger Rechtsgüter, wie Leib, Leben und Freiheit einer Person sowie Bestand und Sicherheit eines Bundes oder eines Landes, wesentlicher Infrastruktureinrichtungen oder sonstiger Anlagen mit unmittelbarer Bedeutung für das Gemeinwesen. Auch bedarf es einer hinreichend konkretisierten Gefahr für diese besonders gewichtigen Rechtsgüter. Es müssen Tatsachen vorliegen, die zumindest in Konturen umreißen, wer wann was plant, welches eine Gefahr für die besonders gewichtigen Rechtsgüter darstellt, damit die Technologie eingesetzt werden kann.

Das Urteil erging zwar nur zu Algorithmen und künstlicher Intelligenz in der Polizeiarbeit. Doch es weist darüber hinaus und lässt sich auf den Einsatz der Technologie in anderen Bereichen durch staatliche Stellen übertragen. Wichtig ist dabei zum einen das jeweils spezifische Eingriffsgewicht von Algorithmen und besonders künstlicher Intelligenz. Ebenso wichtig ist aber, dass die Anwendung der Technologie grundsätzlich möglich ist. Es müssen nur hinreichend gewichtige Gründe vorliegen, die die jeweilige Schwere des Eingriffs nach dem Grundsatz der Verhältnismäßigkeit aufwiegen können. Das Bundesverfassungsgericht hat also „Ja, aber“ zu künstlicher Intelligenz gesagt.

Die vom bidt veröffentlichten Blogbeiträge geben die Ansichten der Autorinnen und Autoren wieder; sie spiegeln nicht die Haltung des Instituts als Ganzes wider.