Der Einsatz von künstlicher Intelligenz in der Justiz

Im Blickpunkt: Überlegungen zu möglichen Einsatzszenarien

Von Isabelle Désirée Biallass

Beitrag als PDF (Download)

Einleitung
Legal Tech und künstliche Intelligenz (KI) sind zwei Begriffe, die aktuell in den Medien verstärkt Erwähnung finden. In der Regel werden nur Einsatzgebiete außerhalb der Justizverwaltung und nicht im Rahmen der Arbeit bei Gericht diskutiert.
Bei dem Einsatz in der Justiz handelt es sich um ein sensibles Thema, das von einer möglichst breit gefächerten interdisziplinären Diskussion profitieren kann. Die Justiz muss in einem ersten Schritt ermitteln, welche Einsatzmöglichkeiten technisch möglich sind. In einem zweiten Schritt muss dann geklärt werden, welche Einsatzmöglichkeiten auch gewünscht und welche aus gesetzlichen oder ethischen Gründen ausgeschlossen sind.

Datenverfügbarkeit
Für ein erfolgreiches Training einer in der Justiz eingesetzten KI wird eine große Menge Justizdaten benötigt. Nach dem Abschluss der Einführung der elek­tronischen Akte zum 01.01.2026 werden erstmals große Mengen Justizdaten in elektronischer Form verfügbar sein. Diese werden jedoch nicht in einer einheitlichen Datenbank vorliegen, sondern durch die Arbeit mit bundesweit drei E-Akten-Systemen entstehen und wahrscheinlich auf Datenbanken in mindestens 16 Rechenzentren gespeichert sein.
Sollte die politische Entscheidung getroffen werden, dass KI zur Unterstützung der richterlichen und staatsanwaltschaftlichen Tätigkeit eingesetzt werden soll, wäre es sinnvoll, eine Einigung über eine bundesweite Sammlung der Justizdaten für das Training der KI zu erzielen.
Vor einer derartigen Entscheidung müssen aber zahlreiche Fragen beantwortet werden. Welche Daten sollen zur Verfügung gestellt werden? Wie sollen die Pseudonymisierung dieser großen Datenmengen erfolgen und eine Reidentifizierung ausgeschlossen werden? Sollen die Daten nur zum Training von in der Justiz eingesetzten Anwendungen verfügbar sein, oder sollen sie auch zum Training von Anwendungen, die durch die Anwaltschaft oder Unternehmen genutzt werden, verwendet werden können? Ist dies vielleicht sogar aus Waffengleichheitsgesichtspunkten geboten? Sollen die Namen der Richter und der weiteren professionellen Verfahrensbeteiligten in den übergebenen Daten enthalten bleiben, oder ­sollen sie entfernt werden?
Hintergrund der letzten Frage sind die in der „European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment“ aufgestellten Überlegungen, dass die Namen von Richtern für ein Richterprofiling verwendet werden können. Denkbar wäre, dass Unternehmen versuchen, weitere personenbezogene Daten von Richtern aus anderen Quellen zu erlangen, um durch die Nutzung von Querverweisen versteckte Vorurteile aufzudecken. Diese könnten beispielsweise von Anwälten genutzt werden, um einen Befangenheitsantrag zu begründen oder um in Verfahren, in denen ein Forumshopping möglich ist, durch KI gezielt den für sie günstigen Richter auswählen zu lassen. Die ethische Charta wurde von der Europäischen Kommission für die Effizienz der Justiz (CEPEJ), die durch den Europarat eingerichtet wurde, in ihrer Plenarsitzung am 03. und 04.12.2018 verabschiedet.

Einsatzszenarien
Den Richter vollständig durch KI zu ersetzen, kommt in Deutschland nicht in Betracht. Aus dem Wortlaut von Art. 92 GG i.V.m. Art. 97 GG ergibt sich, dass die rechtsprechende Gewalt dem Richter, der eine natürliche Person sein muss, anvertraut ist. Auch das Recht auf ein öffentliches Verfahren aus Art. 6 EMRK dürfte dessen Leitung durch einen menschlichen Richter voraussetzen.
Es sind aber verschiedene Einsatzszenarien denkbar, in denen KI eingesetzt wird, um die Arbeit des Richters zu erleichtern. Sie könnte – in Fortentwicklung der bestehenden E-Akten-Systeme – bei der Strukturierung der Akte unterstützen, indem sie bestimmte Textteile, etwa Daten, Zitate von Rechtsprechung und Literatur, Anträge, Beweisangebote, erkennt und diese in einer Form aufarbeitet, die die richterliche Arbeit beschleunigt. Des Weiteren kann sie bei der Identifizierung von Wiederholungen oder ähnlichen Textteilen helfen. Die KI-gestützte Auswertung von Beweismitteln (Bild-, Video- und Audiomaterial) hat ebenfalls großes Potential.
Ein zweites mögliches Einsatzfeld wäre die Verbesserung der Interaktion des Bürgers mit der Justiz durch einen Justizchatbot, ein Rückfragesystem zur sinnvollen Erfassung von Anträgen oder Klageerwiderungen. Denkbar wäre, diesen in einem ersten Schritt auf einem PC auf der Rechtsantragsstelle einzusetzen. Der Rechtspfleger könnte den Antrag dann prüfen und ergänzen. In einem zweiten Schritt könnte der verbesserte Chatbot über das Internet zur Verfügung gestellt werden. Sofern nicht von den bestehenden Möglichkeiten der elektronischen Einreichung Gebrauch gemacht wird, müsste der Schriftsatz allerdings – nach der aktuellen Rechtslage – immer noch ausgedruckt, unterzeichnet und an das Gericht übersendet werden. Technisch wäre auch der telefonische Zugriff auf den Chatbot umsetzbar. Auch in diesem Fall müsste das System jedoch so aufgebaut werden, dass am Ende der Eingang eines unterzeichneten Schriftsatzes bei Gericht steht.
Ein drittes Einsatzszenario wäre die Unterstützung bei der Bearbeitung juristischer Sachverhalte durch KI. Ob es nach dem aktuellen Stand der Technik bereits möglich ist, eine KI zu entwickeln, die in der Lage ist, den nächsten sinnvollen Arbeitsschritt vorzuschlagen und vorzubereiten, kann nur durch ein Pilotprojekt geklärt werden.

Ethische Überlegungen
KI stellt ein mächtiges Werkzeug dar, das nur verantwortungsvoll eingesetzt werden darf. Deswegen sollten so früh wie möglich auch Überlegungen zu ethischen Fragen erfolgen.
In den USA wird der COMPAS-Algorithmus zur Bewertung der Rückfallwahrscheinlichkeit von Straftätern eingesetzt. Der Software wird mangelnde Transparenz vorgeworfen. Sie wurde von einem privaten Unternehmen entwickelt, das sich auf das Recht an seinem geistigen Eigentum beruft und den zugrundeliegenden Algorithmus nicht veröffentlicht. Infolgedessen konnte der von der NGO ProPublica erhobene Vorwurf, dass die Software bestimmte Personengruppen diskriminieren würde, nur auf deren Ergebnisse und nicht auf das Studium des von ihr verwendeten Algorithmus gestützt werden.
Selbst wenn der Algorithmus offengelegt wird, ist es im Fall von „Back-Box“-Systemen nicht nachvollziehbar, wie der Algorithmus zu seinem Ergebnis gelangt ist. Kommt man zu dem Schluss, dass es für den Einsatz in der Justiz insgesamt oder im Fall von bestimmten Einsatzszenarien in der Justiz notwendig ist, dass die KI nachvollziehbare Antworten liefert, scheidet der Einsatz von mehreren Methoden zur Entwicklung von künstlicher Intelligenz aus.
Schon zum jetzigen Zeitpunkt sollte eine öffentliche, fachliche und wissenschaftliche Debatte darüber beginnen, welche Einsatzmöglichkeiten in Erwägung gezogen werden dürfen und wo die Grenzen zu ziehen sind.

Fazit
Wie die vorherigen Überlegungen gezeigt haben, handelt es sich bei „Legal Tech und KI in der Justiz“ um ein hochaktuelles Thema, zu dem hier nur einige Überlegungen angerissen werden konnten. Es wäre ein Fehler, Überlegungen auf diesem Gebiet zurückzustellen, bis die große Herausforderung, die die Einführung des elektronischen Rechtsverkehrs und der elektronischen Akte für die Justiz darstellt, bewältigt ist.B

Hinweis der Redaktion: Der Beitrag gibt ausschließlich die persönliche Auffassung der Autorin wieder. (tw)

isabelle.biallass@jm.nrw.de