Wie beeinflusst ChatGPT die Jurawelt? Werden Urteile bald nur noch von Robotern gesprochen? Und was sagt eigentlich die Rechtssprechung zu den neuesten Entwicklungen der generativen KI? In der neuen Kolumne Richter und Roboter von ARIC und Fieldfisher beleuchten Dennis Hillemann und Stephan Zimprich im Wechsel einmal monatlich Themen aus KI und Recht. Im März geht es um Roboterrichter.
In Deutschland könnte ein Richter, der mit Künstlicher Intelligenz arbeitet oder selbst eine solche KI darstellt, eine revolutionäre Veränderung in der Rechtsprechung darstellen. Endlich eine schnelle und effektive Rechtsprechung (?). Dabei gibt es zwei mögliche Szenarien: Einerseits kann die KI den menschlichen Richter unterstützen, andererseits kann die KI selbst als Richter:in fungieren. In diesem Beitrag möchte ich beide Szenarien grundlegend beleuchten und mich nicht nur als Rechtsanwalt fragen: Möchten wir einen „Roborichter“?
Untersuchen wir zunächst Grundlegendes zu den beiden möglichen Szenarien.
Szenario 1: KI als Unterstützung für Richter:innen
Im ersten Szenario dient die KI als Unterstützung für den menschlichen Richter. Sie könnte beispielsweise bei der juristischen Recherche helfen, indem sie gleichgelagerte Entscheidungen findet. Die KI könnte und kann auch unstrukturierte Datenbestände analysieren und relevante Informationen extrahieren, um dem Richter bei der Entscheidungsfindung zu helfen. In diesem Fall bleibt der menschliche Richter die letzte Entscheidungsinstanz und überwacht und kontrolliert die KI.
Dieses Zusammenspiel von menschlicher und künstlicher Intelligenz könnte langfristig die Zukunft der Rechtsprechung prägen. Das letzte Wort bliebe immer einer menschlichen Instanz vorbehalten. Für die Jurist:innen unter den Leser:innen: Die KI wird dabei also zu einer Art besseren „Juris“ oder „Beck“, also einer erweiterten juristischen Datenbank, die gleich die relevante Rechtsprechung und Literatur zu einem Fall heraussucht, analysiert und auf die eine oder andere Weise vorarbeitet.
Szenario 2: KI als Richter:in
Im zweiten Szenario agiert die KI selbst als Richter. Das wäre also der „Roborichter“ im engeren Sinne. Hierbei könnte die KI zunächst unverbindliche Vorschläge erarbeiten, die der menschliche Richter in den ersten Jahren ohne Weiteres wegklicken kann, danach aber nur noch, wenn er dies begründet.
Noch später könnte die KI anfangen, den menschlichen Richter zu ersetzen, indem sie über Zahlungsansprüche mit sehr geringem Wert und bei leicht standardisierbaren Fällen, wie im Straßenverkehrsrecht, entscheidet, wenn die Gefahr von Grundrechtseinschränkungen niedrig ist. In diesem Fall müsste jedoch sichergestellt werden, dass die KI weniger Fehler als menschliche Richter macht und Rechtsstaatlichkeit vollständig gewährleistet bleibt. Dazu gehört unter anderem, dass ein menschlicher Richter die KI umfassend kontrolliert und letzte Entscheidungsinstanz bleibt. Ansonsten hätten wir vielleicht Zustände, von denen selbst Kafka in seinen dunkelsten Geschichten nicht zu träumen gewagt hätte.
Brown Bag Session zum Thema
Am 23. März (Donnerstag) hält Dennis Hillemann eine Remote Brown Bag Session über Robototerrichter.
→ Kostenloser Zugang über Meetup
Beispiele in der Praxis
KI hat in den letzten Jahren immer mehr an Bedeutung gewonnen und findet auch in der juristischen Arbeitspraxis und im Richteramt Anwendung. Weltweit gibt es verschiedene Beispiele, wie KI die juristische Arbeit unterstützt und sogar Entscheidungen trifft.
- Ein Beispiel für den Einsatz von KI in der juristischen Arbeit ist die automatisierte Recherche. KI-Systeme können große Mengen an Daten durchsuchen und relevante Informationen für einen bestimmten Fall finden. Dies erleichtert die Arbeit von Jurist:innen und Richter:innen, da sie schneller auf wichtige Informationen zugreifen können. In Deutschland gibt es beispielsweise das Projekt „Vertrauenswürdiger Einsatz von künstlicher Intelligenz“ . Dieses Projekt untersucht, wie KI bei der juristischen Recherche helfen kann, zum Beispiel dabei, gleichgelagerte Entscheidungen zu finden.
- Ein besonders kurioser Fall ereignete sich jüngst in Kolumbien, wo ein Richter namens Juan Manuel Padilla tatsächlich ChatGPT zur Urteilsfindung heranzog. In diesem Fall ging es um die medizinische Versorgung eines autistischen Kindes und die Frage, ob dessen Eltern die Kosten für Arzttermine, Therapie und Transport von der Krankenversicherung erstattet bekommen sollten. Padilla zog den Chatbot zu Rate und kam zu dem Schluss, dass die Kasse diese Ausgaben übernehmen muss.
- In einigen Ländern werden KI-Systeme sogar als „Richter“ eingesetzt, um Entscheidungen in bestimmten Fällen zu treffen. Ein Beispiel hierfür ist das estnische Projekt „KrattAI“, welches darauf abzielt, KI-gestützte Entscheidungen in Verwaltungsverfahren zu ermöglichen. Die KI soll dabei helfen, einfache Fälle schneller und effizienter zu bearbeiten, während menschliche Richter sich auf komplexere Fälle konzentrieren können.
- Auch in den USA gibt es Beispiele für den Einsatz von KI im juristischen Bereich. Dort wird beispielsweise das System „ROSS Intelligence“ verwendet, welches auf künstlicher Intelligenz basiert und Jurist:innen bei der Recherche und Analyse von Rechtsprechung unterstützt.
- Ein weiteres bekanntes Projekt im Bereich der KI ist „DoNotPay“. Dieses Unternehmen hat sich zum Ziel gesetzt, mithilfe von Künstlicher Intelligenz Rechtsberatung und -vertretung für Menschen anzubieten, die sich sonst keine professionelle Hilfe leisten könnten. DoNotPay hat bereits damit begonnen, den Einsatz von KI in verschiedenen Verfahren zu testen, beispielsweise bei der Videotelefonie. Der Gründer hat sich allerdings auch mit der amerikanischen Rechtsanwaltskammer „herumzuschlagen“, die – für einen Anwalt verständlich – wenig begeistert von dem Angebot war. Trotz einiger rechtlicher Bedenken und Herausforderungen zeigt das Projekt, wie KI dazu beitragen kann, den Zugang zu Rechtsdienstleistungen für eine breitere Bevölkerungsschicht zu ermöglichen.
Es ist wichtig zu betonen, dass der Einsatz von KI in der juristischen Arbeitsweise und im Richteramt noch in den Anfängen steckt und kontinuierlich weiterentwickelt wird. Dennoch zeigen diese Beispiele, dass KI das Potenzial hat, die juristische Arbeit effizienter und präziser zu gestalten und somit zu einer gerechteren Rechtsprechung beizutragen.
Ethische und rechtliche Aspekte
Der Einsatz von KI im Richteramt wirft zahlreiche rechtliche und ethische Fragen auf. Dabei geht es vor allem um die Vereinbarkeit von KI-gestützten Entscheidungen mit den Grundrechten, die Unabhängigkeit der Justiz und die Rolle von Empathie und menschlichem Ermessen in der Rechtsprechung.
Ein Argument für den Einsatz von KI im Richteramt ist die mögliche Effizienzsteigerung und Entlastung des Justizsystems. Künstliche Intelligenz kann schneller und objektiver als menschliche Richter arbeiten, was zu einer Beschleunigung von Verfahren und einer besseren Umsetzung des Rechts auf effektiven Rechtsschutz führen könnte. Zudem könnten KI-Richter frei von persönlichen Befindlichkeiten und Vorurteilen entscheiden, was dem Willkürverbot nach Art. 3 Abs. 1 Grundgesetz (GG) entsprechen würde. Dieses besagt, dass alle Menschen vor dem Gesetz gleich sind und staatliche Gewalt nicht nach subjektiven Gefallensgrundsätzen handeln darf. Dadurch werden Bürger:innen vor staatlicher Willkür, Diskriminierung und Menschenrechtsverletzungen geschützt.
In den Vereinigten Staaten kam es allerdings zu einem beunruhigenden Vorfall, bei dem ein Roboterrichter, also ein KI-gestütztes System, diskriminierend gegen People of Color gehandelt hätte (Can you make AI fairer than a judge? Play our courtroom algorithm game | MIT Technology Review). Dieses Szenario verdeutlicht die Notwendigkeit, KI-Systeme auf gerechte Weise zu entwickeln und einzusetzen, um algorithmische Diskriminierung zu verhindern. Um solche diskriminierenden Entscheidungen in Zukunft zu verhindern, fordern Expert:innen und Bürgerrechtsorganisationen, dass KI-Systeme einer proaktiven Gleichheits- und Ungleichheitsbewertung unterzogen werden und auf Grundlage eines repräsentativen und robusten Datensatzes entwickelt werden. Darüber hinaus sollte es eine unabhängige Bewertung potenzieller algorithmischer Diskriminierung und eine möglichst öffentliche Berichterstattung geben.
Auf der anderen Seite gibt es auch Bedenken gegen den Einsatz von KI im Richteramt: Ein wesentlicher Kritikpunkt ist die fehlende Menschlichkeit und Empathie von KI-Richtern. In vielen Fällen bedarf es einer individuellen Abwägung der Interessenlagen, die eine KI möglicherweise nicht leisten kann. Zudem stellt sich die Frage, wie die Unabhängigkeit der Justiz gewährleistet werden kann, wenn KI-Richter von Menschen programmiert werden. Es besteht die Gefahr, dass die Programmierung diskriminierend oder voreingenommen ist. Was die Kritiker übersehen: Auch so mancher Richter kann sehr voreingenommen sein. Nicht jeder Richter ist ein Musterbeispiel an Neutralität und Empathie. Sie sind auch „nur“ Menschen.
Zudem wirft der Einsatz von KI in der Rechtsprechung Fragen bezüglich der Gewaltenteilung, der Unabhängigkeit der Richter, des Anspruchs auf rechtliches Gehör und der Garantien im Strafverfahren auf. Es ist wichtig, dass diese Grundsätze gewahrt bleiben, wenn KI in die Rechtsprechung Einzug hält. Zudem sollte die KI-Entscheidung nachprüfbar sein, um sicherzustellen, dass bei Fehlern angemessen reagiert wird.
Es ist aktuell noch nicht vorstellbar, menschliche Richter durch ‚Robo-Judges‘ vollständig zu ersetzen, da es verfassungsrechtliche Bedenken im Hinblick auf Art. 92 GG gibt, der die rechtsprechende Gewalt ausschließlich menschlichen Richter:innen vorbehält.
Insgesamt bietet der Einsatz von KI in der Rechtsprechung großes Potential, sowohl in der Unterstützung des menschlichen Richters als auch in der möglichen Rolle als eigenständiger Richter. Dennoch muss dabei stets die Legitimation und Kontrolle durch den Menschen gewährleistet sein, um die Grundprinzipien des Rechtsstaates zu wahren. Es zeigt sich, dass der Einsatz von KI im Richteramt sowohl Chancen als auch Risiken birgt. Während KI-Richter zur Effizienzsteigerung und Objektivität beitragen können, sind die fehlende Menschlichkeit und mögliche Beeinträchtigungen der Unabhängigkeit der Justiz ernstzunehmende Bedenken. Es bleibt abzuwarten, wie sich die Technologie weiterentwickelt und ob es gelingt, die Vorteile von KI im Richteramt zu nutzen, ohne die grundlegenden Prinzipien der Rechtsstaatlichkeit zu gefährden.
Ablösung des Menschen – wollen wir das wirklich?
In einer Welt, in der immer mehr Aufgaben an Maschinen und Software delegiert werden, stellt sich die Frage, ob eine Ablösung des Menschen durch einen Roboterrichter wirklich gewollt sein kann.
Einerseits können KI-Systeme große Mengen an Daten schnell analysieren und auf Basis dieser Analyse Entscheidungen treffen. Dies könnte dazu beitragen, dass Gerichtsverfahren schneller abgeschlossen werden und Mandanten schneller Klarheit über ihren Fall erhalten. Die Reaktionszeit von Maschinen ist berechenbar und immer gleich, während die des Menschen variieren kann. Ein Beispiel dafür ist das autonome Bremssystem im Straßenverkehr, das schneller auf Hindernisse reagiert als ein Mensch.
Andererseits birgt der Einsatz von KI im Richteramt auch Risiken und Nachteile. KI-gestützte Algorithmen sind anfällig für Hackerangriffe und könnten somit die Sicherheit von sensiblen Informationen gefährden. Zudem besteht die Gefahr, dass die menschliche Komponente in der Rechtsprechung verloren geht. Ein Roboterrichter mag zwar schneller und präziser arbeiten, doch fehlt ihm die Empathie und das Verständnis für menschliche Emotionen und individuelle Lebensumstände, die bei der Urteilsfindung eine wichtige Rolle spielen können.
Über den Autoren
Dennis Hillemann
ist Partner im Fieldfisher Office in Hamburg und berät und vertritt Unternehmen und öffentliche Stellen im Verwaltungsrecht. Er ist Gründer verschiedener Netzwerke und Mitglied in verschiedenen Vereinen.
Die Ablösung des Menschen durch einen Roboterrichter würde eine grundlegende Veränderung im Justizsystem bedeuten. Während einige Prozesse effizienter und schneller ablaufen könnten, besteht die Gefahr, dass die Qualität der Rechtsprechung leidet und das Vertrauen der Menschen in das Justizsystem schwindet. Es ist daher wichtig, sorgfältig abzuwägen, in welchem Umfang und unter welchen Bedingungen KI im Richteramt eingesetzt werden sollte.
Insgesamt bleibt die Frage, offen. Es ist unbestreitbar, dass KI in vielen Bereichen Vorteile bietet und zur Effizienzsteigerung beitragen kann. Dennoch sollte der Einsatz von KI im Richteramt mit Bedacht erfolgen, um die Integrität und Menschlichkeit der Rechtsprechung zu bewahren.
Fazit und Ausblick
Die Digitalisierung und der Einsatz von Algorithmen und KI haben in vielen Bereichen Einzug gehalten, auch im deutschen Justizsystem. Obwohl es Vorteile bei der Verwendung von Technologie in der Justiz gibt, sind sich Experten einig, dass Roboterrichter in absehbarer Zukunft nicht die menschlichen Richter:innen ersetzen werden.
Einige Vorteile des Einsatzes von Algorithmen und KI im Justizsystem sind die Effizienzsteigerung und die Beschleunigung von Gerichtsverfahren. Durch den Einsatz von Technologie können Richter:innen bei der Berechnung bestimmter Ansprüche unterstützt werden. Auch für Rechtsanwält:innen gibt es bereits zahlreiche Tools, die bei der Auswertung und Erstellung von juristischen Dokumenten, wie Verträgen, helfen können.
Insgesamt wird der Umgang mit Recht durch die Digitalisierung und den Einsatz von Algorithmen und KI verändert. Für Rechtsuchende wird sich die Verfolgung ihrer Ansprüche in vielen Bereichen deutlich erleichtern, während Rechtsanwälte umdenken müssen. Gerichtsprozesse könnten schneller werden, aber der Faktor Mensch wird weiterhin eine wichtige Rolle im deutschen Justizsystem spielen.
