Das Smartlaw-Paradox oder warum das RDG zur Regulierung von ChatGPT & Co. ungeeignet ist
Die verblüffende Leistungsfähigkeit von ChatGPT-4 und ähnlicher Anwendungen bringt neue Dynamik in die Frage nach der Zulässigkeit eines Robolawyers. Können und dürfen Rechtsdienstleistungen durch Software erbracht werden?
Lola-Test
Einfach machte es sich in den USA noch 2015 der US Court of Appeals for the Second Circuit in der der Entscheidung Lola v. Skadden, Arps, Slate, Meagher & Flom LLP (1). Geklagt hatte ein mit der standardisierten, rein routinemäßigen Durchsicht von Dokumenten beschäftigter (anwaltlicher) Mitarbeiter*innen gegen die Kanzlei Skadden Arps auf Vergütung von Überstunden. Angestellte Anwält*innen haben in den USA für anwaltliche Arbeiten keinen Anspruch auf Überstundenvergütung. Darauf konnte sich Skadden Arps jedoch aus Sicht des Gerichts nicht berufen. Das Gericht befand vielmehr, dass Tätigkeiten, die vollständig von einer Maschine verrichtet werden können, niemals Rechtsdienstleistungen sein können: „tasks that could otherwise be performed entirely by a machine cannot be said to engage in the practice of law (2)”. Folgt man diesem sog. „Lola-Test“, dann stellt sich die Frage eines möglichen Verstoßes von Software gegen das Anwaltsmonopol für Rechtsdienstleistungen nicht.
Ganz so eindeutig scheint die Sache allerdings auch in den USA nicht zu sein. Es gab dort in den vergangenen Jahren eine ganze Reihe von Rechtstreitigkeiten, in denen Software-Anbietern die unauthorized practive of law vorgeworfen wurde. Und so scheiterte unlängst der Versuch des US-amerikanischen KI-Anbieters DoNotPay, einen Chatbot Antworten in einer mündlichen Gerichtsverhandlung „vorsagen“ zu lassen, an der Drohung mit Strafanzeigen durch verschiedene lokale Rechtsanwaltskammern. Und Anfang März dieses Jahres wurde die erste Class Action gegen DoNotPay mit der Begründung erhoben, die Software sei ungeeignet, ihre Versprechungen einzulösen. „Unfortunately for its customers, DoNotPay is not actually a robot, a lawyer, nor a law firm. DoNotPay does not have a law degree, is not barred in any jurisdiction, and is not supervised by any lawyer,“ heißt es in der Klage.
Chat GPT-4: „Ich bin kein Anwalt“
Auch in Deutschland stellt sich mit der zunehmenden Popularität von ChatGPT die Frage nach der Zulässigkeit von Rechtsberatung mittels KI. Zwar bemüht sich OpenAI, jeweils darauf hinzuweisen, dass man keinen Rechtsrat nicht erteile. Ein gängiger Disclaimer lautet: „Ich bin kein Anwalt, aber ich kann Ihnen einige allgemeine Informationen geben. Beachten Sie, dass dies keine Rechtsberatung ist und Sie einen Anwalt oder Fachmann konsultieren sollten, um Ihre spezifische Situation zu bewerten.“ Das ist aber lediglich ein hübscher, aber untauglicher Versuch, etwaiger Kritik aus dem Weg zu gehen.
Gem. § 3 Rechtsdienstleistungsgesetz (RDG) ist die selbstständige Erbringung außergerichtlicher Rechtsdienstleistungen nur in dem Umfang zulässig, in dem sie durch das Rechtsdienstleistungsgesetz oder aufgrund anderer Gesetze erlaubt wird. Danach dürfen Rechtsdienstleistungen lediglich aufgrund gesetzlicher Erlaubnis erbracht werden: im Übrigen sind sie verboten. Von Ausnahmefällen abgesehen dürfen Rechtsdienstleistungen daher nur von Anwält*innen erbracht werden. Eine Rechtsdienstleistung ist nach § 2 Abs. 1 RDG jede Tätigkeit in konkreten fremden Angelegenheiten, sobald sie eine rechtliche Prüfung des Einzelfalls erfordert.
Smartlaw-Entscheidung des BGH
In der Smartlaw-Entscheidung vom 9. September 2021 (3) des BGH ging es um die Zulässigkeit eines softwarebasierten Vertragsgenerators. Es klagte die RAK Hamburg gegen die Wolters Kluwer GmbH, die mit ihrem Smartlaw Vertragsgenerator einen softwarebasierten Vertragsgenerator zur Erstellung von Verträgen und Dokumente bereitstellte. Die Vorinstanz hatte noch gemeint, dass bereits ein Subsumtionsvorgang nicht vorliege, weil ein solcher eine menschliche oder zumindest eine mitdenkende Tätigkeit voraussetze, und es damit an einer Tätigkeit i.S. von § 2 Abs. 1 RDG fehle. Dem ist der BGH nicht gefolgt. Hierfür sei es unerheblich, ob die entsprechende Leistung vom Anbieter mittels eines Computerprogramms erbracht werde. Im konkreten Fall scheiterte ein Verstoß gegen das RDG jedoch daran, dass die Software nach Ansicht des BGH nicht in einer konkreten Angelegenheit eingesetzt wurde. Begründet wurde dies damit, dass die von Smartlaw erstellten Dokumente nicht auf der Grundlage eines von einer bestimmten Person unterbreiteten konkreten Sachverhalts erstellt würden, sondern im Kern nur ein fiktiver oder abstrakter Fall zu beurteilen sei. Die Sache sei ähnlich wie bei einem Formularhandbuch rein standardisiert und die Anwendung bestehe im Endeffekt aus dem Zusammenbau fertiger Textbausteine. Auch „die Unterstützung beim Ausfüllen eines dem Kunden überlassenen, alle wesentlichen rechtlichen Gesichtspunkte vorgebenden Formulars in Form der Abfrage und Einfügung von tatsächlichen Sachverhaltsangaben stellt keine Rechtsdienstleistung in einem konkreten Fall dar“ (4). Eine Berücksichtigung von über den Standardfall hinausgehenden Umständen des Einzelfalls finde hingegen nicht statt.
Mit der weiteren Frage, ob eine rechtliche Prüfung im Einzelfall vorliege, musste sich der BGH gar nicht mehr auseinandersetzen. Eine solche liegt nach der Gesetzesbegründung vor, wenn eine über „die bloß schematische Anwendung von Rechtsnormen hinausgehende Tätigkeit“ (5) vorliege. In diesen Fällen ist die Subsumtion unter juristische Begriffe und Tatbestände auch für juristische Laien so selbstverständlich, dass die Rechtsanwendung kein besonderes rechtliches Wissen voraussetzt (6).
Im Kern hat es sich der BGH einfach gemacht, indem er mittels einer Art abgespeckten Lola-Tests die Fähigkeiten der Software im konkreten Fall heruntergeredet hat. In Wirklichkeit lassen sich, anders als der BGH damals meinte, bereits durch relativ einfache Entscheidungsbäume von der Art, die Vertragsgeneratoren zugrunde liegen, sehr konkrete Antworten auf alle möglichen Rechtsfragen geben, die sich in der Praxis inhaltlich und erst recht qualitativ kaum von dem unterscheiden, was viele Anwält*innen den ganzen Tag machen.
ChatGPT kann Rechtsdienstleistungen liefern
Die Entscheidung war daher nur ersten Blick ein Sieg für Legal Tech. Was manche im Nachgang zu Smartlaw schon vorher sagten (7), ist spätestens mit ChatGBT-4 eingetreten. Dass nämlich das RDG dem Einsatz leistungsfähigerer KI-Tools im Rechtsbereich entgegensteht, wenn man die Smartlaw-Grundsätze darauf anwendet. ChatGPT-4 ist den bloß schematischen Lösungsmodellen, wie demjenigen, das vom BGH zu beurteilen war, haushoch überlegen. Auch unter Zugrundelegung des Tests des BGH können Large generative AI models wie ChatGPT-4 gerade nicht nur Antworten auf abstrakte Rechtsfragen liefern, sondern konkrete Rechtsfragen beantworten. Man kann einen konkreten Sachverhalt unterbreiten und bekommt eine rechtliche Einschätzung dazu. Die Kunst der Nutzung von ChatGPT besteht gerade darin, dem System möglichst konkrete Fragen zu stellen und gerade auf den konkreten Fall zugeschnittene Antworten zu bekommen. Und noch besser, man kann mit dem System in einen Dialog treten, Rückfragen stellen und die Antworten dadurch weiter verfeinert und noch präziser auf den konkreten Fall zugeschnitten bekommen.
Und das auch und gerade auf Fragen, die eben nicht nur eine schematische, d.h. für jedermann offensichtliche Rechtsanwendung voraussetzen, sondern eine auch im Sinne des RDG „echte“ rechtliche Würdigung. Das mag gegenwärtig noch nicht alles andere als perfekt sein, verblüffend gut ist es aber auch heute schon. Auf jeden Fall ist klar: KI wird konkrete Rechtsfragen in nächster Zukunft mit einer Sicherheit und Schnelligkeit beantworten können, die die Beratung durch einen Rechtsanwalt oder eine Rechtsanwältin um Längen übertrifft. And then what?
Diese Anwendung von KI auf rechtliche Einzelfälle fällt nach ihrem Inhalt eindeutig unter die Definition der Rechtsdienstleistung und ist daher in Deutschland ohne entsprechende Erlaubnis nicht zulässig. Das betrifft natürlich nicht alle Anwendungsfälle von KI mit rechtlichem Bezug, aber ganz bestimmt die spannendsten. Wir werden daher vermutlich in nicht allzu ferner Zukunft den Antrag einer deutschen Rechtsanwaltskammer auf Untersagung von KI-basierten Anwendungen sehen. Diese wäre vermutlich erfolgreich.
Smartlaw-Paradox: je besser, desto verbotener?
Und damit sind wir beim Kern des Problems. Das ist das Smartlaw-Paradox. Je besser KI wird, desto klarer ist, dass der Anwendungsbereich des RDG eröffnet ist und KI daher von Nicht-Anwält*innen eigentlich nicht eingesetzt werden darf. Sobald KI so gut wird wie Anwält*innen oder sogar besser, desto verbotener ist Nicht-Anwält*innen (und anderen Erlaubnisträger*innen) ihr Einsatz in Deutschland zur Lösung juristischer Fragen.
Nun dient allerdings das RDG dazu, die Rechtsuchenden, den Rechtsverkehr und die Rechtsordnung vor unqualifizierten Rechtsdienstleistern zu schützen (§ 2 Abs. 1 Satz 2 RDG). Der Schutz des Anwaltsstandes ist nicht Gegenstand des RDG. Angewandt auf intelligente AI-Lösungen verkehrt sich der Zweck des Gesetzes in sein Gegenteil. Das RDG wird zum Vehikel zum Schutz der Anwält*innen vor KI und verwehrt den Verbraucher*innen den Zugang zu einfacheren, kostengünstigerer und schnelleren Lösungen ihrer Rechtsprobleme. Wenn man einmal unterstellt, dass KI in nächster Zukunft in der Lage sein wird, Rechtsrat besser, schneller und kostengünstiger zu erteilen als Rechtsanwält*innen, gibt es keinen Grund, Rechtsrat nicht durch technische Lösungen erteilen zu lassen.
Im Gegenteil. Vermutlich stellt sich die Frage umgekehrt. Können wir es uns in Zukunft noch leisten, Rechtsdienstleistungen von Rechtsanwält*innen erbringen zu lassen, wenn diese nicht nachweisen, dass sie mindestens so gut sind wie KI? Oder sich zumindest der Hilfe von KI bedienen?
Reform des RDG ist unerlässlich
Statt durch das Rechtsdienstleistungsgesetz den Einsatz von KI im Rechtsmarkt zu behindern, sollte der Fortschritt auf dem Gebiet von KI das Ende des RDG einläuten. Das Anwaltsmonopol hat, sorry BRAK und DAV, zumindest soweit die Beratung mittels Softwarelösungen betroffen ist, ausgedient. Und wir können es uns nicht leisten, dass das RDG insoweit gesamtgesellschaftlich sinnvolle Lösungen ohne tieferen Grund verbietet.
Wie aber schützen wir uns vor Missbrauch und „schlechter“ KI? Die Situation bei Rechtsrat ist insofern genauso, wie bei anderen Anwendungsfällen von KI. Tatsächlich gibt auch insoweit die EU den Weg vor. Die geplante KI-Verordnung klassifiziert KI-Anwendungen in verschiedene Risikoklassen. Besonders strenge Regeln gelten für Anwendungen, die als hoch riskant eingestuft werden (Hochrisiko-KI). Dazu gehören auch rechtliche Anwendungen. Hier gilt es, die entsprechenden Vorkehrungen auch für rechtliche Lösungen zu implementieren, nicht aber über die Verbote des RDG (8).
Diese mit dem Einsatz von KI verbundene Disruption bedeutet nicht das Aus für Rechtsanwält*innen. Ihnen bleibt nicht nur eine wichtige Rolle im Rahmen der Entwicklung, Anwendung und Kontrolle von KI. Sondern ihnen bleiben auch all die zentralen Leistungen, die KI nicht bereitstellen kann, sondern einen Menschen als trusted advisor erfordern. Nur dieser kann nämlich statt einer rückwartsbezogenen Wiederholung der Vergangenheit einen hilfreichen Blick in die Zukunft geben mit Empathie und Judgement und einer pragmatischen Antwort auf die Frage „Was soll ich tun?“. Und auch nur der Mensch, nicht aber KI, kann wirklich die Frage beantworten: „Was ist im konkreten Fall gerecht?“.
Fussnoten:
(1) 620 F. App´x 37,44 (2d Circ. 2015).
(2) A.a.0., S. 45.
(3) BGH NJW 2021, 3125.
(4) BGH NJW 2012, 3125, 3228.
(5) BT-Drs. 16/3655, 46.
(6) Deckenbrock/Henssler, Rechtsdienstleistungsgesetz, 5. Auflage 2021, § 2 Rdn. 37.
(7) Hartung, LTZ 2022, 63, 69.
(8) Siehe zu entsprechenden Vorschlägen: Hacker, Philipp, Engel, Andreas; List, Theresa: Understanding and Regulating ChatGPT, and Other Large Generative AI Models: With input from ChatGPT, VerfBlog, 2023/1/20, https://verfassungsblog.de/chatgpt/, DOI: 10.17176/20230120-220055-0.
Autor: Dr. Matthias Birkholz ist Gründungspartner und Co-Managing Partner der Berliner Rechtsanwaltssozietät lindenpartners. Schwerpunkte seiner Tätigkeit sind Gesellschaftsrecht/M&A und Litigation. Besonders am Herzen liegt ihm das Thema „Law Firm for Future“.
