New Yorker Anwälte nutzen ChatGPT zur juristischen Recherche und fliegen auf
Den New Yorker Anwälten Peter LoDuca und Steven Schwartz von der Kanzlei „Levidow, Levidow & Oberman“ droht ein Disziplinarverfahren, nachdem ihre Kanzlei das KI-Tool ChatGPT zur juristischen Recherche verwendet hatte. Der zuständige Richter bezeichnete den Vorfall als „noch nie dagewesenen Umstand“, da in einem Schriftsatz auf juristische Beispielfälle verwiesen wurde, die sich als nicht existent herausstellten.
ChatGPT ist ein KI-Modell, das auf Anfrage (sog. Prompts) Texte erstellt, jedoch darauf hinweist, dass es „ungenaue Informationen produzieren kann“. Oft neigt es zum halluzinieren, in dem es falsche Inhalte und Quellen erfindet. Im konkreten Fall hatte das Anwaltsteam einen Schriftsatz eingereicht, der auf mehrere frühere Gerichtsverfahren als Präzedenzfälle verwies, um die Erfolgsaussichten ihres Mandanten zu untermauern. Die Anwälte der gegnerischen Fluggesellschaft meldeten jedoch später, dass sie mehrere der angeführten Fälle gar nicht finden konnten.
Der zuständige Richter Castel stellte fest, dass sechs der vorgelegten Fälle gefälscht waren, mit gefälschten Gerichtsentscheidungen, Zitaten und internen Verweisen unterlegt. Es stellte sich heraus, dass die Recherchen nicht vom Anwalt des Klägers, Peter LoDuca, durchgeführt wurden, sondern von seinem Kollegen derselben Kanzlei, Steven A. Schwartz. Letzterer hatte ChatGPT genutzt, um nach ähnlichen Fällen zu suchen.
Schwartz erklärte schriftlich, dass LoDuca nicht an der Recherche beteiligt war und nichts von deren Durchführung wusste. Er gab weiter an, nicht gewusst zu haben, dass der Inhalt von ChatGPT auch fehlerhaft sein könnte und bedauerte den Einsatz des Chatbots. Er versprach, in Zukunft keine KI mehr zur Ergänzung seiner Recherchen zu verwenden, ohne deren Authentizität zu überprüfen. Beide Anwälte wurden aufgefordert, bei einer Anhörung am 8. Juni zu erklären, warum sie keine disziplinarischen Maßnahmen verdienen.
