Verantwortungsbewusste Innovation als Framework für digitale Transformation
Digitale Transformation ist ein zentrales Thema in den Diskussionen über die Modernisierung der Rechtsbranche. Oft werden jedoch echte Anforderungen für einen nachhaltigen digitalen Wandel übersehen. Auch wenn der Drang nach einer schnellen Lösung verständlich und nötig ist, müssen wir die Digitalisierung unter Berücksichtigung ihrer weitreichenden Auswirkungen auf alle Beteiligten und unsere Umwelt vorantreiben.
Verantwortungsbewusste Innovation als ganzheitliches Framework
Inmitten technologischer Transformation und des Übergangs von analogen zu digitalen Bereichen rücken die Folgen von Innovationen für Gesellschaft, Demokratie, Umwelt und Wirtschaft in den Blickpunkt. Die Themen ESG und Legal Tech gewinnen beide für sich betrachtet immer mehr an Stellenwert. Man sollte die Begriffe jedoch nicht isoliert betrachten und mehr mit anderen Themen wie Corporate Digital Responsibility (CDR), Responsible Research & Innovation (RRI), digitaler Ethik zusammenführen und unter ein gemeinsames weitergehendes Framework zuordnen. Nachhaltige digitale Transformation sollte daher unter dem Stichwort der verantwortungsbewussten Innovation ganzheitlich gedacht und implementiert werden, um alle Stakeholder einzubeziehen und die Auswirkungen im Ganzen zu sehen. Das Ziel ist es, sicherzustellen, dass unternehmerische Innovation auch dem Gemeinwohl dient und der Gesellschaft als Ganzes zugutekommt, während unvorhergesehene negative Folgen minimiert werden.
Die Relevanz verantwortungsbewusster Prinzipien auf dem Rechtsmarkt
Die Rechtsbranche öffnet sich richtigerweise immer mehr für technologische Innovation – von der Rationalisierung interner Prozesse, über die Verbesserung bestehender Geschäftsmodelle bis hin zur kompletten Erneuerung bzw. Veränderung dieser. Juristen befinden sich in einer einzigartigen Position, da sie sich sowohl mit neuen Technologien auseinandersetzen als auch zu den damit verbundenen Fragen beraten müssen. Dabei nimmt verantwortungsvolle digitale Innovation eine immer zentralere Rolle in modernen Legal Tech- und Legal Operations-Strategien ein. Die jüngeren regulatorischen Entwicklungen wie z.B. die DSGVO, Digital Services Act, Digital Markets Act und EU AI Act verstärken diesen Trend.
Die Bedeutung von verantwortungsbewusster Innovation für Rechtsabteilungen und Kanzleien
Rechtsabteilungen tragen eine besondere Verantwortung bezüglich des Managements der KI- und Legal-Tech-Tools verbundenen Risiken. Sie beaufsichtigen die rechtlichen Risiken aller Tools innerhalb des Unternehmens, nicht nur die eigengenutzten Tools. Dabei ist es gerade in diesen Transformationsphasen besonders wichtig, mit den neuen Vorschriften und ethischen Risiken im Technologiebereich Schritt zu halten. Um Reputationsschäden und potenzielle Bußgelder zu vermeiden, müssen Unternehmen nicht nur kommende Vorschriften verfolgen, sondern auch digital-ethische Grundsätze aufstellen und die Mitarbeiter dafür sensibilisieren.
Beim Einsatz von KI in Unternehmen gehen die Risiken über den Datenschutz hinaus und betreffen alle Tools. So können z.B. Tools für die Personalbeschaffung, die die Überprüfung von Bewerberprofilen beschleunigen sollen, selbst bei anonymisierten Daten aufgrund veralteter Datensätze unbeabsichtigt zu Diskriminierung führen. Dies wird durch das nachgewiesene Phänomen des Automation Bias, bei dem Menschen maschinengenerierten Entscheidungen mehr vertrauen als ihren eigenen, verschärft. Die sorgfältige Auswahl und Verwendung von Tools ist daher von größter Bedeutung.
Die Einführung von Legal Tech Tools in Anwaltskanzleien verläuft parallel zu den Herausforderungen, mit denen Rechtsabteilungen konfrontiert sind, insbesondere in Bezug auf Datenschutz, Cybersicherheit und ESG-Überlegungen. Die Risiken offener generativer KI-Systeme, wie ChatGPT, reichen bis zur Verletzung des Anwaltsgeheimnisses.
Konkrete verantwortungsbewusste Implementierung von Legal Tech Tools
Verantwortliche müssen daher in dem Bewusstsein, dass die Integration von Technologien Risiken und Chancen birgt, nun konkret verantwortungsbewusst digitale Tools implementieren und die Arbeits- und Denkweise verändern. Dazu ist eine starke Digitalisierungsstrategie wichtig. Diese beinhaltet eine Risikoanalyse und die Einführung von Governance- und Change Management-Strategien, die auf menschenzentrierten Grundsätzen beruhen. Im Kern geht es darum, die Bedürfnisse der Nutzer, Interessengruppen und Umwelt zu ermitteln. In Zusammenarbeit mit ihnen sollten die ethischen, sozialen, ökologischen, kulturellen und wirtschaftlichen Folgen ermittelt und gemildert werden. Dies sollte sich an den Grundsätzen der menschlichen Aufsicht, der Cybersicherheit, des Datenschutzes, der Datenverwaltung, der Transparenz und Verantwortung, des sozialen und ökologischen Wohlergehens sowie der Vielfalt und Fairness orientieren.
Konkret sollte man sich daher im Rahmen von verantwortungsbewusster Innovation 10 Kernfragen stellen:
1. Was ist der Zweck unseres Innovationsvorhabens?
2. Welche Risiken und Vorteile ergeben sich aus der Innovation / Optimierung?
3. Welche diversen Gruppen im Unternehmen sind bei der Entwicklung / Prozessoptimierung einzubeziehen? Wie können wir unsere Mitarbeitenden an dem Veränderungsprozess teilhaben lassen und sie effektiv in der Umstellung begleiten?
4. Wie können wir uns bei Interessenkonflikten informieren und Einwilligungen einholen?
5. Wie stellen wir nutzerzentriertes Design sicher?
6. Wie können wir den Innovationsprozess transparent gestalten?
7. Welche moralische Rechtfertigung gibt es für mögliche positive / negative Folgen unseres Vorhabens?
8. Welche Werte vertreten wir? Wie können wir unser Prozess- / Produktdesign entsprechend dieser Werte umsetzen?
9. Welche sozialen Auswirkungen könnte der Innovationsprozess haben? Wie können wir diesen vorbereitend begegnen?
10. Welche ökologischen Risiken birgt das Innovationsvorhaben? Wie können wir diese umgehen oder etwaige negative Folgen kompensieren?
Ausblick
Indem sie sich proaktiv mit diesen Herausforderungen auseinandersetzen, können Juristen eine Vorreiterrolle bei der Einführung ethischer Technologien übernehmen und eine digitale Zukunft gestalten, die sowohl die Rechtsstaatlichkeit als auch das gesellschaftliche Wohlergehen respektiert. Dabei dürfen wir auch nicht vergessen, dass wir als europäische Gemeinschaft von der restlichen Welt dabei beobachtet werden, wie wir mit dem Thema umgehen und wie es sich dabei für uns entwickelt. Zumal unsere Handlungen konkrete Auswirkungen in anderen Teilen der Welt haben, über die wir uns im Klaren sein sollten.
Digitalisierung hat in einer globalen Entwicklung noch stärkere Auswirkungspotentiale, als wir sie je zuvor gesehen haben. Daher sollten wir auch von allen Teilen der Welt lernen, was wir verbessern können.
Autorin: Jolanda Rose ist Juristin und aktuell Prozess- und Digital Transformation Managerin bei der internationalen Wirtschaftskanzlei ARQIS. Außerdem berät sie zu verantwortungsvoller Innovation und Digitalstrategie bei deren Unternehmensberatung B.YOND. Nebenberuflich hat sie das Netzwerk für verantwortungsvolle Innovation Responsible Innovators mitgegründet. Ziel des Netzwerkes ist es, Interessierte zum Thema zu vernetzen und zu befähigen, Innovation verantwortungsbewusst umzusetzen. Außerdem ist sie Teil des ALIGNER Scientific, Industrial and Ethics Advisory Boards.
Autorin: Maria Petrat ist Volljuristin mit Interessenschwerpunkt auf Unternehmensrecht und Expertin für Legal Tech und verantwortungsvolle Innovation. Aktuell unterstützt sie die IT-Rechtskanzlei fingolex von Baltasar Cevc bei der strategischen Weiterentwicklung sowie juristischen Beratung. Zuletzt war sie im Rahmen Ihrer Wahlstation bei Rödl & Partner in Kenia tätig. Nebenberuflich hat sie Responsible Innovators mitgegründet und treibt dort die globale Vernetzung mit Partnerorganisationen insb. auf dem afrikanischen Kontinent voran. Zusätzlich beginnt sie im Oktober ihr Design Thinking Studium am HPI.
