Drohende Haftungslücken durch den Einsatz von KI-Systemen
Boom! Mitten in der Innenstadt fährt ein autonom gesteuertes Sammeltaxi gegen eine Telefonzelle. Bereits wenige Minuten zuvor wurde in unmittelbarer Nähe auf Empfehlung einer KI-basierten Diagnose-Software eine folgenschwere Behandlungsmethode ausgewählt. Wer haftet? Je weiter die Automatisierung voranschreitet und Teil unseres Alltags wird, desto drängender wird die Frage nach der Haftung im Schadensfall.
Gesellschaftliche Aufmerksamkeit für die Thematik
Die Haftung für KI-Systeme ist in aller Munde. Wann immer es zu tragischen Zwischenfällen unter Beteiligung „intelligenter“ Systeme kommt, lebt der gesellschaftliche Diskurs in Tageszeitungen und Wochenmagazinen auf. Entsprechend intensiv werden auch gesetzgeberische Tätigkeiten in diesem Themenfeld von der Presse begleitet, sei es im Hinblick auf den Entwurf einer KI-VO oder einer Haftungsrichtlinie für KI-Systeme. Konsequent ist die Thematik auch in der juristischen Wissenschaft sowie Beratungspraxis seit einiger Zeit präsent. Im September 2022 etwa stand die zivilrechtliche Abteilung des alle zwei Jahre abgehaltenen Deutschen Juristentags unter dem Thema „Entscheidungen digitaler autonomer Systeme: Empfehlen sich Regelungen zur Verantwortung und Haftung?“. Auch Praktikerseminare zum rechtssicheren Umgang mit KI-Systemen erfreuen sich einer konstant großen Beliebtheit.
Von außen betrachtet stellt man sich die Frage, weshalb gerade diesem technologischen Fortschritt haftungsrechtlich eine solche Aufmerksamkeit geschenkt wird. Die Ursache dürfte zu einem nicht zu vernachlässigenden Anteil in der Science-Fiction Welt begründet liegen, dank der bei dem Begriff „Künstliche Intelligenz“ wohl jede(r) sofort ein (gänzlich unterschiedliches) Bild vor Augen hat. Dieses Bild ist jedoch meist von einer gewissen (irrationalen) Angst geprägt, dass das KI-System ein Bewusstsein erlangen und die Menschheit unterjochen oder auslöschen könnte. Verstärkt wird diese Sorge vor allmächtiger Technik sicherlich durch den beeindruckenden Fortschritt der letzten Jahre, der früher fernliegend erscheinende Fantasien plötzlich greifbar wirken lässt. Viele Technologien, die heute aus dem Alltag nicht mehr wegzudenken sind, kamen gerade erst in den letzten Jahren auf und waren zuvor allein in eben jener Science-Fiction zuhause: Internet (1990), iPhone (2007), Amazon Alexa (2015), Smart Home.
Haftungsrechtliche Problematik
Regulatorisch ist es daher sinnvoll vor dem Hintergrund der rasanten Entwicklungen zu prüfen, inwiefern der bestehende Rechtsrahmen noch ausreichend Schutz bietet und wo gegebenenfalls Anpassungsbedarf besteht. Dabei ist einerseits die öffentlich-rechtliche Frage danach zu beantworten, ob gewisse Systeme verboten werden sollten. Andererseits – und darum geht es sogleich – muss das Haftungsrecht auf Lücken untersucht werden.
Das deutsche Haftungsrecht basiert auf einem menschen-zentrierten Ansatz. Quasi jede Haftung muss auf ein menschliches Verhalten zurückzuführen sein. Regelmäßig – etwa im Rahmen des § 823 Abs. 1 BGB – handelt es sich dabei um ein schuldhaftes Verhalten. Nur in wenigen Ausnahmefällen genügt dem Gesetzgeber verschuldensunabhängig bereits die Vornahme einer gefährlichen Handlung zur Begründung einer Einstandspflicht. Anknüpfungspunkt ist dann nicht das Verschulden, sondern das Ausüben einer gefährlichen, aber gesellschaftlich nützlichen Tätigkeit. Prototypisch lässt sich hier die Beteiligung am Straßenverkehr durch das Halten eines Kraftfahrzeugs nennen. Gleichermaßen bleibt aber eine menschliche Entscheidung Ausgangspunkt für die Haftung.
Diese Anknüpfung an ein menschliches Verschulden wird dann problematisch, wenn sich die letzte menschliche Handlung immer weiter von der Schadensursache entfernt. Im (deliktischen) Produkthaftungsrecht findet daher eine Vorverlagerung des maßgeblichen Zeitpunkts statt, indem beispielsweise auf eine schuldhafte fehlerhafte Konstruktion des Gegenstandes abgestellt wird. Diese Vorverlagerung funktioniert bei einfachen Produkten, etwa einem Toaster, sehr gut.
An ihre Grenzen stößt dieser Ansatz aber bei einer deutlich zunehmenden Automation. Insbesondere bei Systemen, die darauf ausgelegt sind, sich fortlaufend weiterzuentwickeln, entfernt sich die letzte menschliche Handlung, Inverkehrgabe des Produktes, gerade zunehmend vom Schadenseintritt. Ab dem bisher maßgeblichen Zeitpunkt der Inverkehrgabe treten dann viele gewünschte, aber eben nicht vollständig kontrollierbare und vorhersehbare inhaltliche Veränderungen des Produktes ein. Dies macht es schwierig, eine kausale schuldhafte Handlung im Produktionsprozess zu identifizieren.
Bei einer Gefährdungshaftung, wie sie eben für den Kraftfahrzeughalter besteht, wird diese Problematik dadurch entschärft, dass für die Haftungsbegründung gerade kein Verschulden notwendig ist. Haftungsbegründend wird an ein neutrales menschliches Verhalten wie das Halten des Autos angeknüpft.
Drohende Haftungslücken
Was hat das zur Folge? Außerhalb der Bereiche, in denen der Gesetzgeber bereits heute eine Gefährdungshaftung eingeführt hat, drohen zunehmend Haftungslücken.
Plastisch deutlich wird dies etwa am haftungsrechtlichen Vergleich vom Betrieb autonomer Kraftfahrzeuge und autonomer Seeschiffe. Während aufgrund der Gefährdungshaftung samt Pflichtversicherung des Halters im Straßenverkehr keine großen Haftungslücken durch den Einsatz autonom fahrender Autos zu erwarten sind, sieht dies beim Betrieb autonomer Schiffe deutlich anders aus. Im Seehandelsrecht besteht eine strikte (international weitgehend vereinheitlichte) Verschuldenshaftung, die auf ein Fehlverhalten des Reeders bzw. gewisser diesem zurechenbarer Personen (etwa Kapitän oder Besatzung) abstellt. Kommt es nun zu einer Kollision unter Beteiligung eines autonom fahrenden Schiffes, so wird es regelmäßig an einem schuldhaften Verhalten eben genannter Personen fehlen. Ein Entwickler der Steuerungssoftware oder der Betreiber eines Control-Centers werden regelmäßig weder zurechenbar noch selbst haftungsrechtlich einstandspflichtig sein. Auch das Produkthaftungsrecht vermag diese Lücke allenfalls in Ausnahmefällen zu schließen.
Ausblick
So schließt sich auch der Kreis zu den eingangs genannten Schadensfällen. Kaum ein Lebensbereich wird zukünftig frei vom Einfluss von KI-Systemen bleiben, da diese in immer mehr Lebens- und Wirtschaftsbereiche Einzug halten. Trotzdem ist – wie es auch der Diskurs auf dem Deutschen Juristentag recht eindeutig gezeigt hat – zum jetzigen Zeitpunkt von einer allgemeinen Haftung für KI-Systeme abzusehen. Bereits der Begriff des KI-Systems wäre aktuell ohne Überregulierung kaum rechtssicher und praktikabel zu definieren.
Vielmehr sind lediglich punktuelle Anpassungen des Haftungsrechts an den entsprechenden Stellen vorzunehmen, sobald tatsächliche Lücken drohen. Nur so kann auch zielgerichtet reguliert werden. Der (europäische) Gesetzgeber ist entsprechend aufgefordert, auf Wissenschaft und Praxis zu hören, Anpassungsbedarfe zu identifizieren und Rechtssicherheit und -klarheit wiederherzustellen. Zwar müssen Unternehmen wie Verbraucher gleichermaßen wissen, wofür gehaftet wird und welche Risiken zu versichern sind. Eine (aktuell drohende) Überregulierung muss aber unter allen Umständen vermieden werden. Nur so kann Europa das angestrebte Ziel erreichen, ein Zentrum für vertrauensvolle KI zu sein.
Autor: Dr. Philipp Etzkorn ist Rechtsreferendar am OLG Frankfurt a.M. Er hat zum Thema „Der Schiffszusammenstoß unter Beteiligung autonom fahrender Schiffe“ an der Universität Hamburg promoviert und veröffentlicht regelmäßig zu Rechtsfragen der Digitalisierung und Künstlichen Intelligenz.
