„Dieser Fall ist Neuland.“ So wird die vorsitzende Richterin am Amtsgericht München zu einem spektakulären Fall zitiert, bei dem im Oktober 2018 der Bremsassistent (Fahrerassistenzsystem) des BMWs einer Frau in der Innenstadt Münchens ohne ersichtlichen Grund bremste und das hintere Auto folglich auffuhr. Autonome Systeme und künstliche Intelligenz gewinnen in unserer Gesellschaft zunehmend an Bedeutung. Doch ist unsere Rechtsordnung auch darauf vorbereitet?

Immer mehr Aufgaben werden von Robotern und intelligenter Software übernommen. Während man unter autonomen Systemen technische oder elektronische Systeme versteht, die Betätigungen unabhängig von unmittelbarer menschlicher Einwirkung durchführen können, spricht man von künstlicher Intelligenz, wenn diese Systeme in der Lage sind sich selbständig weiterzuentwickeln und zu lernen.

Tatsächlich werden die rechtliche Einordnung und der rechtliche Rahmen für solche Systeme in der Literatur heiß diskutiert. In einer Sache ist man sich jedoch einig: Die Rechtsordnung in Deutschland ist auf diese Problematik bisher nur unzureichend vorbereitet.Eine lückenlose und vollumfängliche rechtliche Betrachtung autonomer Systeme und künstlicher Intelligenz ist aufgrund des großen Spektrums im folgenden Beitrag ausgeschlossen. Anvisiert wird demungeachtet der Versuch, zumindest einen fundamentalen Bereich anzureißen und damit einen kleinen Beitrag zur Diskussion zu leisten: Wer haftet für Sach- oder Personenschäden, welche durch autonome Systeme verursacht werden?

Vertragliche Haftung

Autonome Systeme und künstliche Intelligenz können in diversen Vertragstypen tangiert werden. Man denke an den Kauf eines „Roboter-Rasenmähers“ oder an einen Leasingvertrag für ein selbstfahrendes Kraftfahrzeug. Kommt es durch das System in Folge einer „Fehlbeurteilung der Situation“, welche zwangsweise an der Programmierung liegt, zu einem Schaden, denkt man zu allererst an einen Mängelanspruch aus dem Gewährleistungsrecht. Dieser setzt voraus, dass der Mangel bereits bei Gefahrenübergang oder zumindest in der zugrundeliegenden Software vorhanden war. Zu beachten ist dabei insbesondere, dass die Verjährung von Ansprüchen nach § 438 Abs. 2 BGB bereits mit Gefahrenübergang beginnt und nicht erst beim Auftreten des Mangels. Wenn sich ein solcher „verdeckter Mangel“ im Laufe der Zeit durch das eigenständige Lernen und Entwickeln des Systems zu einem offensichtlichen Mangel entwickelt, könnte der Mängelanspruch des Nutzers unter Umständen bereits verjährt sein.

Das folgende Beispiel soll die gewährleistungsrechtliche Problematik etwas verdeutlichen: Ein selbstfahrendes Fahrzeug ist darauf programmiert  keine durchgezogene Linie zu überfahren, weil es sonst gegen die Vorschriften des Straßenverkehrs verstoßen würde. Stellt man sich vor, dass ein LKW verbotenerweise am Straßenrand parkt, den man überholen möchte, kann es nichtsdestotrotz notwendig sein, die durchgezogene Linie zu überqueren. Während ein autonomes System hier unter Umständen tagelang warten würde, bis der LKW verschwindet, ist der Mensch auf Grundlage subjektiver Erfahrungswerte in der Lage, dieses Problem durch vorsichtiges Beobachten der Gefahrensituation und langsames Umfahren zu lösen. Durch Beobachtung des menschlichen Verhaltens,  lernt das autonome System ähnliche Gefahrenlagen entsprechend einzuschätzen und ihnen besser gerecht zu werden. Kommt es nun im Zuge des Lernvorgangs zu einer Fehleinschätzung, in der das selbstfahrende Kfz die durchgezogene Linie überfährt und dadurch in einen Unfall verwickelt wird, stellt sich die Frage, ob der Käufer den Verkäufer nach Mängelgewährleistungsrecht in Anspruch nehmen darf, also bspw. Nacherfüllung nach § 439 BGB verlangen kann. Liegt der Gefahrenübergang zu dem Zeitpunkt des Unfalls bereits zwei Jahre zurück, ist ein entsprechender Anspruch jedenfalls verjährt, und das, obwohl der Mangel zum Zeitpunkt des Gefahrenübergangs noch lange nicht ersichtlich war. Er hat sich erst später durch den selbständigen Lernvorgang des autonom fahrenden Fahrzeugs entwickelt.

Hinsichtlich der Schadensersatzpflicht nach § 280 BGB sei gesagt, dass der Knackpunkt hier sicherlich das „Vertretenmüssen“ ist, wobei § 276 BGB diesbezüglich zwingend eine vorsätzliche oder fahrlässige Handlung des Schadensersatzschuldners voraussetzt. Wenn die Produkte einschließlich Software bei der Produktion stichprobenartig getestet, sowie Wartungen regelmäßig durchgeführt wurden und derartige Probleme bisher nicht vorgekommen sind, dann ist davon auszugehen, dass ein Verschulden im Sinne des § 276 BGB kaum vorliegen wird. Zudem scheitert ein Verschulden oft schon daran, dass der Verkäufer die Ware gar nicht auspacken und austesten kann, weil er sie im originalverpackten Zustand schuldet.

Ferner werden in der Literatur Stimmen laut, die autonome Systeme als Erfüllungsgehilfen nach § 278 BGB deklarieren möchten, um den Verkäufer des Produktes aufgrund der Fehlbeurteilung des technischen Gerätes zur Verantwortung zu ziehen. Die herrschende Meinung lehnt diese Einstandspflicht jedoch mit der Begründung ab, dass bei einem technischen Gerät nicht von einem Verschulden gesprochen werden kann, da ein Verschulden zwangsweise ein subjektives Element voraussetzt.

Haftung nach dem Produkthaftungsgesetz

Das Produkthaftungsgesetz bietet dem Geschädigten eine weitere Möglichkeit, haftungsrechtliche Ansprüche geltend zu machen. Dafür muss es durch einen Konstruktions-, Fabrikations- oder Instruktionsfehler zu einem Unfall mit dem Produkt kommen, wobei der Hersteller nach § 4 ProdHaftG grundsätzlich der Produzent oder Importeur des Produktes ist. Ganz wichtig hierbei: Der Hersteller haftet gemäß § 1 Abs. 1 S. 2 ProdHaftG nicht für Schäden am fehlerhaften Produkt selbst, sondern nur für Schäden an anderen Sachen. Außerdem sind sowohl Sachschäden im gewerblichen Bereich (Unfall mit einem CarSharing Auto), als auch unbewegliche Sachen (z.B. Signalmast, der das autonome System steuert) von der Haftung ausgenommen.

Ein Fehler liegt nach § 3 ProdHaftG vor, wenn das Produkt nicht die Sicherheit bietet, die unter Berücksichtigung aller Umstände berechtigterweise erwartet werden kann. Welche Sicherheit nun dabei am Beispiel eines autonom fahrenden Kfz erwartet werden kann, hat der Gesetzgeber im Straßenverkehrsgesetz definiert. Danach muss das System in der Lage sein, „den an die Fahrzeugführung gerichteten Verkehrsvorschriften zu entsprechen“, d. h. ebenso wie ein menschlicher Autofahrer Verkehrszeichen und Leiteinrichtungen zu erkennen und zu befolgen sowie auf die jeweilige Verkehrslage durch Bremsen, Ausweichen usw. zu reagieren hat. Selbst, wenn Systeme entwickelt werden könnten, die der menschlichen Reaktionsfähigkeit überlegen sind, bleibt für den Fehlerbegriff weiterhin dieser Maßstab entscheidend.

Grundsätzlich gilt also die verschuldensunabhängige Haftung des Herstellers und somit die volle Übernahme der dadurch entstandenen produkthaftungsrechtlich gedeckten Schäden. Doch muss der Hersteller wirklich ohne jegliches erkennbare Verschulden haften? Dies hat das Oberlandesgericht München im Jahr 2011 entschieden: Kann der Hersteller beweisen, dass der Fehler an seinem Produkt erst nach Auslieferung entstanden ist, so entgeht er gegebenenfalls der Haftung – vorausgesetzt, dieser Beweis ist lückenlos.

Die Frage nach einem möglichen Mitverschulden des Geschädigten ist hierbei etwas leichter zu beantworten. Das Produkthaftungsgesetz verweist in § 6 auf die allgemeine Regelung zum Mitverschulden nach § 254 BGB. Entsteht also der Schaden durch das fehlerhafte Produkt einerseits und gleichzeitig auch durch ein Verschulden des Geschädigten, so haftet letzterer gemäß seinem Verschuldensanteil. Dies wäre beispielsweise der Fall, wenn der Nutzer das System trotz Aufforderung nicht aktualisiert, oder in Momenten eingreift, in denen das System ausdrücklich autonom agieren soll.

Produzentenhaftung nach § 823 Abs. 1 BGB

Neben der Produkthaftung nach dem Produkthaftungsgesetz stellt auch die Produzentenhaftung eine Möglichkeit dar, den Hersteller von autonomen Systemen zur Verantwortung zu ziehen. Hierbei handelt es sich um eine Ausprägung der deliktischen Haftung aus § 823 Abs. 1 BGB, die von der Rechtsprechung entwickelt wurde. Der Unterschied zur Produkthaftung nach dem ProdHaftG besteht darin, dass eine Haftung auch dann in Betracht kommt, wenn das sogenannte Integritätsinteresse (Interesse am unveränderten Fortbestand des Eigentums) verletzt worden ist. Die Produkthaftung und Produzentenhaftung stehen in Anspruchskonkurrenz und sind daher parallel nebeneinander anwendbar. Die Produzentenhaftung wird auch dann relevant, wenn der Schaden durch das Produkthaftungsgesetz – aufgrund der in §§ 10, 11 ProdHaftG geregelten Haftungshöchstbeträge und Selbstbeteiligung – nicht vollständig abgedeckt wird. Das besondere bei der Produzentenhaftung ist, dass sie eine Beweislastumkehr vorsieht; d.h. nicht der Anspruchsteller muss beweisen, dass den Hersteller ein Verschulden trifft, sondern umgekehrt muss der Hersteller beweisen, dass ihn kein Verschulden trifft. Hiermit wollte man den Käufer des Produkts schützen, der ein Verschulden des Herstellers praktisch nie beweisen könnte, da er dessen interne betriebliche Prozessabläufe nicht kennt.

Doch welche Probleme birgt eine verschuldensunabhängige Haftung bzw. eine Haftung mit vermutetem Verschulden des Herstellers für autonome Systeme? Autonome Systeme zeichnen sich dadurch aus, dass sie sich selbständig weiterentwickeln. Ihre Verhaltensweisen sind extrem komplex und werden von zahlreichen äußerlichen Einflüssen und Faktoren beeinflusst. Der Rückschluss eines Schadensereignisses auf eine Verletzung von Verkehrspflichten des Herstellers wird dabei immer schwieriger gelingen. Nicht selten wird man sich die Frage stellen, ob der Schaden nicht auch bei Anwendung pflichtgemäßer Sorgfalt eingetreten wäre. Daher ist es extrem wichtig den Umfang der Verkehrspflichten des Herstellers und dessen Sorgfaltsmaßstab für die Zukunft zu überdenken. Wo zieht man die Grenze? Ab wann ist eine verschuldensunabhängige Haftung nicht mehr gerechtfertigt?

Die juristische Literatur hat sich mit dieser Frage bereits auseinandergesetzt und hält hierfür ein paar Vorschläge parat. Stelle das Produkt etwa eine unvermeidbare Gefahr eines eintretenden Schadensereignisses dar, könne der Hersteller nicht zur Verantwortung gezogen werden. Ein anerkannter Grundsatz in der Softwareentwicklung laute beispielsweise: „Komplexe Software ist niemals fehlerfrei.“ Doch führt die bloße Gefahr einer fehlerhaften Software zur unvermeidbaren Gefahr eines daraus resultierenden Schadensereignisses? Können sich Softwareentwickler schlicht dadurch exkulpieren, weil sie ein Produkt herstellen, dessen Funktion extrem komplex ist? Die Antwort auf beide Fragen dürfte wohl „nein“ sein. War die Software bei Inverkehrbringen mit einem Fehler behaftet, welcher von Anfang an hätte erkannt werden können, so fällt dies selbstverständlich in die Risikosphäre des Herstellers.

Eine weitere aktuelle Überlegung befasst sich mit unterschiedlichen Sorgfaltsmaßstäben zwischen Produkten, die im öffentlichen Raum (z.B. Autos) und Produkten, die in privaten geschlossenen Räumen (z.B. Staubsauger) eingesetzt werden. Schließlich seien Produkte, die im öffentlichen Raum eingesetzt werden viel öfter äußerlichen Einflüssen ausgesetzt, die nicht immer vorhersehbar sind.

Allgemein anerkannt ist aber, dass die Obergrenze für den Sorgfaltsmaßstab des Herstellers sowohl bei der Produkt- als auch bei der Produzentenhaftung immer der Stand von Wissenschaft und Technik ist. Für eigenständige Weiterentwicklungen autonomer Systeme, deren Schadenspotenzial vorher aufgrund des derzeitigen technischen und wissenschaftlichen Stands nicht absehbar waren, hat ein Hersteller demnach nicht zu haften.

Halterhaftung nach dem StVG

2017 wurde der Anwendungsbereich in § 1a StVG für die Haftung des Halters oder des Betreibers eines autonom fahrenden Kfz eröffnet. Nach § 7 Abs. 1 StVG haftet demnach der Halter oder Betreiber eines Kfz mit hoch- oder vollautomatisierter Fahrfunktion, ohne dass ihn ein Verschulden trifft (Gefährdungshaftung).

Zusätzlich hat der Geschädigte ebenfalls einen Schadensersatzanspruch gegenüber dem Fahrzeugführer, wobei das Verschulden des Fahrers hierbei vermutet wird. Will sich der Fahrer exkulpieren, muss er also beweisen, dass ihn kein Verschulden trifft. Dies gelingt ihm beispielsweise mit dem Nachweis, dass er sich an die in § 1b StVG genannten Regeln einer bestimmungsgemäßen Verwendung der Fahrfunktion gehalten hat.

Allerdings sind auch diese Verhaltensanweisungen noch ziemlich ungenau, da sie das Verhältnis zwischen Abwendungsbefugnis und Wahrnehmungsbereitschaft des Fahrers nicht aufzeigen. Schließlich soll er sich bei einer autonomen Fahrfunktion einerseits vom Verkehrsgeschehen und der Fahrzeugsteuerung abwenden können. Andererseits soll ihm die Befugnis jedoch nur insoweit zustehen, dass er auch jederzeit erkennen kann, ob die Voraussetzungen für eine bestimmungsgemäße Verwendung der autonomen Fahrfunktion noch vorliegen, um im Ernstfall die Fahrzeugsteuerung wieder zu übernehmen.

Lösungsmodelle

Wie sich schon erkennen lässt, bestehen noch einige Lücken hinsichtlich der Haftungsregelung bei autonomem Systemen. In der rechtlichen Diskussion wird das geltende Rechtssystem teilweise für ausreichend gehalten, auf der anderen Seite gibt es jedoch natürlich auch Überlegungen zu neuen Systemen, wie z.B. der vom EU-Parlament genannten Möglichkeit der Einführung einer allgemeinen verschuldensunabhängigen Gefährdungshaftung.

Zudem hat sich das EU-Parlament auch intensiv mit dem Stichwort „E-Person“ (elektronische Person) beschäftigt und die Kommission dazu aufgefordert, ein rechtlichen Status für Roboter zu schaffen. Gerade dies wäre für die eigenständige Weiterentwicklung autonomer Systeme relevant, da die Menschen nicht mehr völlig dafür verantwortlich sind. Die Schaffung einer “elektronischen Person” würde hierbei autonome Systeme selbst zur Verantwortung ziehen.

Schließlich wurden auch Versicherungslösungen in der rechtlichen Diskussion erwähnt. Dabei hat das EU-Parlament die Kommission aufgefordert, sich über die Schaffung eines Haftungsfonds für Roboter Gedanken zu machen, sodass ein Roboter durch eine Registriernummer mit dem jeweiligen Haftungsfonds verknüpft wird. Damit könnte sich der Geschädigte über die Art oder Begrenzungen des Fonds informieren. Schließlich ist eine Lösung, die mehrere Aspekte der vorgeschlagenen Lösungsmodelle vereint, ebenfalls nicht vollkommen von der Hand zu weisen.

Wie dieser kurze Beitrag schon erahnen lässt, hängt die deutsche Rechtsordnung noch den gigantischen technischen Innovationen hinterher. Noch sind autonom fahrende Fahrzeuge jedoch nicht auf deutschen Straßen unterwegs, zudem bestehen neben rechtlichen Aspekten technische Schwierigkeiten, die erst einmal gelöst werden müssen, bis ein selbstfahrendes Auto alltagstauglich wird. Bis dies der Fall ist, ist der Gesetzgeber angehalten Lösungen zu finden, um die o.g. Lücken zu schließen.