Bis autonome Fahrzeuge zum Alltag auf deutschen Straßen werden, muss noch einiges geschehen. Auch die rechtlichen Rahmenbedingungen sind noch nicht vollständig geschaffen. Eine fiktive Gerichtsverhandlung hat den Ernstfall durchgespielt: Muss der Hersteller eines autonomen Fahrzeugs für einen Unfall haften? Dabei ging es nicht nur um rechtliche Fragen – auch grundlegende ethische Überlegungen wurden diskutiert.
Die Sensoren registrieren einen entgegenkommenden LKW auf der eigenen Fahrspur. Eine Vollbremsung kann den Unfall nicht mehr verhindern. Nach links ausweichen? Ausgeschlossen, hier befindet sich eine Gruppe Radfahrender. Nach rechts ausweichen? Ebenfalls ausgeschlossen, hier geht eine Fußgängerin. Die für die Führung des Fahrzeugs eingeschaltete KI steht vor einer Dilemmasituation – und fährt nach rechts. Das Auto kracht in die Fußgängerin, bricht ihr einen Arm, fügt ihr Schürfungen zu und zerstört ihr Smartphone.
Dieser Unfall hat nicht stattgefunden, eignet sich aber hervorragend als Beispiel, um rechtliche, ethische und technische Fragen rund um das autonome Fahren zu diskutieren. In einem fiktiven Gerichtsverfahren nahm sich das in Berlin ansässige Futurium diesen Fragen an, in Kooperation mit der Plattform Lernende Systeme und der Leibniz Universität Hannover. Die Veranstaltung wurde aufgezeichnet und kann auf YouTube nachgeschaut werden.
Richterin Daniela Sprengel, der Anwalt der Anklage, Simon Gerndt, und die Anwältin des fiktiven Autoherstellers, Esra Karakoc (alle drei von der Leibniz Universität Hannover), verhandelten den Fall. Für technische und ethische Fragen wurden Sachverständige hinzugezogen, außerdem konnte das Livestream-Publikum per Chat Fragen stellen, die an das Gericht weitergereicht wurden, und an einer Live-Umfrage teilnehmen.
Bei dieser zivilgerichtlichen Verhandlung standen sich zwei Auffassungen gegenüber: Die Anklage stellte infrage, ob KI sich dafür entscheiden dürfe, eine Person zu schädigen – insbesondere, wenn das System als sicher beworben und zugelassen wurde. Denn kann etwas als sicher gelten, was Personen Schaden zufügen kann? Die Vertretung des beklagten Unternehmens hielt dagegen: Kein System könne hundertprozentige Sicherheit gewährleisten. Außerdem habe die steuernde KI die notwendige Zulassung erhalten. Das Fahrsystem sei sicherer als menschliche Fahrer – von ihm zu verlangen, niemals Fehler zu machen, sei unverhältnismäßig.
Eine KI kann man schlecht mit einem Bußgeld oder mit Freiheitsentzug bestrafen – sie hat keinen Besitz und einsperren kann man sie schließlich auch nicht. Der Halter des fiktiven Fahrzeugs war für den Unfall nicht verantwortlich – schließlich handelte es sich um ein Fahrzeug der Autonomiestufe fünf, bei der kein menschlicher Eingriff in das Fahrgeschehen notwendig ist. So sieht es auch die erst 2021 angepasste Rechtslage zum autonomen Fahren.
Der Fußgängerin blieb also nichts anderes übrig, als ihre Klage an den Hersteller zu richten. Dieser hat schließlich das System entwickelt, das ihr den Schaden zugefügt hat. Die Programmierung beim Automobilhersteller trägt nach Ansicht der Anklage die Schuld am Unfall.
Dass diese Ansicht etwas zu kurz greift, stellte der Technik-Sachverständige Dr. Tobias Hesse vom Deutschen Zentrum für Luft- und Raumfahrttechnik (DLR) in seinem Statement klar. Bei einer KI handele es sich nicht um ein Programm, bei dem die Programmiererinnen und Programmierer vorgeben, wie sich das System in gegebenen Situationen zu verhalten habe. Die KI werde vielmehr trainiert, indem sie mit unzähligen Verkehrssituationen und Daten gespeist wird. Aufgrund dieses Trainings berechnet die KI, wie sich das Fahrzeug in Gefahrensituationen verhalten soll. Das Vorgehen der KI im Unfallsszenario kann demnach nicht direkt auf eine menschliche Entscheidung zurückgeführt werden. Kann man hier somit überhaupt von einer Entscheidung sprechen?
Wenn es nach dem Ethik-Sachverständigen Prof. Dr. Armin Grunwald vom Karlsruher Institut für Technologie (KIT) ginge, ist das nicht der Fall. Schon bei Menschen könne man nicht von Entscheidung sprechen, wenn sie in Sekundenschnelle handeln – hier würde man eher von Affekt sprechen. Der Unfall könne dann als Tragik gelten, als etwas Unabwendbares, das seinen Ursprung in der Unberechenbarkeit des Menschen hat. Das Dilemma gibt es hier nicht – entschieden wird im Affekt, ohne Chance auf Abwägung.
Bei einem Unfall, der durch eine KI verursacht wurde, sei das anders. Hier gehe das Geschehen auf eine Berechnung zurück. Wie diese Berechnung ethisch zu bewerten ist, hängt von zwei Fragen ab: Werden die Menschen in der Berechnung unterschiedlich gewertet? Und: Nach welchen ethischen Grundsätzen soll bewertet werden?
Zur ersten Frage: In dem fiktiven Fall wissen die Anwesenden vor Gericht nicht, wie die Handlung der KI zustande gekommen ist. Es ist nicht bekannt, ob die KI zwischen den möglichen Beteiligten des Vorfalls unterschieden hat. Hat sie den Schutz des Insassen dem Schutz der Fußgängerin vorgezogen? Lässt die KI vielleicht sogar menschlichen Schaden zu, um wirtschaftlichen Schaden vom Halter abzuwenden?
Zur Frage nach den ethischen Grundsätzen: Laut Grundwald ist es in jedem Fall unethisch, wenn die KI den Insassen oder sogar die wirtschaftlichen Interessen des Halters über das Wohl anderer Menschen stellt. Wenn sie hingegen berechnet, wie möglichst wenigen Menschen ein möglichst geringer Schaden entsteht, handelt sie nach utilitaristischen Maßstäben ethisch korrekt. Die Ethik Immanuel Kants kann sie jedoch nicht erfüllen: Einem Menschen bewusst Schaden zuzufügen wird hier immer abgelehnt, auch wenn dadurch der Schaden anderer abgewendet werden kann.
Nicht nur wegen dieser offenen Fragen stand das fiktive Gericht ebenfalls vor einem Entscheidungsproblem. Um den Hersteller nach dem Produkthaftungsgesetz zu belangen, muss ein Fehler im System nachgewiesen werden können. Das ist nicht der Fall. Andererseits ist auch nicht auszuschließen, dass die KI fehlerhaft rechnete. Es ist also kompliziert. Auf Anraten der Richterin einigten sich Anklage und Beklagte auf einen Vergleich.
Für die Veranstaltung war das ein etwas unbefriedigendes Ende. Das Ergebnis ist aber nah am juristischen Alltag – und spiegelt wider, dass es noch keinen gesellschaftlichen Konsens zur Bewertung von KI-Handlungen gibt.
Die Gesellschaft wurde bei der Veranstaltung durch das Livestream-Publikum vertreten. Durch die Fragen der Zuschauer und Zuschauerinnen zeigte sich reges Interesse an juristischen Zwickmühlen, aber auch an einer klaren Regulierung von künstlicher Intelligenz. In der Live-Umfrage auf Mentimeter sprachen sich 72 Prozent des Publikums für die Einführung von autonomen Fahrzeugen aus, jedoch zum Großteil unter der Bedingung, dass die Bewertungsmaßstäbe der KI an klare ethische Grundsätze gebunden sind. Auch sollte gewährleistet sein, dass Geschädigte eine Entschädigung erhalten – unabhängig davon, ob jemandem eine Schuld zugeschrieben werden kann oder nicht.
Das fiktive Gerichtsverfahren machte also deutlich, dass es bisher nicht nur an technischen Voraussetzungen mangelt, bis Autos ohne menschlichen Eingriff über unsere Straßen rollen können. Mit sorgfältigen Diskussionen über klare Anforderungen an KI können die richtigen Rahmenbedingungen jedoch rechtzeitig geschaffen werden – denn bis jetzt ist die Automatisierungsstufe fünf noch reine Zukunftsmusik.
Am 23. Februar 2022 hat das Bundeskabinett eine erste Verordnung zum Autonomen Fahren verabschiedet. Bevor die Verordnung in Kraft tritt, muss der Bundesrat allerdings noch zustimmen. Weiterführende Informationen gibt es auf der Internteseite des Bundesministeriums für Digitales und Verkehr:
Text: Nils Bühler
Am beliebtesten