In der öffentlichen Debatte gibt es viele Mythen über autonomes Fahren und Sicherheit. Vier davon werden in diesem Blogpost aus einer US-Perspektive näher betrachtet.
16. Januar 2025
© iStock/Liliya Filakhtova
Das US-Verkehrsministerium sagt, dass »menschliches Versagen bei 94 Prozent aller tödlichen Unfälle eine Rolle spielt«. Regelmäßig wird diese Erkenntnis fälschlicherweise abgewandelt zu: »94 Prozent der tödlichen Unfälle sind auf menschliches Versagen zurückzuführen.« Dies wird dann verwendet, um anzudeuten: Autonome Fahrzeuge werden fast 20-mal sicherer sein (wir müssen dann nur noch die verbleibenden sechs Prozent der Unfälle in Kauf nehmen), wenn wir diese ach so unzuverlässigen menschlichen Fahrer loswerden.
Sicherlich sind Fahruntüchtigkeit und Ablenkung am Steuer problematisch. Aber wenn wir uns einmal genauer ansehen, was hinter diesen Zahlen steckt, wird das Bild viel klarer. Manchmal verursacht der Fahrer den Unfall. In vielen anderen Fällen geht jedoch etwas schief, und der Fahrer wird dafür verantwortlich gemacht, dass er einen Unfall nicht vermeiden konnte, der durch dieses andere Ereignis verursacht wurde. Wenn es dem Fahrer also nicht gelingt, einen theoretisch vermeidbaren Unfall zu verhindern, dann wird die Unzulänglichkeit des Fahrers zu diesen 94 Prozent gezählt. Dies ist keineswegs gleichbedeutend damit, dass der Fahrer den Unfall verursacht hat, und diese Zahl beweist nicht, dass autonome Fahrzeuge zwangsläufig besser abschneiden werden. Autonome Fahrzeuge müssen in ähnlicher Weise das Risiko durch externe Faktoren mindern. Und wir sollten nicht vergessen, dass auch autonome Fahrzeuge falsche Entscheidungen treffen können, die zu Unfällen mit Verschulden führen.
Die Frage ist also: Können es autonome Fahrzeuge wirklich besser? Bisher lautet die Antwort, dass sie es potenziell besser können – aber niemand weiß, wie es ausgehen wird. Die Frage, auf die es ankommt, ist, wann autonome Fahrzeuge bei der Kompensation von Problemen, die während der Fahrt auftreten, mindestens so gut sein werden wie menschliche Fahrer, während sie selbst weniger Fahrfehler machen. Man könnte sagen: Roboter fahren zwar nicht betrunken, aber ihnen fehlt der gesunde Menschenverstand.
Jeder, der also die 94-Prozent-Statistik als zwingenden Sicherheitsgrund für die Einführung von AF anführt, pusht die Technologie, anstatt eine informierte Diskussion über Safety zu fördern.
Hersteller von autonomen Fahrzeugen sprechen sich regelmäßig dafür aus, von der Einhaltung der bestehenden Sicherheitsnormen der Industrie entbunden zu werden. Doch bei genauerem Hinsehen sind diese Einwände gegen ISO 26262, ISO 21448 und ANSI/UL 4600 nicht haltbar. Ich möchte drei der rhetorischen Einwände gegen die Anwendung von Sicherheitsnormen genauer unter die Lupe nehmen:
»Passen nicht perfekt« bedeutet, dass nur eine maßgeschneiderte Sicherheitsnorm für die Technologie eines bestimmten Unternehmens in Frage kommt, anstatt sozusagen eine Sicherheitsnorm »von der Stange«. Aber die Verwendung des Wortes »perfekt« hier ist gewollt irreführend. Eine Norm, die zu 99,999 Prozent passt, passt nicht zu 100 Prozent und ist daher nicht »perfekt«. Die Frage sollte sein, ob Sicherheitsnormen in der Praxis anwendbar sind. Darüber hinaus bieten alle drei genannten Sicherheitsnormen eine erhebliche Flexibilität und ermöglichen die Anpassung von Konformitätsstrategien, wenn ein Grund dokumentiert ist, warum das sinnvoll ist.
Keine »einzige« Norm tut alles, was für die Sicherheit erforderlich ist, da die Normen gezielt so geschrieben sind, dass sie verschiedene Bereiche abdecken und sich gegenseitig ergänzen. Die Organisationen, die diese Normen verfassen, haben Kontakte, um Überschneidungen zu vermeiden, und gemeinsame Mitglieder in den Abstimmungsausschüssen für ISO 26262, ISO 21448, ANSI/UL 4600 und andere relevante Normen. Eine einzige Norm für alle Bestandteile eines autonomen Fahrzeuge wäre einfach zu viel des Guten. In Anbetracht der Tatsache, dass es bereits Sicherheitsnormen für Kraftfahrzeuge aus der Zeit vor der Einführung von autonomen Fahrzeugen gibt, würde die Schaffung einer einzigen Norm für autonome Fahrzeuge gegen die Arbeitsweise der Normungsorganisationen verstoßen, da es zu unzulässigen Überschneidungen zwischen den Normen käme.
Die Aussage, dass die Sicherheitsnormen nicht »speziell« für autonome Fahrzeuge geschrieben wurden, ist schlichtweg falsch und geht am Thema vorbei. Entscheidend ist, welche Normen die Aufgabe erfüllen, und nicht, ob sie auch dazu beitragen könnten, nicht-autonome Fahrzeuge sicher zu machen. Der Geltungsbereich der ISO 26262 erstreckt sich auf alle Fahrzeuge, einschließlich der relevanten Aspekte von autonomen Fahrzeugen. Die ursprüngliche Fassung der ISO 21448 bezog sich nur auf Fahrerassistenzsysteme, während die aktuelle Fassung ausdrücklich auch autonome Fahrzeuge abdeckt. Ohne Frage war ANSI/UL 4600 von Anfang an speziell auf autonome Fahrzeuge ausgerichtet. Andere Normen, die speziell für Technologien mit Bezug auf autonome Fahrzeuge gedacht sind, wie ISO 8800, werden ebenfalls öffentlich zugänglich. Nützliche, hochrelevante internationale und konsensfähige Industriestandards sind vorhanden. Das Problem besteht darin, Unternehmen aus dem Bereich autonomes Fahren dazu zu bringen, sich an sie zu halten.
Unternehmen aus dem Bereich autonomes Fahren verkünden lautstark, dass Sicherheit an erster Stelle steht und dass ihre Fahrzeuge sicherer sind oder sein werden als von Menschen gesteuerte Fahrzeuge. Sie rechtfertigen Tests auf öffentlichen Straßen damit, dass sie Daten aus diesen Tests sammeln und analysieren müssen, um die versprochene Safety zu erreichen. Aber viele Unternehmen machen aus allen Sicherheitsbelangen während der Durchführung dieser Tests ein Geheimnis. Später veröffentlichen sie unter Umständen ausgewählte Statistiken über den weiteren Entwicklungsverlauf. Aber möglicherweise veröffentlichen sie auch nur die Zahlen, die sie gut aussehen lassen.
Vom Standpunkt der öffentlichen Ordnung aus betrachtet, bieten Bundesstaaten und Gemeinden Testern autonomer Fahrzeuge und gewinnorientierten Betreibern freien Zugang zu einer gemeinsamen öffentlichen Ressource in Form von öffentlichen Straßen und menschlichen Testpersonen. Wenn man bedenkt, dass die Technologie autonomer Fahrzeuge noch nicht ausgereift ist, planen Unternehmen aus diesem Bereich, massiv vom Zugang zu dieser öffentlichen Ressource zu profitieren, während sie andere Verkehrsteilnehmer einem potenziell erhöhten Risiko aussetzen. Als Gegenleistung für das Privileg, Zugang zu dieser gemeinsam genutzten öffentlichen Ressource zu erhalten, sollten sie verpflichtet werden, Daten bereitzustellen, die belegen, dass sie die Allgemeinheit keinem unangemessenen Risiko aussetzen, insbesondere, solange die Technologie noch nicht ausgereift ist.
Wichtig dabei ist, dass die Messgrößen für die öffentliche Sicherheit relevant sind und nicht die technologische Reife. Wenn beispielsweise berichtet wird, wie oft ein autonomes Fahrzeug Feuerwehrfahrzeuge blockiert, die zu einem Notfall ausrücken, oder wie oft ein fahrerloses Auto rote Ampeln überfährt, so liegt dies im öffentlichen Interesse, sagt jedoch nichts über die Einzelheiten der autonomen Technologie aus.
Wenn es aber mit einer Testplattform für autonome Fahrzeuge regelmäßig zu Beinahe-Unfällen kommt, sie Notfalleinrichtungen blockiert oder gegen Verkehrsvorschriften verstößt, hat das Unternehmen ein ureigenes Interesse daran, diese Informationen zu verheimlichen, um nicht in Verlegenheit zu geraten. Der Vorwand, Geschäftsgeheimnisse schützen zu wollen, dient eher dazu, Probleme im öffentlichen Straßenverkehr zu verbergen, als legitime Geheimnisse über das Innenleben der autonomen Fahrzeugtechnologie zu schützen.
Auch wenn wir hoffen, und die Versprechen der Industrie uns weismachen wollen, dass autonome Fahrzeuge auf dem aktuellen Stand der Technik sicherer sein werden als menschliche Fahrer in Bezug auf schwere Verletzungen und tödliche Unfälle: Beweise dafür gibt es noch nicht. Gegenwärtigen Problemen steht letztendlich nur die Hoffnung auf zukünftigen Nutzen gegenüber, nicht die Gewissheit zukünftigen Nutzens.
Der Sicherheitsnutzen von autonomen Fahrzeugen ist ein Wunschtraum und wird noch für einige Zeit Zukunftsmusik sein. Jedes Jahr scheint dieser Zeitpunkt in weitere Ferne zu rücken. Angesichts der bisherigen Versprechungen und Verzögerungen weiß niemand, wie weit in die Ferne.
Darüber hinaus gibt es keinen wirklichen Beweis dafür, dass autonome Fahrzeuge jemals sicherer sein werden als von Menschen gesteuerte Fahrzeuge, zumal von Menschen gesteuerte Fahrzeuge im Laufe der Zeit durch den Einbau passiver und aktiver Sicherheitstechnologien selbst immer sicherer werden. Als Diskussionsgrundlage wird ein neues Robotaxi einem neuen konventionellen Auto mit den neuesten Sicherheitssystemen gegenübergestellt – nicht ein neues Robotaxi im Vergleich zu einem »durchschnittlichen«, mindestens zehn Jahre alten Auto mit Sicherheitstechnik der vorherigen Generation.
Es ist davon auszugehen, dass AF einen Punkt erreichen werden, an dem sie in vorgesehenen zulässigen Betriebsbereichen (operational design domain, ODD) ausreichend sicher sein können. Offen bleibt allerdings der Zeitpunkt und die Frage, ob der Netto-Sicherheitsvorteil überzeugend sein wird. Oder ob es überhaupt einen Netto-Sicherheitsvorteil geben wird.
Aktuell wird an der Sicherheit gespart, um die Technologie so schnell wie möglich zur Reife zu bringen. Es ist unangemessen, mit dem ehrgeizigen Ziel, vielleicht eines Tages Menschenleben zu retten, diese in naher Zukunft eher zu gefährden.“
Der Autor, Prof. Dr. Philipp Koopman, ist stellvertretender Vorsitzender des Kuratoriums des Fraunhofer-Instituts für Kognitive Systeme IKS.
