Mit einem Gesetz und einer dazugehörigen Verordnung schafft Deutschland klare rechtliche Rahmenbedingungen für autonome Fahrzeuge. Das Fraunhofer IKS forscht an vielen der betroffenen Themen und kann Hersteller unterstützen – unter anderem beim geforderten Sicherheitskonzept.
18. Mai 2022
© iStock.com/Keattisak A
Während die Technik in Sachen Autonomes Fahren kontinuierlich vorankommt, blieben die rechtlichen Rahmenbedingungen der Entwicklung bisher zurück. Doch das ändert sich nun: Seit Juni 2021 gilt ein Gesetz, welches das Autonome Fahren auf Level 4 (Fahren ohne physisch anwesende Fahrer im öffentlichen Straßenverkehr) in definierten Betriebsbereichen möglich macht. Im Mittelpunkt stehen Flottenszenarien – also etwa die Personenbeförderung in Form eines People Movers auf einem Firmen- oder Messegelände, dem Universitätscampus oder dem Flughafen sowie der Transport von Gütern auf der letzten Meile.
Vor kurzem hat die Bundesregierung nun eine Verordnung verabschiedet, die das Gesetz ergänzt. Diese trägt einen gewohnt sperrigen Titel: »Verordnung zur Regelung des Betriebs von Kraftfahrzeugen mit automatisierter und autonomer Fahrfunktion und zur Änderung straßenrechtlicher Vorschriften«. Sie regelt unter anderem, unter welchen Bedingungen der Betrieb eines autonomen Fahrzeugs erlaubt ist und wie dies geprüft wird. Ein wichtiger Bestandteil der Verordnung ist ein allgemeines Sicherheitskonzept, das der Hersteller des Fahrzeugs vorlegen muss. Dieses umfasst die Funktionen des Fahrzeugs sowie die verwendete Informationstechnik.
In diesem Podcast erläutert Prof. Dr. Simon Burton vom Fraunhofer IKS, worauf es bei der Frage nach der Sicherheit von KI in Autos ankommt, vor welchen Herausforderungen Ingenieurinnen und Ingenieure stehen und welche Hausaufgaben die Automobilhersteller noch zu erledigen haben, um sicheres autonomes Fahren zu gewährleisten.
Knackpunkt dabei ist der Einsatz von Künstlicher Intelligenz (KI). Denn sie muss zuverlässig funktionieren, um den sicheren Betrieb des autonomen Fahrzeugs zu gewährleisten. »Es gibt zwei Aspekte, in denen KI zum Einsatz kommt«, sagt Josef Jiru, der am Fraunhofer-Institut für Kognitive Systeme IKS für Business Development zuständig ist. »Das ist zum einen die Perzeption – also die Wahrnehmung und das Verständnis der Umwelt mithilfe von KI.«. Darauf basiert dann das Decision-Making – also wie die Fahrentscheidungen getroffen werden. Auch dafür wird KI verwendet.
Das Fraunhofer IKS forscht an beiden Themen. Für das Decision-Making bietet das Institut zum Beispiel Methoden, um die eigene Trajektorie sicher zu planen und dabei die möglichen Trajektorien der anderen Fahrzeuge zu berücksichtigen. Den KI-Ansatz könne man hier zum Teil regelbasiert absichern, so Jiru.
Deutlich herausfordernder sei dagegen das Thema Perzeption. Da kein Mensch die maschinelle Wahrnehmung und die daraus folgenden Entscheidungen validieren kann, müssen entsprechende Verfahren dazu entwickelt werden. Doch die Vielfalt der Informationen, die eine KI im Straßenverkehr verarbeiten muss, ist vollkommen offen – und das macht es schwierig.
Eine Herausforderung ist die Nichtlinearität der KI. Herkömmliche Software lässt sich durch Tests zuverlässig absichern. Bei einem KI-System ist das nicht möglich. Ein solches kann zwar im Testfeld ein Bild immer korrekt analysieren. Im realen Einsatz kann es jedoch passieren, dass man ein anderes Ergebnis erhält – weil zum Beispiel nur ein kleines Rauschen in das Bild hineingekommen ist. Die KI bleibt eben eine Black Box. Und dieser Umstand steht der Absicherung im Weg.
Um die Herausforderung in der Perzeption zu bewältigen, arbeitet das Fraunhofer IKS an verschiedenen Methoden. Ein Ansatz ist die strukturierte Safety-Analyse. Dabei wird ein logisches Modell der Systemarchitektur erstellt, das Signalflüsse und deren Qualität sowie auch die Einschränkungen der Sensoren darstellt. Anschließend wird bewertet, wie kritisch die identifizierten Schwachstellen sind und welches Risiko von ihnen ausgeht. Die Safety-Analyse untersucht dann, welche kritischen Situationen zu sicherheitsrelevanten Fehlern führen.
Ein anderer Ansatz sei die intelligente Cross-Validierung von Sensordaten, so Jiru. Dabei werden die Daten eines Sensors mit den Daten anderer Sensoren verglichen, die jeweils unterschiedliche Schwachstellen haben – beispielsweise Frontkamera und Lidar-System. Auf diese Weise können sich die Sensoren quasi gegenseitig plausibilisieren.
Innerhalb des in der Verordnung geforderten Sicherheitskonzepts spielen auch Standards eine wichtige Rolle. Dazu zählt etwa die ISO-Norm 26262 für die funktionale Sicherheit. Dabei werden saubere Prozesse im Safety-Kontext definiert und dann die Sicherheitsanforderungen auf die einzelnen Komponenten im Fahrzeug heruntergebrochen. Und mit der so genannten Safety Of The Intended Functionality (SOTIF) beschäftigt sich die ISO 21448. Dabei geht es um die Frage, ob ein System für eine bestimmte Situation ausreichend sicher ausgelegt ist.
Bisher fehlt jedoch ein Standard, der speziell den Einsatz von KI aus einer Sicherheitsperspektive betrachtet. Auch hier ist das Fraunhofer IKS aktiv. Unter Führung von Professor Simon Burton, Research Division Director Safety am Institut, will eine internationale Arbeitsgruppe eine entsprechende Norm entwickeln. ISO/PAS 8800 soll ein einheitliches Vorgehen bei der Entwicklung und Prüfung von KI-Systemen etablieren, die im Fahrzeug eingesetzt werden.
Der Standard wird sich zunächst mit grundlegenden Fragen beschäftigen. Dazu zählt zum Beispiel: »Wie und mit welcher Genauigkeit muss eine KI-Funktion funktionieren, damit kein Unfall geschieht? «. Von dieser Systemebene geht es dann zu Maßnahmen in der Funktionsentwicklung. So soll die Norm ISO/PAS 8800 als Leitlinie für KI-Software dienen.
Hinsichtlich des Sicherheitskonzepts bietet das Fraunhofer IKS außerdem weitere Unterstützung. »Wir helfen den Herstellern auch dabei, den Zertifizierungsprozess zu durchlaufen«, so Jiru.
Daneben beschäftigen sich Expertinnen und Experten des Instituts mit Fragestellungen, die beim Betrieb der autonomen Fahrzeuge eine Rolle spielen. Konkret geht es dabei um die definierten Betriebsbereiche, die ebenfalls Bestandteil der neuen Verordnung sind. Autonome Funktionen dürfen nur aktiviert sein, wenn vorher definierte Rahmenbedingungen erfüllt sind. »Jede Funktion ist durch eine klar umrissene Operational Design Domain (ODD) definiert«, so Jiru. Das können räumliche Einschränkungen sein – dass sich das Fahrzeug also nur an einem bestimmten Ort autonom bewegen darf. Die Operational Design Domain kann aber auch zum Beispiel bestimmte Wetterverhältnisse voraussetzen.
»Das heißt, dass das Fahrzeug permanent seinen eigenen Zustand und seine Umgebung überwachen muss, um zu wissen, ob es sich nun innerhalb der erlaubten Bedingungen bewegt oder nicht«, erklärt Jiru. Das Fraunhofer IKS könne Lösungen für ein solches Realtime Monitoring zur Verfügung stellen. Dafür werden Informationen aus den Sensoren des Fahrzeugs genutzt. Anhand derer erkennt das System, ob es sich gerade in der entsprechenden ODD befindet.
Das Interessante dabei sei die Auswertung dieser Informationen, so Jiru. »Wir können die Daten so verarbeiten, dass die Ergebnisse granularer werden.« Das bedeutet dann, dass das System zum Beispiel nicht nur grob zwischen Regen und Nicht-Regen unterscheidet. Es kann auch erkennen, wie stark der Regen ist und ob diese Wetterbedingung vielleicht zukünftig doch ein eingeschränktes autonomes Fahren noch zulässt. Zudem umfassen die Lösungen des Fraunhofer IKS laut Jiru auch Modalitäten, um Wahrnehmungsunsicherheiten zu verringern.
Grundsätzlich sieht Jiru das Gesetz zum Autonomen Fahren und die dazugehörige Verordnung positiv. »Die Verordnung hat jetzt einige Punkte konkretisiert und schafft Rechtssicherheit.« Vorher sei unklar gewesen, was Hersteller sowie Halter tun müssen und wofür sie verantwortlich sind. Besonders bemerkenswert findet er, dass Deutschland mit dem Gesetz im Juni des vergangenen Jahres ein regelrechter Pionier war. »Es ist fast unglaublich, dass wir bei den rechtlichen Rahmenbedingungen die ersten waren in Europa«, sagt er augenzwinkernd. Und mit seiner Forschungsarbeit sorgt das Fraunhofer IKS dafür, dass die Entwicklung weiter vorangetrieben wird.
