Interview mit Reinhard Stolle
»Wir nutzen KI, um Systeme sicherer zu machen«

Es dauert. Und dauert. Aber es kommt: Zum autonomen Fahren leistet das Fraunhofer IKS einen entscheidenden Forschungsbeitrag, erläutert Dr. Reinhard Stolle, neuer Leiter der Business Unit Mobility und stellvertretender Institutsleiter. Trotzdem bleibt noch viel zu tun.

mask Visualisierung autonomes Fahren
Frage

H. T. Hengl:

Jahrelang schon versprechen die großen Hersteller selbstfahrende Autos auf den Straßen, aber zu sehen sind noch immer keine. Woran liegt das?

Antwort

Dr. Reinhard Stolle:

Um diese Frage zu beantworten, muss ich etwas ausholen. Es gibt im Wesentlichen zwei unterschiedliche Ansätze für das autonome Fahren: den inkrementellen und den disruptiven Ansatz. Hersteller, die den inkrementellen Ansatz verfolgen, bauen auf Fahrerassistenzsysteme (FAS) der Stufe 2 auf und entwickeln die Fahrzeuge immer weiter, bis sie die Stufen 3, 4 und irgendwann 5 erreichen. Der Hersteller nutzt die Daten aus der Kundenflotte für die Verbesserung der Systeme in der Entwicklung.

Der disruptive Ansatz dagegen beruht auf der Einsicht, dass autonomes Fahren grundsätzlich etwas anderes ist als nur ein verbessertes FAS. Hier setzt man auf die Erkenntnisse aus jahrzehntelanger Forschung in Künstlicher Intelligenz (KI) und Robotik: KI-Anwendungen sind erreichbar in »schmalen Domänen«, also sehr eng definierten Einsatzgebieten …

Frage

H. T. Hengl:

Kannst Du dafür ein Beispiel nennen?

Antwort

Dr. Reinhard Stolle:

Beim disruptiven Ansatz wird ein möglichst überschaubares Anwendungsszenario zugrunde gelegt, also etwa ein eingegrenztes Gebiet in einer Stadt mit vorhersehbaren Witterungsbedingungen, genau beobachtetem typischen Verhalten der Verkehrsteilnehmer etc. Außerdem setzt man hier auf einen Mobilitätsdienst, der die Fahrzeuge auslastet, damit sich die nötige teure Technik – Rechner und Sensorik – lohnt.
Im Gegensatz dazu erweisen sich so genannte »Open-World«-KI-Anwendungen wie beim inkrementellen Ansatz, die allgemeines Weltwissen und gesunden Menschenverstand benötigen, als besonders schwierig.

Dr. Reinhard Stolle
Bild

Dr. Reinhard Stolle: »Absicherung und safety brauchen zum Teil neue Ansätze, insbesondere werden Simulationen dabei eine wichtige Rolle spielen.«

Frage

H. T. Hengl:

Was bedeutet das für die Realisierbarkeit von autonomem Fahren?

Antwort

Dr. Reinhard Stolle:

Der disruptive Ansatz wird in den nächsten Jahren auf vielfältige Weise den Markt erobern: als Robotaxis oder auf bestimmte Strecken beschränkte Shuttles in Städten, aber insbesondere auch für schmal definierte Anwendungen in Bereichen ohne öffentlichen Verkehr, zum Beispiel in Logistikzentren, Flughäfen und Schiffshäfen.

Der inkrementelle Ansatz ist ebenso sinnvoll, er wird sich aber auf absehbare Zeit auf Fahrerassistenzsysteme der Stufen 2 und 3 konzentrieren.

Frage

H. T. Hengl:

Was genau sind die Herausforderungen, bis es so weit ist?

Antwort

Dr. Reinhard Stolle:

Beim disruptiven Ansatz sehe ich kein grundsätzliches Problem. Das Thema braucht eben Zeit für die Industrialisierung. Die Technologie ist noch sehr teuer, wird aber absehbar zumindest teilweise durch Off-the-Shelf-Technologie ersetzt oder ergänzt werden. Jedoch brauchen Absicherung und safety zum Teil neue Ansätze, insbesondere werden Simulationen dabei eine wichtige Rolle spielen.

Außerdem ist zu berücksichtigen, dass autonome Systeme schnellen Entwicklungszyklen unterliegen. Dies erfordert neue architektonische Ansätze, wie man die Erkenntnisse aus der Erprobung kontinuierlich weiterverwendet, statt mit jeder Software-Version neu anzufangen. Die notwendigen Kompetenzen zur Lösung dieser Aufgaben kommen – nicht nur, aber hauptsächlich – aus dem Software-Engineering. Die Frage dabei lautet: Wie baut und beherrscht man große, komplexe Software-Systeme? Insofern gehe ich davon aus, dass einige große Software-Player im Wettbewerb um das autonome Fahren weiterhin ganz vorne mitspielen.

Dr. Reinhard Stolle

Dr. Reinhard Stolle leitet seit Anfang des Jahres die Business Unit Mobility und ist seit Juni stellvertretender Institutsleiter am Fraunhofer IKS. Er verfügt über langjährige Erfahrung auf den Gebieten KI und autonomes Fahren in der Industrie, unter anderem bei BMW und Argo AI. Davor führte ihn seine wissenschaftliche Karriere in die USA, an die University of Colorado at Boulder, und an die Stanford University und Xerox PARC in Kalifornien.

Frage

H. T. Hengl:

Wo setzt hier die Forschung des Fraunhofer IKS an?

Antwort

Dr. Reinhard Stolle:

Perzeption, also die automatisierte Wahrnehmung des Umfelds von Autos, benutzt ausgiebig Verfahren des Maschinellen Lernens (ML). Dies gilt für Autos mit FAS genauso wie für autonome Fahrzeuge. Das Fraunhofer IKS hat viel Erfahrung bei der Beurteilung von ML-Modellen bezüglich Eigenschaften wie robustness, confidence und anderer Eigenschaften, die für sicherheitsrelevante Systeme wichtig sind. Und ML wird in Zukunft auch zunehmend für die Fahrplanung zum Einsatz kommen. Da werden die Erfahrungen des Fraunhofer IKS an der Schnittstelle von intelligenten Systemen und safety noch wichtiger.
Denn von entscheidender Bedeutung, nicht nur beim autonomen Fahren, ist es, sichere Systeme im Sinne von safety zu entwerfen. Allerdings müssen die Ingenieure sich und andere davon überzeugen, dass die entworfenen Systeme auch tatsächlich sicher sind. Bei beidem – Entwurf und Nachweis – kann man teilweise die Methoden aus traditionellen Systemen verwenden, muss aber auch mit neuen Methoden den besonderen Eigenschaften von KI-Systemen gerecht werden, was hier am Fraunhofer IKS passiert.
Safety und KI werden in der Öffentlichkeit oft als Gegensatz betrachtet. Durch unsere Forschung am Fraunhofer IKS haben wir die Möglichkeit, diesen Blickwinkel grundlegend zu ändern: Wir nutzen KI, um Systeme sicherer zu machen.

Frage

H. T. Hengl:

Und wo siehst Du die Schwerpunkte Deiner Forschungsarbeit in den kommenden Jahren?

Antwort

Dr. Reinhard Stolle:

Das betrifft letztlich alles, was mit KI zu tun hat. Und es geht darum, die Eigenschaften der KI-Systeme durch Forschung zu belegen, also etwa safety, aber auch robustness und explainability.

In der rein akademischen Forschung beschäftigt man sich oft mit »sortenreinen« Lösungen. Man entwickelt zum Beispiel einen neuen Algorithmus und erforscht seine Eigenschaften und Anwendungsmöglichkeiten. In der Praxis werden KI-Methoden aber meistens als heterogene Mischung eingesetzt. Ich interessiere mich dafür, wie wir mit der pragmatischen Kombination von mehreren Methoden einen echten Mehrwert für die unterschiedlichsten Anwendungen erzeugen können.

Eines der zurzeit spannendsten Forschungsgebiete steckt in der Fragestellung: Kann man das Weltwissen und den gesunden Menschenverstand, den man bei Large Language Models (LLMs) und generativer KI wahrzunehmen glaubt, so einsetzen, dass man nicht mehr auf die oben beschriebenen schmalen Anwendungsdomänen beschränkt ist? Darum geht es auch im diesjährigen Workshop, den ich zusammen mit einigen internationalen Kolleginnen und Kollegen einmal im Jahr organisiere.

Frage

H. T. Hengl:

Zurück zur Praxis. Mercedes Benz und BMW haben die Zulassung von autonomen Autos der Stufe 3 erhalten. Ist hier ein Meilenstein erreicht worden und spielt Deutschland hier eine Vorreiterrolle?

Antwort

Dr. Reinhard Stolle:

Ja, das ist ganz sicher ein Meilenstein. Mercedes Benz und BMW sind traditionell internationale Automobil-Innovationsführer. Beide Unternehmen, aber auch Volkswagen, haben sich sehr früh und zielgerichtet mit Software als Innovationstreiber beschäftigt und sich die entsprechende Kompetenz erarbeitet. Das kommt der deutschen Automobilindustrie hier zugute. Außerdem ist Deutschland auch mit seiner Gesetzgebung und Regulierung zum automatisierten und autonomen Fahren ein Vorreiter.

Nächster Artikel

Interview mit Mario Trapp und Florian Geissler
»Wir verbinden die Stärken von GPT mit denen von etablierten Sicherheits-Werkzeugen«

Hans-Thomas Hengl
Hans-Thomas Hengl
Künstliche Intelligenz & Machine Learning / Fraunhofer IKS
Künstliche Intelligenz