Auf der Suche nach dem Unbekannten
Identifizierung von Problemsituationen für autonomes Fahren

Auch wenn seit der wissenschaftlichen Revolution des 16. und 17. Jahrhunderts eine Fülle von Entdeckungen gemacht wurde, bleibt vieles unbekannt. Dies gilt für eine Vielzahl von Themen wie die dunkle Energie in der Physik, die Lösung der Millennium-Probleme in der Mathematik, die Frage, warum die letzte Staffel von Game of Thrones so schlecht war, und die Frage, auf welche problematischen Situationen ein KI-basiertes autonomes Fahrsystem stoßen könnte. Letztgenannte Frage unterscheidet sich von den anderen durch das Risiko, das damit verbunden ist, insbesondere für Menschenleben.

Problemsituationen für autonomes Fahren

Was bedeutet Problemsituationen im Kontext des autonomen Fahrens? Gemeint ist genau dasselbe wie beim menschlichen Autofahrer, nämlich etwas Unbekanntes, Kompliziertes, etwas, das wir vorher nicht kannten oder nicht sofort und vollständig verstehen können. Die Ursachen für solche Situationen sind vielfältig: eine unübersichtliche Kreuzung, eine unklare Verkehrsregelung, schlechte Sicht oder einfach nur Gedankenverlorenheit. All diese Faktoren – hoffentlich mit Ausnahme der Gedankenverlorenheit – sind auch für autonome Fahrsysteme mit KI-Elementen entscheidend – vielleicht sogar in noch stärkerem Ausmaß.

Warum Fahrstunden allein nicht ausreichen

In vielen Ländern gibt es ein Mindestalter, ab dem man den Führerschein machen kann. Diese Forderung nach einer gewissen Reife soll sicherstellen, dass Autofahrer in Problemsituationen rationale Entscheidungen treffen. Dahinter steht der Gedanke, dass ein solches Verhalten erst ab einem bestimmten Alter gewährleistet werden kann. Wie steht es hier um die KI-Systeme? Wir können sicherlich nicht warten, bis die KI-Systeme für die Dauer des geforderten Mindestalters trainieren (und das ist auch gar nicht notwendig). Was wir letztendlich wollen, ist, dass das System richtige Entscheidungen trifft – und zwar immer. Leider ist es nicht ganz einfach, die Frage nach dem immer zu klären. Hierbei gilt ein ähnliches Prinzip wie bei den Fahrstunden, die man nimmt. Das heißt, man kann nur eine kleine Anzahl aller möglichen Situationen abdecken und hoffen, dass sich die restlichen von selbst lösen, wenn sie auftreten. Für Künstliche Intelligenz ist das »Prinzip Hoffnung« allerdings nicht gut genug. Diese epistemische Unsicherheit der KI wird kritischer gesehen als menschliche Fehlentscheidungen.

Und selbst wenn wir davon ausgehen, ein KI-System zu haben, das insgesamt recht gut funktioniert, was ist, wenn die eingegebenen Daten unvollständig oder fehlerhaft sind? Auch hier gilt, dass weder ein Mensch noch ein KI-System auf etwas reagieren kann, das es nicht wahrnehmen kann, auch wenn »wahrnehmen« im Zusammenhang mit KI natürlich eine etwas andere Bedeutung hat als beim Menschen. Man könnte dagegenhalten, dass wir nicht blind für unsere eigenen Unzulänglichkeiten sind und daher mehr als nur Kamerasysteme für die Wahrnehmung nutzen. Selbstfahrende Autos sind nämlich mit vielen verschiedenen Sinneswahrnehmungen ausgestattet, aber wie es bei technischen Geräten oft der Fall ist, hat jedes seine eigenen Vor- und Nachteile. Die schiere Anzahl und Vielfalt der Sensoren allein kann die aleatorische Unsicherheit, d. h. die durch ungenaue Messungen verursachte Fehldarstellung der tatsächlichen Umgebung, nicht wettmachen.

Fraunhofer IKS identifiziert Problemsituationen für automatisierte Fahrsysteme und sagt sie voraus

Wir wissen jetzt, was Problemsituationen ausmacht und wie ihre einzelnen Teile zusammenhängen. Bestimmte Problemsituationen bleiben jedoch nach wie vor unbekannt.

Um diese unbekannten Problemsituationen für automatisierte Fahrsysteme zu identifizieren und vorherzusagen, entwickelt das Fraunhofer IKS im Forschungsteilprojekts Dependable Environment Perception eine Lösung. Dieses Projekt ist Teil des Aufbaus des Fraunhofer IKS und wird vom Bayerischen Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert.

Die Identifizierung unbekannter Situationen ist alles andere als ein trivialer Prozess. Bislang haben wir uns nur mit KI-Elementen und Sensoren beschäftigt. Autonome Fahrsysteme beinhalten jedoch noch zahlreiche weitere Komponenten, wie z. B. Fusionseinheiten, GPS-Standortbestimmung inklusive Kartenmaterial, V2X u. v. m. Alle diese Komponenten, die jeweils bestimmte Einzelaufgaben erfüllen, haben einen großen Einfluss auf das automatisierte Fahrsystem als Ganzes.

Das Prinzip unserer Lösung besteht darin, dass alle wesentlichen Komponenten und ihre Verbindungen während der Entwurfsphase modelliert werden können. Das daraus resultierende System wird dann mit Hilfe der Fehlerfortpflanzung (uncertainty propagation) analysiert, wodurch problematische, auf Unsicherheiten beruhende Situationen aufgedeckt werden. Ein hohes Maß an Unsicherheit bedeutet nicht zwangsläufig, dass das System kategorisch einen Fehler macht, aber es bedeutet, dass die spezifische Situation viele verschiedene mögliche Ergebnisse hervorbringt. Bei der Entwicklung von Systemarchitekturen für das autonome Fahren kann dieser Lösungsansatz bereits zu einem frühen Zeitpunkt dabei helfen, Situationen zu identifizieren, mit denen das System Schwierigkeiten haben wird. Um welche Situationen es sich dabei handelt, hängt von der Funktionalität des Systems und seiner Kernkomponenten ab. So sind beispielsweise kritische Szenarien für automatisierte Notbremssysteme andere als für das automatisierte Einparken.

Letztlich werden die Lösung und die Ergebnisse des entsprechenden Forschungsprojekts die Nutzer in die Lage versetzen, ihre Systeme so zu verbessern, dass bisher unbekannte Situationen in die Konstruktion einbezogen werden, und so dazu beitragen, dass sicheres autonomes Fahren Realität wird.

Dieses Vorhaben wurde im Rahmen des Projekts Unterstützung des thematischen Aufbaus des Instituts für Kognitive Systeme durch das Bayerische Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert.