Autonomes Fahren soll nicht nur die Straßen erobern, sondern bietet auch im Schienenverkehr enormes Potenzial für fahrerlose Züge. Ein Beleg dafür ist das Projekt safe.trAIn, in dem das Fraunhofer IKS die zentrale Aufgabe der methodischen Absicherung der KI-Funktionen übernommen hat.
4. September 2025
© iStock/Thomas Stockhausen
Ein zentraler Antrieb für die Entwicklung hin zum autonomen Schienenverkehr liegt im sich abzeichnenden Mangel an qualifizierten Triebfahrzeugführerinnen und -führern. Prognosen zeigen, dass in den kommenden Jahren deutlich weniger Personal zur Verfügung stehen wird, als für einen stabilen und zuverlässigen Bahnbetrieb erforderlich wäre. Fahrerlose Systeme bieten daher die Chance, diese Lücke zu schließen, die Effizienz des Bahnverkehrs zu steigern und sogar bislang nicht bedienbare Strecken wirtschaftlich (wieder) zu erschließen. Damit wird das fahrerlose Fahren (auch als Automatic Train Operation, ATO bezeichnet) zur Schlüsseltechnologie, um den Bahnverkehr zukunftsfähig, flexibel und nachhaltig zu gestalten.
Das Projekt safe.trAIn kann als ein bedeutender Meilenstein auf dem Weg zu vollautomatisierten Zügen in offenen Betriebsbereichen wie dem Regionalverkehr gelten. Ziel war es, die sichere Anwendung von Funktionen Künstlicher Intelligenz (KI) im fahrerlosen Schienenverkehr zu erforschen – insbesondere für die Hinderniserkennung sogenannter GoA3 bis GoA4-Systeme, also den vollautomatisierten Betrieb ohne Fahrer bzw. Personal an Bord (s. Kasten). Das Fraunhofer-Institut für Kognitive Systeme IKS übernahm dabei eine zentrale Rolle in der methodischen Absicherung der KI-Funktionen.
Der Automatisierungsgrad (Grade of Automation, GoA) im Zugverkehr wird in folgende Stufen unterteilt:
GoA 0 bezeichnet das manuelle Fahren auf Sicht durch einen Zugführenden, ohne jegliche Mitwirkung von Automatisierungstechnologie.
GoA 1 ist ist die manuelle Fahrt mit Unterstützung durch Automatisierungstechnologie, die an wenigen Stellen aktiv werden kann, z. B. bei der Bremssteuerung. Der Fahrer regelt jedoch die Fahrt und ist zuständig für Start, Stopp und Türsteuerungen.
GoA 2 steht für den halbautomatischen Betrieb. Der Zug fährt vollautomatisch zwischen Start und Stopp. Der Fahrer löst die Abfahrt aus und kontrolliert die Türöffnung.
GoA 3 ist der begleitete fahrerlose Zugbetrieb. Ein Zugbegleiter ist für die Türöffnung zuständig und kann den Fahrbetrieb übernehmen.
GoA 4 heißt der der vollautomatische fahrerlose Zugbetrieb. Fahrpersonal ist nicht mehr an Bord, Eine Leitstelle kann in den Fahrbetrieb eingreifen.
Quelle: Quelle: DIN EN 62267:201/Wikipedia
© Fraunhofer IKS
Abb. 1: Schematische Darstellung der Beiträge in safe.trAIn: (1) Safety Konzept), (2) KI-Metriken und (3) Rail ODD (Operational Design Domain)
Ein zentrales Ergebnis des Projekts war die Entwicklung eines systematischen Safety-Konzepts für KI-basierte Funktionen. Die Forschenden am Fraunhofer IKS leiteten die Entwicklung eines Safety Case auf Basis einer Methode namens Goal Structuring Notation (GSN), einer grafischen Darstellung, die sicherheitsrelevante Evidenzen strukturiert zusammenführt. Dabei wurden anhand identifizierter KI-Schwächen mit einer Methodik namens Landscape of Safety Concerns KI-spezifische Risiken berücksichtigt, geeignete Metriken zur Bewertung dieser Risiken entwickelt und in die Sicherheitsargumentation integriert.
Ein besonderes Augenmerk lag auf der Entwicklung und Bewertung von KI-Metriken. Die Forschenden verantworteten die Analyse bestehender Metriken im Hinblick darauf, ob sie sich dazu eignen, zentrale Eigenschaften wie Vertrauenswürdigkeit, Erklärbarkeit und Safety-Performance zu bewerten. Hierfür entwickelten die Wissenschaftlerinnen und Wissenschaftler am Fraunhofer IKS auch eine eigene Metrik namens PROWL (Prototype-based Out-of-Domain detection Without Labels).
PROWL ermöglicht die Zero-Shot-Erkennung von Objekten außerhalb der definierten Betriebsbedingungen (der sogenannten Operational Design Domain, ODD) – ein entscheidender Beitrag zur Absicherung von KI-Systemen im Bahnbereich.
Im Projekt war seitens der Fraunhofer-Gesellschaft auch das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS beteiligt, das erfolgreich zum Projekterfolg mit der Metrik »Semantic Performance Discrepancy« und dem Tool ScrutinAI beigetragen hat. Beide Ansätze ermöglichen es, systematische Schwächen in Deep-Learning-Modellen gezielt zu erkennen und unterstützen die visuelle Analyse sicherheitsrelevanter KI-Komponenten – ein wichtiger Beitrag zur Vertrauenswürdigkeit und Erklärbarkeit.
© Fraunhofer IKS
Abb. 2: Top-Level Übersicht der Rail-ODD-Taxonomie
Die Definition einer ODD (Operational Design Domain) ist übersetzt nach DIN DKE SPEC 99004:2025 »eine Menge von Betriebsbedingungen, einschließlich aller für das KI-System relevanten Entitäten, für die es oder eines seiner Features, speziell ausgelegt ist zu funktionieren«.
Das bedeutet, eine ODD beschreibt alle relevanten Bedingungen, die zum sicheren Betrieb notwendig sind oder nicht vorhanden sein sollten. Zum Beispiel können diese Wetterbedingungen oder auch (Bahn-)Infrastruktur umfassen.
Ein weiterer Fokus lag auf der bereits erwähnten Operational Design Domain, ODD (s. Kasten) also der Definition der Bedingungen, unter denen ein KI-System sicher betrieben werden kann. Fraunhofer entwickelte eine ODD-Taxonomie für den Schienenverkehr (s. Abb. 2) sowie eine dazu gehörige Vorgehensweise und Beschreibungsmethodik. Diese wurde unter Leitung des Fraunhofer IKS in der Norm DIN DKE SPEC 99004 standardisiert und stellt nun eine Grundlage für zukünftige KI-Anwendungen im Bahnverkehr dar. Mit der eigens entwickelten ODD-Workbench (siehe Blog-Beitrag »KI-Systeme im Bahnverkehr: die Bedeutung der Operational Design Domain (ODD)«) wurde zudem ein Software-Tool geschaffen, das die strukturierte Erstellung, Verwaltung und Visualisierung von ODDs ermöglicht
Die Ergebnisse von safe.trAIn wurden nicht nur in wissenschaftlichen Publikationen und Konferenzen präsentiert, sondern auch in Standardisierungsgremien eingebracht. So trug Fraunhofer maßgeblich zur Entwicklung der Norm DIN DKE SPEC 99002 bei, die grundlegende Begriffe für KI in Bahnanwendungen definiert.
Besonders hervorzuheben ist der Schwerpunkt auf die Absicherung und mögliche Zulassung von KI-Funktionen im Bahnverkehr. So erstellten die Partner der beteiligten TÜVs abschließend ein Konzeptgutachten, welches auch aufzeigt, wie das entwickelte Sicherheitskonzept und die Sicherheitsnachweise als Grundlage für zukünftige KI-basierte Funktionen im Schienenverkehr dienen können.
safe.trAIn hat gezeigt, wie vertrauenswürdige KI-Funktionen für sicherheitskritische Anwendungen im Bahnverkehr entwickelt und abgesichert werden können. Die entwickelten Konzepte, Methoden und Werkzeuge bilden eine übertragbare Grundlage für zukünftige Anwendungen – nicht nur im Schienenverkehr, sondern auch in anderen sicherheitskritischen Domänen wie Mobilitätsanwendungen oder der Industrieautomatisierung.
Diese Arbeiten wurden durch die EU und das deutsche Bundeministerium für Wirtschaft und Energie im Rahmen des Projekts safe.trAIn gefördert.
