Künstliche Intelligenz
KI-Systeme im Bahnverkehr: die Bedeutung der Operational Design Domain (ODD)

Systeme auf Basis Künstlicher Intelligenz (KI) können manchmal Entscheidungen treffen, die nicht einfach zu verstehen sind, was es der Öffentlichkeit erschwert, ihnen zu vertrauen, insbesondere in unerwarteten Situationen. Der lange Zeitraum, in dem Bahnsysteme genutzt werden, trägt zu den Herausforderungen bei. Eine fortlaufende Abstimmung über den Anwendungsbereich zwischen allen Beteiligten ist notwendig, um sicherzustellen, dass die Sicherheitsanforderungen durchgängig eingehalten werden. In diesem Zusammenhang werden Kompatibilität und Wiederverwendbarkeit von KI-Systemen zu entscheidenden Eigenschaften.

KI-Lösungen müssen effektiv auf die Bedürfnisse des Kontexts eingehen, in dem sie eingesetzt werden. Es ist wichtig zu erkennen, wann solche KI-Systeme über ihren beabsichtigten Zweck hinaus verwendet werden. Darüber hinaus stellen die Qualität und Verfügbarkeit von Daten erhebliche Hürden dar. Hochwertige, relevante Daten sind für Training und Validierung von KI-Modellen unerlässlich, um sicherzustellen, dass sie sowohl allgemeine als auch spezifische Anforderungen und Einsatzszenarien abdecken. Es ist wichtig, eine Einigung über die grundlegenden Nutzungsbedingungen innerhalb des Bereichs sowie über die spezifischen Bedingungen jedes Projekts zu erzielen. Notwendig ist weiterhin, die Einhaltung dieser Bedingungen sicherzustellen und zu bestimmen, wann das System von den vereinbarten Betriebsbedingungen abgewichen ist.

Operational Design Domain (ODD) ist in diesem Zusammenhang das Stichwort für einen wichtigen Rahmen, der eine klare Struktur für die Definition und Verwaltung der Betriebsumgebungen bietet, in denen KI-Systeme sicher und effektiv funktionieren können. ODD sorgt dafür, dass KI-Systeme von Anfang an unter Berücksichtigung der Sicherheit (im Sinne von safety) konzipiert werden und auch bei sich ändernden Betriebsanforderungen zuverlässig bleiben.

AI Safety and Defined Operational Environments

Die Sicherheit ist ein grundlegender Aspekt jedes KI-Systems für den Schienenverkehr und muss bereits in der Entwurfsphase vorrangig behandelt werden. Die Einhaltung von Industrienormen und Vorschriften ist unerlässlich, um sicherzustellen, dass KI-Systeme die notwendigen Sicherheitsanforderungen erfüllen. Herkömmliche Sicherheitssysteme konzentrieren sich auf die Identifizierung von Fehlern und die Minimierung von Risiken. KI führt datengesteuerte Komponenten ein, die nicht immer aus kritischen Sicherheitspfaden entfernt werden können. Damit müssen Sicherheitsanalysen auch die von der KI verwendeten Daten berücksichtigen. Dies unterstreicht die Bedeutung einer sorgfältigen Auswahl von Daten für das Training und Testen von KI-Modellen, um die beabsichtigte Betriebsumgebung genau widerzuspiegeln.

Klare, maschinenlesbare Definitionen von Betriebsumgebungen sind für eine wirksame Integration von KI-Systemen im Bahnbereich unerlässlich. Diese Definitionen verbessern die Kommunikation zwischen den Beteiligten, stimmen die Systemfähigkeiten mit den betrieblichen Erwartungen ab und geben Orientierung für umfassende Sicherheitsmaßnahmen. Standards wie EN 50126 und IEC 61508 verlangen, dass Umwelt- und Betriebsbedingungen erkannt werden, um Sicherheit, Leistung und Zuverlässigkeit von Anfang an im Systemdesign zu berücksichtigen.

Alle Beteiligten während des gesamten Entwicklungsprozesses einzubeziehen, fördert die Transparenz und das Vertrauen. Zu diesem Zwecke werden die Fähigkeiten des Systems mit den Erwartungen der Nutzer und den Umgebungen, in denen es eingesetzt werden soll, in Einklang gebracht. Eine kontinuierliche Überwachung nach der Inbetriebnahme ist entscheidend, um Sicherheitsprobleme in Echtzeit zu erkennen und zu beheben, damit das System während des Betriebs sicher bleibt. Die Implementierung ausfallsicherer Protokolle ermöglicht es KI-Systemen, in einen sicheren Zustand zurückzukehren, wenn etwas schiefläuft, und so die Sicherheit in unerwarteten Situationen zu gewährleisten.

Die Definition von Betriebsumgebungen erleichtert auch das Testen, indem sie relevante und vollständige Testszenarien bereitstellt. Gründliche Tests, die sowohl Simulationen als auch reale Szenarien umfassen, sind notwendig, um potenzielle Risiken vor der vollständigen Einführung zu erkennen und zu verringern. Eine hohe Datenrepräsentativität, die durch relevante und genaue Daten erreicht wird, verbessert die Zuverlässigkeit der Entscheidungsfindung. Die Echtzeitüberwachung profitiert von diesen Definitionen, da sie es dem System ermöglicht, Abweichungen von den erwarteten Bedingungen zu erkennen und bei Bedarf Fail-Safe-Protokolle zu integrieren.

Ein iterativer Entwicklungsansatz ermöglicht eine kontinuierliche Verbesserung, indem er Feedback und neue Erkenntnisse berücksichtigt, die Systemfähigkeit verbessert und dabei die Sicherheit innerhalb der definierten Betriebsumgebungen nicht beeinträchtigt. Mehrere Sichten auf Betriebsumgebungen beizubehalten – zum Beispiel das, was möglich ist, erwartet wird und derzeit unterstützt wird – gewährleistet Kompatibilität und hilft, Lücken zu erkennen, was gezielte Verbesserungen ermöglicht. Dieser umfassende Ansatz wird durch das Konzept der Operational Design Domain (ODD) beschrieben.

ODD-Workbench: Management von Operational Design Domains

Die Verwaltung von ODDs entlang des KI-Lebenszyklus wird schnell komplex und zu einer kritischen Entwicklungsaufgabe. Daher sind Werkzeugunterstützung und Automatisierung entscheidend für den effektiven Einsatz von ODDs in der iterativen Entwicklung von KI-Systemen.

Am Fraunhofer-Institut für Kognitive Systeme IKS wurde die ODD-Workbench entwickelt, um ODD-Taxonomien und -Definitionen strukturiert festzulegen und zu verwalten. Die Workbench verwendet ein benutzerdefiniertes Modell, um die Maschinenlesbarkeit zu gewährleisten und eine schrittweise Beschreibung verschiedener Aspekte in Ebenen zu fördern. Eine Taxonomieebene kann auf andere Ebenen verweisen und diese verfeinern, sodass eine modulare Beschreibung möglich ist. So kann beispielsweise eine Ebene allgemeine Informationen über Menschen abdecken, während sich eine andere auf Infrastrukturgebäude konzentriert. Eine anwendungsfallspezifische Ebene kombiniert Konzepte aus diesen Ebenen zu einer einheitlichen Taxonomie und fügt Attribute hinzu, die für bestimmte Anwendungen spezifisch sind.

Aus Gründen der Modularität verwendet die ODD-Workbench zwei Arten von Ebenen für ODD-Definitionen: Einschränkungs- und Instanzenebenen. Einschränkungsebenen verwenden einfache Wahr/Falsch-Aussagen, um zu definieren, was innerhalb einer ODD geeignet ist, und verweisen auf bestimmte Attribute oder Bedingungen in der Taxonomie. Instanzenebenen legen die Grenzen der relevanten Taxonomieattribute eindeutig fest und lassen Unsicherheiten durch Bereiche oder Optionssätze zu. Dieser zweigeteilte Ansatz gewährleistet, dass Taxonomiereferenzen sowohl erwartete Bedingungen als auch tatsächlich gemessene Szenarien genau beschreiben können.

Die Workbench ist benutzerfreundlich und verwendet eine textuelle domänenspezifische Sprache (domain-specific language, DSL), die das Definieren und Ändern von ODD-Taxonomien und -Definitionen ähnlich wie das Schreiben von Code erleichtert. Sie unterstützt Versionierung und Versionskontrolle und ermöglicht so Zusammenarbeit und iterative Entwicklung. Funktionen wie Gliederung, Autovervollständigung, Überprüfung und Syntaxhervorhebung verbessern die Benutzerfreundlichkeit, während die Möglichkeit, Modelle mit einem beliebigen Texteditor anzuzeigen und zu bearbeiten, die Flexibilität erhöht.

Die ODD-Workbench enthält auch Tools zur Verwendung und Bewertung von ODDs in realen Situationen. Diese Tools prüfen, wie gut ODD-Definitionen miteinander und mit vorhandenen Testdaten übereinstimmen. Abbildungs-Ebenen definieren die Beziehungen zwischen verschiedenen Taxonomien, die unterschiedliche Namen oder Darstellungen für dieselben Konzepte verwenden können. Dies hilft bei der automatischen Überprüfung von Abdeckung und Kompatibilität: Dabei werden verschiedene Taxonomien miteinander verbunden wie Labels aus Algorithmen für Maschinelles Lernen und Kundenerwartungen. Beispielsweise können Machine-Learning-Labels auf der Grundlage von ODD-Konzepten übersetzt werden, wobei Python-Skripte generiert werden, die die Übersetzung automatisieren. Außerdem erleichtern sie es den Entwicklern, KI-Ergebnisse mit ODD-Spezifikationen zu verbinden. Vergleichstools sorgen für Klarheit und Konsistenz zwischen ODD-Taxonomien und -Definitionen, während die Diagramme visuelle Darstellungen von Abdeckung, Überschneidungen und Lücken bieten, was die Bewertung der Eignung der ODD und der Nutzung von Datensätzen vereinfacht.

Die Berichtswerkzeuge in der Workbench erstellen detaillierte Textberichte oder CSV-Tabellen und erleichtern so die Dokumentation und Kommunikation, indem sie ODD-Taxonomien und -Definitionen leicht zugänglich machen, beispielsweise als interaktive Webseite. Darüber hinaus ermöglicht die Workbench den Export von ODDs in benutzerdefinierten Formaten, was die Benutzerfreundlichkeit und Integration verbessert. Diese Funktion unterstützt die Anpassung von Ausgaben an spezifische Systemanforderungen und kann in CI/CD-Pipelines integriert werden, wodurch ODD-Konzepte in vorhandenen Lebenszyklus-Management-Tools verfügbar gemacht werden und sich eng an aktuelle Verfahren bei der Testplanung und Testfallgenerierung anlehnt.

Fazit

Die Integration von KI-Systemen in den Bahnbetrieb bietet erhebliche Vorteile für die Effizienzsteigerung und die Bewältigung von Personalengpässen. Der erfolgreiche Einsatz dieser Systeme hängt jedoch von der klaren Definition und Verwaltung ihrer Operational Design Domains (ODD) ab. Tools wie die ODD-Workbench von Fraunhofer IKS sind für die Strukturierung und Pflege dieser ODDs unerlässlich und stellen sicher, dass KI-Systeme in ihren vorgesehenen Umgebungen sicher, zuverlässig und effektiv arbeiten. Da die Eisenbahnindustrie weiterhin KI einführt, wird die Konzentration auf ODD entscheidend sein, um Vertrauen aufzubauen, Sicherheit zu gewährleisten und kontinuierliche Verbesserungen im Eisenbahnbetrieb voranzutreiben.

Das Projekt wird von der Europäischen Union und dem Bundesministerium für Wirtschaft und Klimaschutz (BMWK) im Rahmen des Fachprogramms „Neue Fahrzeug- und Systemtechnologien“ gefördert.