Produktion
Autonome Systeme an der Leine

Die rasanten Fortschritte im Bereich Künstlicher Intelligenz (KI) in Form von Maschinellem Lernen (ML) ermöglichen auch für reale Systeme wie Maschinen und Fahrzeuge ganz neue Grade an Automatisierung. Das reicht von einer einfachen Unterstützung des Menschen bis hin zur vollständigen Übernahme von Aufgaben durch ein System. Je mehr Aufgaben übernommen werden, die zuvor ein Mensch erledigt und für die er verantwortliche Entscheidungen getroffen hat, desto höher sind die Anforderungen an das System. Beispiel Autonomes Fahren: Für ein Assistenzsystem zum Abstandhalten, bei dem der Fahrende ständig die Situation überwacht, sind diese Anforderungen sehr viel geringer als für ein vollautomatisiertes System, bei dem der Fahrende seine Aufmerksamkeit ganz anderen Dingen widmen kann. Weitere Beispiele für die fortschreitende höhere Automatisierung reichen vom Autonomen Mobilen Roboter (AMRs) über fahrerlose Züge hin zu autonomen Schiffen.

Operational Design Domain bestimmt Einsatzszenario

Die meiste Aufmerksamkeit bei hochautomatisierten Systemen wird in der öffentlichen Diskussion oft auf den Grad der Automatisierung gelegt. Das heißt: Welche Aufgaben fallen für den Menschen schlicht und einfach weg? Entscheidend bei der Betrachtung ist jedoch auch, in welcher Situation das System übernehmen kann. Die Situation oder Betriebsumgebung eines automatisierten Systems spielen eine entscheidende Rolle. Im oben genannten Beispiel heißt das etwa: Kann ich nur auf der Autobahn oder überall die Automatisierungsfunktion nutzen? Benötige ich eine vollüberwachte und abgetrennte Strecke für einen fahrerlosen Zug oder kann dieser in nicht begrenzten Umgebungen fahren?

Die Beschreibung einer konkreten Betriebsumgebung wird als Operational Design Domain (ODD) bezeichnet. Diese ODD beinhaltet alle wichtigen Betriebsbedingungen für die sichere Ausführung[1] einer Funktion oder eines Systems. Diese können zum Beispiel das Vorhandensein oder die Abwesenheit bestimmter Objekte umfassen, ebenso Einschränkungen des Systems, andere Akteure oder spezielle Umweltbedingungen. Zum Beispiel kann dies beim autonomen Fahren bedeuten, dass nur bestimmte Geschwindigkeiten, Wetter- oder Verkehrsbedingungen unterstützt werden. Bei AMRs kann dies die Abwesenheit von Personen im Arbeitsbereich, von Gefahrstoffen oder von anderen Maschinen beinhalten.

ODD setzt der KI Grenzen

Bisher wurde dieses Vorgehen vor allem für Automated Driving Systems (ADS) im Automotive-Bereich vorgesehen. Es lässt sich jedoch auch auf andere Bereiche anwenden wie den Schienenverkehr, mobile Robotik oder auch die Logistik. Darüber hinaus kann die explizite Definition der Betriebsumgebung auch für alle Arten von KI-Systemen als sehr wichtig – wenn nicht sogar als unbedingt notwendig – angesehen werden. Hintergrund ist, dass in weniger eingeschränkten Umgebungen die Systeme – und damit in der Regel auch die KI – in vielen verschiedenen Kontexten zurechtkommen müssen. Je offener die Einsatzumgebung ist, umso mehr Unsicherheiten und ggf. unerwartete Situationen können auftreten. Kann man die Betriebsbedingungen eingrenzen, ist es einfacher sicherzustellen, dass alle relevanten Aspekte durch das KI-System sicher gehandhabt werden können. Man belässt das KI-System sozusagen an der Leine.

Dabei kann die explizite Beschreibung der ODD ein entscheidender Schlüssel sein. Sie gibt die Betriebsbedingungen vor, unter denen das automatisierte System funktionieren, also mit welcher Umgebung das System zurechtkommen sollte. Da ML datengetrieben ist, basiert es darauf, was schon gesehen und gelernt wurde. Ist klar, dass die Daten ausreichend repräsentativ für die Einsatzumgebung sind, hilft das dabei, keine wichtigen Aspekte zu übersehen.

Besonders aufschlussreich wird es, wenn man beide Dimensionen – Grad an Automatisierung und Komplexität der ODD – gegenüberstellt (s. Bild 1). Dadurch wird ersichtlich, welche Arten von automatisierten Systemen bereits realisiert werden können (siehe grüne Fläche). Wenn die ODD sehr stark eingeschränkt wird, sind bereits heute hohe, vollautomatisierte Lösungen möglich. Ein Beispiel hierfür sind fahrerlose U-Bahnen oder Roboter mit Schutzkäfig. In sehr offenen Umgebungen hingegen sind in der Regel nur geringere Automatisierungsstufen möglich, wie z.B. durch den Menschen zwingend zu überwachendes automatisches Fahren auf öffentlichen Straßen oder sehr langsame Überwachungsroboter im öffentlichen Raum. Häufig werden Systeme zwischen diesen Extremen realisiert. Beispielsweise teilautomatisierte Autobahnassistenten, die nur unter bestimmten Straßenbedingungen und Geschwindigkeiten[2] eingesetzt werden können, Assistenzfunktionen für die Personenüberwachung schwerer Baumaschinen oder automatisierte Start-/-Landesysteme von Flugzeugen, die nur in diesen Situationen zum Einsatz kommen.

Am Fraunhofer-Institut für Kognitive Systeme IKS arbeiten die Forscherinnen und Forscher in zahlreichen Projekten mit der Industrie genau daran: nämlich wie autonome Systeme aktuell in die Praxis gebracht werden, indem sowohl der Automatisierungsgrad als auch mögliche Einschränkungen der ODD berücksichtigt werden. Ein zentraler Punkt ist dabei, dass die ODD als zentraler Aspekt bei der Entwicklung autonomer Systeme gesetzt wird. Das hilft dabei, sicher und verlässlich höhere Automatisierungsgrade zu erreichen. So konnten schon viele neue Lösungen für Schienenfahrzeuge, AMRs oder Fahrzeuge für Industriepartner erfolgreich entwickelt werden. Kommen Sie gerne auf uns zu, um auch Ihre Herausforderungen bei der Erschließung weiterer Automatisierungspotenziale zu lösen.

[1] Wissenschaftliches Paper zu Sicherheitsargumenten auf der Grundlage einer ODD: https://publica.fraunhofer.de/entities/publication/88ce8314-6677-45f8-bd7b-4890c2867bcf/details

[2] Beispiel Mercedes Drive Pilot: https://www.adac.de/rund-ums-f...