Neues Paper
Dynamisches Safety-Management für autonome Systeme

Wie kann die Sicherheit autonomer Systeme gewährleistet werden? Dies ist eine der aktuellen Herausforderungen des Safety Engineerings.

mask Berge und Täler im Nebel

Autonome Systeme wie autonome Fahrzeuge oder fahrerlose Transportsysteme werden in unübersichtlichen Umgebungen eingesetzt. Das bedeutet, dass sie mit vielen Unsicherheiten konfrontiert werden, die schwer vorherzusagen sind. Dennoch müssen autonome Systeme auch in unbekannten Situationen sicher funktionieren.

Zitat

By integrating self-adaptation and safety management, dynamic safety management paves the way to consider the actual case instead of the worst case.

@webroot/assets/icons/core/quote-close.svg
Mario Trapp, Gereon Weiß

»Towards Dynamic Safety Management for Autonomous Systems«

Etablierte statische Safety-Ansätze treffen in solchen Fällen strenge Worst-Case-Annahmen, die die zuverlässige Nutzung und Entwicklung autonomer Systeme zu vertretbaren Kosten unmöglich machen. Deswegen braucht es für die Entwicklung autonomer Systeme neue Safety-Ansätze.

In ihrem Paper »Towards Dynamic Safety Management for Autonomous Systems« stellen Mario Trapp und Gereon Weiß ein dynamisches Safety-Management vor, mit dem autonome Systeme einfacher entwickelt werden können, ohne die Safety zu gefährden. Der Einsatz eines dynamischen Safety-Managements ermöglicht es einem System, die eigene Safety zu bewerten und seine Leistung zur Laufzeit selbst zu optimieren. Das System kann so das aktuelle Risiko berücksichtigen und mit dem tatsächlichen Kontext zur Laufzeit abgleichen. So ist das System nicht mehr an strenge Worst-Case-Szenarien gebunden. Das dynamische Safety-Management bildet damit die wesentliche Grundlage für die Entwicklung sicherer und dennoch kostengünstiger autonomer Systeme.

Paper

Conference Paper, 2019

Mario Trapp; Gereon Weiss: Towards Dynamic Safety Management for Autonomous Systems

Abstract –

Safety assurance of autonomous systems is one of the current key challenges of safety engineering. Given the specific characteristics of autonomous systems, we need to deal with many uncertainties making it difficult or even impossible to predict the system’s behaviour in all potential operational situations.

Simply using established static safety approaches would result in very strict worstcase assumptions making the development of autonomous systems at reasonable costs impossible. This paper therefore introduces the idea of dynamic safety management. Using dynamic safety management enables a system to assess its safety and to self-optimize its performance at runtime. Considering the current risk related to the actual context at runtime instead of being bound to strict worst-case assumptions provides the essential basis for the development of safe and yet costefficient autonomous systems.

Publica.fraunhofer.de Pfeil nach rechts

Anmeldung zum SAFE INTELLIGENCE Newsletter

Sie wollen immer auf dem aktuellsten Stand sein und regelmäßig Informationen zum Fraunhofer IKS erhalten? Dann melden Sie sich hier zu unserem Newsletter an: www.iks.fraunhofer.de/newsletter

Nächster Artikel

Interview mit Mario Trapp und Florian Geissler
»Wir verbinden die Stärken von GPT mit denen von etablierten Sicherheits-Werkzeugen«

Hans-Thomas Hengl
Hans-Thomas Hengl
Künstliche Intelligenz & Machine Learning / Fraunhofer IKS
Künstliche Intelligenz