Safety Engineering

Maschinelles Lernen (ML) wird oft anhand von Metriken wie Accuracy, Precision, Recall, F1-Score etc. bewertet. Doch wie vertrauenswürdig sind diese einzelnen Werte wirklich? Diese Metriken geben nur einen Teil der Realität wieder und können ein falsches Gefühl der Sicherheit vermitteln. Besonders in sicherheitskritischen Bereichen kann das gefährlich werden. Das Fraunhofer IKS arbeitet an einem formalen Framework, mit dem sich die Unsicherheit quantifizieren lässt. Damit werden Restrisiken »berechenbarer«.

Eine exakt definierte Betriebsumgebung ist nicht nur für das autonome Fahren wichtig. Auch für viele weitere hochautomatisierte Systeme im Schienenverkehr, in der Logistik oder der mobilen Robotik sorgt die Operational Design Domain (ODD) für Sicherheit.

Die Erweiterung von etablierten Automatisierungssystemen für neuartige Anwendungen soll den Weg ebnen zur Automatisierung der Zukunft. Das Fraunhofer IKS erforscht, wie der Wandel dorthin im Einzelnen aussieht. Welche Rolle Prototypen dabei spielen und welche Erkenntnisse sie liefern, lesen Sie in diesem Beitrag.

In vielen Großstädten ist der Regelbetrieb selbstfahrender Bahnen bereits zum Alltag geworden. Doch wie funktioniert autonomes Fahren im Schienenverkehr?

Es dauert. Und dauert. Aber es kommt: Zum autonomen Fahren leistet das Fraunhofer IKS einen entscheidenden Forschungsbeitrag, erläutert Dr. Reinhard Stolle, neuer Leiter der Business Unit Mobility und stellvertretender Institutsleiter. Trotzdem bleibt noch viel zu tun.

Der neue Fraunhofer IKS Safety Companion ist ein KI-Agent, der menschliche Entwickler bei sicherheitskritischen Aufgaben unterstützen soll. Er benutzt große Sprachmodelle (LLMs), um Aufgaben zu verstehen, die passenden Sicherheitskonzepte zu identifizieren und umzusetzen. Institutsleiter Mario Trapp und Florian Geissler, Senior Scientist am Fraunhofer IKS, stellen den Safety Companion im Interview vor.

Die Produktionstechnologie entwickelt sich stetig weiter und Unternehmen geraten in Zugzwang. Erfahren Sie hier, was sich derzeit in der industriellen Automatisierung ändert und warum es lohnt, sich darauf einzulassen.

Roboter nehmen Menschen so einiges an Arbeit ab – wenn sie denn funktionieren. Sobald jedoch ein Fehler auftritt, beginnt die aufwendige Suche nach der Ursache. Denn anders als bei klassischer Softwareentwicklung gibt es bei Robotern noch mehr Orte, wo sich Bugs, also Fehler verstecken können. Insbesondere sobald die Entwicklung vorangeschritten ist und die Interaktion des Roboters mit seiner Umgebung betrachtet wird. Ein Erfahrungsbericht aus der Forschung.

Auf der diesjährigen Safetronic, der internationalen Fachkonferenz für ganzheitliche Sicherheit von Straßenfahrzeugen, konnte das Fraunhofer IKS knapp 170 Teilnehmer begrüßen. Ein bisheriger Rekord. Ausschlaggebend dafür waren unter anderem die Erfahrungsberichte aus der Industrie zur Sicherheit des automatisierten Fahrens auf Level 3.

Ganzheitliche Sicherheit für Straßenfahrzeuge steht im Mittelpunkt der Safetronic (15. bis 16. November 2023 in Leinfelden-Echterdingen). Im Video-Interview diskutieren der Institutsleiter des Fraunhofer IKS Prof. Dr. Mario Trapp und das Programmbeiratsmitglied Hans-Leo Ross von Vay Technologies Safety-Herausforderungen im Automobilbereich.

Prof. Dr. Simon Burton versucht mit seiner Arbeit, KI sicherer zu machen. Die zentrale Frage, die ihn antreibt, ist: Wie können wir das technische Risiko, das mit komplexen, autonomen Systemen verbunden ist, auf nachweisbare Weise reduzieren?

Software Engineering ist unabdingar, um aus einer Idee auf Basis von Künstlicher Intelligenz (KI) ein einsatzfähiges Produkt zu machen. Aber auch das Software Engineering profitiert von der KI. Wie das in beide Richtungen funktioniert, erläutert Mario Trapp, Institutsleiter des Fraunhofer IKS.

Zwei führende Experten des Fraunhofer IKS und der University of York auf dem Gebiet der Sicherheit komplexer Systeme haben ein Whitepaper veröffentlicht, das einen neuen Ansatz vorstellt mit dem Ziel, die Sicherheit kognitiver cyber-physischer Systeme (CPS), einschließlich automatisierter Fahrsysteme zu gewährleisten.

Vom 5. bis zum 9. September 2022 fand die internationale Konferenz SafeComp zum ersten Mal in München statt. Die Konferenz bot viel Gelegenheit zum intensiven Austausch über Fragen der funktionalen Sicherheit und Zuverlässigkeit rechnerbasierter Systeme.

Premiere in München: Zum ersten Mal ist die bayerische Landeshauptstadt Veranstaltungsort der internationalen Konferenz SafeComp. Im Mittelpunkt stehen funktionale Sicherheit, Security und Verlässlichkeit softwareintensiver Systeme. Ausgerichtet wird die SafeComp vom Fraunhofer IKS und der Friedrich-Alexander-Universität Erlangen-Nürnberg.

Die internationale Fachtagung Safetronic befasst sich mit der ganzheitlichen Sicherheit von Straßenfahrzeugen. Vorschläge für Konferenzbeiträge können bis 9. Mai 2022 eingereicht werden.

Die internationale Fachkonferenz EAI IC4S verleiht den Preis für den besten Fachbeitrag an das Fraunhofer IKS. Thema des Papers ist ein Konzept für die sichere und effiziente Zusammenarbeit Autonomer Mobiler Roboter (AMR) mit Menschen in gemeinsam genutzten Bereichen.

Rund 100 Expertinnen und Experten für die ganzheitliche Sicherheit von Straßenfahrzeugen nahmen an der 20. Internationalen Fachtagung »Safetronic« teil. Vor allem Qualität und Ausgewogenheit des Vortragsprogramms fand bei den Teilnehmenden Anklang.

Fußgänger müssen vom System in autonomen Fahrzeugen zuverlässig erkannt werden. Das übernehmen hauptsächlich Deep-Learning-Ansätze. Deren Ergebnisse müssen aber im Vergleich zu klassischer Software zusätzlich überprüft und verifiziert werden, was verschiedene, aufwendige technische Maßnahmen voraussetzt. Welche das sind, skizziert dieser Beitrag. Ein Überblick.

In der modernen Lagerlogistik ist Geschwindigkeit ein entscheidender Erfolgsfaktor. Dafür sorgen unter anderem autonome mobile Roboter (AMR). Um ihre Aufgaben zu erfüllen, müssen sie möglichst flexibel auf neue Umgebungsbedingungen und Lagerwaren reagieren. ResilientSOA, das Framework des Fraunhofer IKS, schafft die Voraussetzungen dafür. Wie das genau funktioniert, erläutert Projektleiter Florian Wörter im Interview.

Damit autonome Fahrzeuge in Zukunft sicher im Straßenverkehr agierenkönnen, müssen sie mit anderen Verkehrsteilnehmern und der Verkehrsinfrastruktur kommunizieren. Das Fraunhofer IKS hat einen neuen Ansatz für eine hybride Perzeption entwickelt, um die Kommunikation zu unterstützen.

Eine vom Fraunhofer IKS entwickelte Simulation ebnet den Weg für ein sicheres Zusammenspiel von Robotern und Menschen und das ohne die Effizienz zu beeinträchtigen.

Systeme wie sie etwa für das autonome Fahren zum Einsatz kommen, werden immer komplexer. Entsprechend anspruchsvoll ist die Aufgabe, deren Sicherheit nachzuweisen. Vorschläge zu einer ganzheitlichen Sicht auf ein komplexes Problem.

Das Fraunhofer IKS forscht an sicheren Softwareanwendungen für Quantencomputer. Die Arbeit ist Teil der neuen bayerischen Initiative Munich Quantum Valley.

Die Wissenschaft muss den Nachweis liefern, dass Systeme auf Basis Künstlicher Intelligenz (KI) ausreichend sicher sind. Das fordert Prof. Dr. Simon Burton, seit Kurzem Research Division Director Safety am Fraunhofer IKS. Im Interview erläutert er, welche Ansätze zur Absicherung das Institut verfolgt.

Flexible Serviceorientierte Architekturen (SOA) in sicherheitskritischen Anwendungen? Das ist bislang quasi ausgeschlossen. Denn Dienste müssen verlässlich zur Verfügung stehen und Sicherheitsanforderungen zu jeder Zeit eingehalten werden. Mit resilientsoa hat das Fraunhofer IKS ein Software Framework entwickelt, das genau dies sicherstellt, das heißt: Service-Orchestrierung so sicher wie notwendig und so performant wie möglich.

Cloud-basierte Systeme sind auf eine stabile Verbindung zur Datenwolke angewiesen. Aber Verbindungsabbrüche passieren – darauf muss das System angemessen reagieren und gleichzeitig die Sicherheit garantieren. Wie, das zeigt das Fallbeispiel eines automatisierten Parksystems.

Maschinelles Lernen stellt eine enorme Herausforderung in punkto Sicherheit (Safety) dar. Ohne ein tragfähiges Konzept zur Absicherung kommen viele hervorragende Ideen erst gar nicht auf den Markt. Es ist daher nicht überraschend, dass KI-Sicherheit in den letzten Monaten viel mehr Aufmerksamkeit gewidmet wird. In einer kurzen Artikelreihe legen wir daher das Augenmerk auf die Bedeutung der Sicherheit für Künstliche Intelligenz. Der erste Artikel konzentriert sich dabei auf etwas ganz Grundsätzliches: Was bedeutet Sicherheit eigentlich? Ein Punkt ist hier ganz wichtig: sichere KI hat weniger mit KI selbst als vielmehr mit Safety Engineering zu tun.

Zwei Wissenschaftler des Fraunhofer IKS sind aktuell Teil des European Training Network for Safer Autonomous Systems (ETN SAS). Das durch das EU-Innovations-Rahmenwerk »Horizon 2020« geförderte Projekt hat zum Ziel, autonome Systeme zu schaffen, auf die sich Nutzerinnen und Nutzer verlassen können. João-Vitor Zacchi vom Fraunhofer IKS arbeitet dafür an Safety-Handling-Strategien für komplexe autonome Systeme.

Zwei Forscher des Fraunhofer-Instituts für Kognitive Systeme IKS arbeiten derzeit als Teil des European Training Network for Safer Autonomous Systems. Wir möchten Ihnen die Forscher und ihre Projekte vorstellen, die darauf abzielen, inhärent sichere autonome Systeme zu entwickeln. Den Anfang macht Yuan Liao.

Herkömmliche Schutzeinrichtungen für Menschen in der industriellen Fertigung gehen regelmäßig auf Kosten der Effizienz. Kognitive Produktionssysteme, die Ansätze von adaptive safety verfolgen, sorgen für Sicherheit und reduzieren Einschränkungen der Produktion deutlich.

Wie kann die Sicherheit autonomer Systeme gewährleistet werden? Dies ist eine der aktuellen Herausforderungen des Safety Engineerings.