Maschinelles Lernen (ML) wird oft anhand von Metriken wie Accuracy, Precision, Recall, F1-Score etc. bewertet. Doch wie vertrauenswürdig sind diese einzelnen Werte wirklich? Diese Metriken geben nur einen Teil der Realität wieder und können ein falsches Gefühl der Sicherheit vermitteln. Besonders in sicherheitskritischen Bereichen kann das gefährlich werden. Das Fraunhofer IKS arbeitet an einem formalen Framework, mit dem sich die Unsicherheit quantifizieren lässt. Damit werden Restrisiken »berechenbarer«.

Die internationale Fachkonferenz EAI IC4S verleiht den Preis für den besten Fachbeitrag an das Fraunhofer IKS. Thema des Papers ist ein Konzept für die sichere und effiziente Zusammenarbeit Autonomer Mobiler Roboter (AMR) mit Menschen in gemeinsam genutzten Bereichen.

Damit autonome Fahrzeuge in Zukunft sicher im Straßenverkehr agierenkönnen, müssen sie mit anderen Verkehrsteilnehmern und der Verkehrsinfrastruktur kommunizieren. Das Fraunhofer IKS hat einen neuen Ansatz für eine hybride Perzeption entwickelt, um die Kommunikation zu unterstützen.

Tiefe neuronale Netze (Deep Neural Networks, DNNs) haben ihr Potenzial unter Beweis gestellt. Dies gilt vor allem für ihre Verwendung im Labor. Ihre Leistung beim Einsatz in der Praxis lässt allerdings zu wünschen übrig. Ein wesentliches Problem ist die Schätzung der Unsicherheit (uncertainty). Im Folgenden werden die Methoden näher betrachtet, die dieser Herausforderung gerecht werden.

Cloud-basierte Systeme sind auf eine stabile Verbindung zur Datenwolke angewiesen. Aber Verbindungsabbrüche passieren – darauf muss das System angemessen reagieren und gleichzeitig die Sicherheit garantieren. Wie, das zeigt das Fallbeispiel eines automatisierten Parksystems.

Wenn ein System nicht ordnungsgemäß funktioniert oder ein erforderlicher Dienst nicht rechtzeitig bereitgestellt wird, kann dies zu Personenschäden oder zum Tod von Menschen führen. Derartige Situationen, z. B. beim automatisierten Fahren und bei der Interaktion zwischen Mensch und Roboter, gelten daher als sicherheitskritisch. Aus diesem Grund müssen die beteiligten Systeme äußerst zuverlässig funktionieren. Um die Zuverlässigkeit von Systemen zu bestimmen, sind die Wissenschaftler am Fraunhofer IKS dabei, einen adaptiven, dynamischen und flexiblen Sicherheitsanalyseprozess zu entwickeln, der die Grenzen der bisherigen Methoden überwindet.

Auszeichnung für vier Forscher des Fraunhofer-Instituts für Kognitive Systeme IKS: Ihr Beitrag zur Messung von Uncertainties in Deep Neural Networks hat den Best Paper Award des Workshops SafeAI 2020 in New York gewonnen. Verliehen wurde der Preis vom anwesenden Fachpublikum.

Wie kann die Sicherheit autonomer Systeme gewährleistet werden? Dies ist eine der aktuellen Herausforderungen des Safety Engineerings.