Safer Autonomous Systems
Safety Assurance als Strategie – autonome Systeme stimmen sich ab

Im vorhergehenden Artikel »Safety by Design« haben wir die Forschungsarbeit von Yuan Liao zu Echtzeit-adaptiven Systemen vorgestellt. Sein Entwurf dynamischer Anpassungs- und Fehlertoleranzmechanismen ermöglicht innovative Strategien für das Safety-Handling. Und das mit dem übergeordneten Projektziel, inhärent sichere autonome Systeme zu entwerfen.

Darauf aufbauend stellt sein Teamkollege João-Vitor Zacchi die Frage: Wie gehen wir mit zunehmend komplexen autonomen Systemen um? Ziel seines Teilprojekts ist die Entwicklung von kombinierten Sicherheitsstrategien mit Design-Maßnahmen, wie Echtzeit-Adaption, und Daten von lernenden Systemen.

João-Vitor Zacchi, der Forscher hinter dem Projekt

João-Vitor Zacchi ist Marie Skłodowska-Curie Actions Research Fellow und promoviert im Rahmen des Horizon 2020 Projekt SAS. Zuvor studierte er zunächst Control and Automation an der Universität Santa Catarina in Brasilien. Zuletzt absolvierte es das Master Programm Electrical and Automation Engineering am Polytechnischen Institut Toulouse in Frankreich. In seiner Masterarbeit entwickelte er eine Softwarekomponente für CNES, die Französischen Raumfahrtorganisation.

»Ein Marie-Curie-Stipendiat zu sein, ist wirklich eine außergewöhnliche Erfahrung. Persönlich profitiere ich besonders vom ständigem Kontakt mit Projektforschern, die auf ihrem Gebiet führend sind, und davon, dass wir gemeinsam auf die gleichen Ziele hinarbeiten. Was mir am meisten gefällt, ist der Austausch mit den teilnehmenden Nachwuchsforschern. Das Training Network deckt ein breites Spektrum an Disziplinen ab, das von reiner Elektrotechnik über Informatik bis hin zur Rechtswissenschaft reicht. Dies bietet unterschiedliche Perspektiven auf die Probleme, mit denen wir konfrontiert sind, und ermöglicht es uns, als Gruppe zu wachsen.«

Kontinuierliches Safety-Management für wachsende Systeme

Autonome Systeme entwickeln sich weiter und bilden immer neue Konfigurationen. Daher muss das Safety-Handling als eine fortlaufende Strategie betrachtet werden, die sich parallel zum System entwickelt. Zacchi sieht die Quantifizierung und Modellierung der Sicherheitsgewährleistung für immer komplexere Systeme als eine zentrale Herausforderung, der er sich in seiner Forschung stellt.

»Da wir uns auf eine Welt mit zunehmender Abhängigkeit von autonomen Systemen zubewegen, muss sich definitiv auch unsere Herangehensweise an die Sicherheit ändern«, sagt Zacchi zur Begründung. »So wie sich das System im Betrieb flexibel an die Umgebung anpasst, so ändern sich auch die Sicherheitsmaßnahmen, die getroffen werden müssen, um sein korrektes Verhalten zu gewährleisten.« Eine Sicherheitsgarantie werde nicht nur ein Stempel sein, der bestätigt, dass ein Produkt nach hohen Standards entwickelt wurde. Vielmehr dokumentiere sie auch, dass die Sicherheit des Produkts ständig neu bewertet und gewährleistet wird, so Zacchi.

Dynamisches Safety-Handling über Echtzeit-Safety-Contracts

Seine Lösung ist eine dynamische Sicherheitsstrategie durch Echtzeit-Safety-Contracts. Diese kann man sich wie zwischenmenschliche Vereinbarungen vorstellen, mit denen wir Menschen unser Verhalten aufeinander abstimmen. Beim Autofahren etwa haben wir eine immense Fülle an Möglichkeiten, miteinander zu kommunizieren, beispielsweise ein Nicken, einen Blick oder ein Handzeichen. Diese Arten, Informationen zu übermitteln, ersetzen keine Verkehrsregeln, sind aber trotzdem äußerst wichtig für das effiziente Funktionieren des Verkehrs. Zacchis Idee ist es nun, eine digitale Möglichkeit zu schaffen, dass sich interagierende autonome Systeme gegenseitig abstimmen. Dadurch soll der sichere Betrieb autonomer Systeme, beispielsweise im Straßenverkehr, möglich werden. Mit einer solchen Abstimmung über diese Safety-Contracts können die Forscher Handlungen der autonomen Systeme besser vorhersehen und auch Abweichungen vom beabsichtigten Verhalten erkennen.

Intelligente Systeme, die ständig mit ihrer Umgebung interagieren

Heute konzentrieren sich die meisten Ansätze zur Absicherung auf die Ebene einzelner autonomer Systeme. Das wirft für João-Vitor Zacchi einige Fragen auf. Erstens sind diese Ansätze in Bezug auf die Performance äußerst konservativ: Sobald das Hauptziel die Sicherheit ist, wird die Performance zweitrangig. Zweitens hat jedes autonome System seine eigene Wahrnehmungskette und damit ein individuelles Modell dafür, wie die aktuelle Situation aussieht. Nichtsdestotrotz ist diese individuelle Wahrnehmung, so gut sie auch sein mag, nicht perfekt. Sie ist begrenzt, manchmal sogar physisch, etwa durch Okklusion.

Zacchis erarbeitete Lösung ist es also, dass die Systeme ihre individuellen Informationen teilen und sich über Safety-Contracts einvernehmlich abstimmen, bis an welche Grenze jedes System gehen darf. Dadurch kann die Arbeitslast der künstlichen Wahrnehmung (Perzeption) und die Unsicherheit darüber, was im Umfeld des Systems passiert, verringert werden.

Ein Beispielszenario ist die Interaktion zwischen Auto und Ampel. Heute sind autonome Fahrzeuge auf Klassifikationsalgorithmen angewiesen, um den Wechsel der Ampelphasen zu erkennen und darauf zu reagieren. Wenn beide Systeme miteinander verbunden sind, könnte das Auto über den Status und die verbleibende Zeit der Ampelphase informiert werden und so seine Aktionen vorausplanen. In einem breiter angelegten Szenario könnte der allgemeine Verkehrsfluss durch den Informationsaustausch und die Vereinbarungen zwischen den Systemen optimiert werden.

Einen Überblick über European Training Network for Safer Autonomous Systems finden Sie auch in diesem Video:

This project has received funding from the European Union's EU Framework Programme for Research and Innovation Horizon 2020 under Grant Agreement No # 812788

Anmeldung zum SAFE INTELLIGENCE Newsletter

Sie wollen immer auf dem aktuellsten Stand sein und regelmäßig Informationen zum Fraunhofer IKS erhalten? Dann melden Sie sich hier zu unserem Newsletter an: www.iks.fraunhofer.de/newsletter