Generative Künstliche Intelligenz (GenAI) findet zunehmend Eingang in die Ingenieurprozesse. Im Safety Engineering geht es dabei jedoch nicht einfach darum, plausible Antworten zu erzeugen. Die entscheidende Frage ist, ob KI sicherheitskritische Aufgaben auf eine Weise unterstützen kann, die transparent, überprüfbar und vertrauenswürdig bleibt.
8. Oktober 2026
© Fraunhofer IKS/Andreas Jacob
Am Fraunhofer-Institut für Kognitive Systeme IKS untersuchen Forscherinnen und Forscher den Einsatz von GenAI im Safety Engineering im Rahmen ihrer Arbeit zu vertrauenswürdiger KI und sicherheitskritischen Systemen. Der Fokus liegt auf Gefährdungsanalysen und Risikobewertungen, eine essenzielle, aber oft zeitaufwändige Tätigkeit bei der Entwicklung komplexer technischer Systeme. Da Systeme immer mehr vernetzt und autonom werden, wächst der Aufwand für umfassende Gefährdungsanalysen kontinuierlich.
Ein wichtiger Meilenstein in dieser Arbeit ist die Veröffentlichung des Papers von Forschern des Fraunhofer IKS mit dem Titel »Enhancing Reliability of LLM-Supported Hazard Identification« auf der EDCC 2026. Das Paper untersucht, wie große Sprachmodelle Ingenieure bei der Gefährdungsidentifikation unterstützen können, wobei die fachliche Kontrolle durch den Menschen gewährleistet bleibt. Anstatt sich auf generische Chatbot-Interaktionen zu verlassen, zeigt die Forschung, dass strukturierte Arbeitsabläufe, domänenspezifisches Wissen und menschliche Überprüfung entscheidend sind, um zuverlässige und nützliche Ergebnisse zu erzielen.
Das Ziel war nie, Sicherheitsingenieure zu ersetzen. Stattdessen möchte das Forschungsteam Werkzeuge bereitstellen, die den manuellen Aufwand verringern und Experten dabei helfen, relevante Gefahren effizienter zu erkennen, während Verantwortung und abschließende Entscheidungen weiterhin bei den Fachleuten liegen.
Heute verlagert sich der Fokus zunehmend von Forschungsprototypen hin zur industriellen Anwendung. Die Forschenden am Fraunhofer IKS prüfen derzeit KI-gestützte Ansätze zur Gefährdungsidentifikation an realen industriellen Anwendungsfällen und umfangreicheren Gefahrenanalysen. Die ersten Ergebnisse sind vielversprechend. Bei ersten Versuchen mit einem führenden Industrieunternehmen hat ein einzelner Ingenieur, unterstützt von den Werkzeugen, etwa 95 Prozent der Gefahren erkannt, die zuvor in einem vollständigen Expertenworkshop gefunden wurden. Solche Ergebnisse machen zwar eine Expertenprüfung nicht überflüssig, zeigen aber das Potenzial KI-gestützter Arbeitsabläufe, die Effizienz in frühen Analysephasen deutlich zu steigern.
Weitere Informationen zur Publikation finden Sie in Fraunhofer-Publica: »Enhancing Reliability of LLM-Supported Hazard Identification«.
Leser, die die Technologie selbst ausprobieren möchten, können einen verwandten Prototyp im Fraunhofer IKS Playground erkunden.
Diese Erkenntnisse bestätigen die Annahme, dass generative KI ein wertvoller Assistent für Sicherheitsingenieure werden kann, wenn sie in kontrollierte und überprüfbare Ingenieurprozesse eingebettet wird. Gleichzeitig bleiben viele Fragen offen. Wie lassen sich diese Ansätze in industrielle Arbeitsabläufe integrieren? Wie gut lassen sie sich auf große, reale Projekte skalieren? Und wie lässt sich sicherstellen, dass KI-generierte Ergebnisse verständlich und prüfbar bleiben?
Die Veröffentlichung auf der EDCC ist ein wichtiger Schritt auf diesem Weg, aber die Arbeit geht weiter. In laufenden industriellen Evaluationen und Forschungsarbeiten mit realen Projektdaten untersuchen die Forscherinnen und Forscher des Fraunhofer IKS weiterhin, wie vertrauenswürdige generative KI die nächste Generation des Safety Engineering unterstützen kann.
