Artikel – Magazin des Fraunhofer-Instituts für Kognitive Systeme IKS

Maschinelles Lernen
Metriken als Gradmesser für KI-Sicherheit: Reicht das aus?

Maschinelles Lernen (ML) wird häufig durch Metriken wie Accuracy, Precision, Recall und F1-Score bewertet. Doch wie vertrauenswürdig sind diese Kennzahlen tatsächlich? Sie spiegeln lediglich einen Teil der Realität wider und können ein irreführendes Gefühl von Sicherheit erzeugen. Dies kann insbesondere in sicherheitskritischen Bereichen gefährlich werden. Das Fraunhofer IKS entwickelt ein formales Framework, um die Unsicherheit quantifizieren zu können, wodurch Restrisiken »berechenbarer« werden.

Safety Engineering

Paper

28. August 2025

Künstliche Intelligenz
Generative AI: eine Revolution für das Gesundheitswesen?

Künstliche Intelligenz, insbesondere große Sprachmodelle (LLMs), werden von vielen als Schlüsselressource für ein überlastetes Gesundheitssystem betrachtet. Besonders die KI-gestützte Automatisierung könnte bei der Bewältigung von Wissensmanagement-Aufgaben schnell Entlastung schaffen. Bevor es soweit ist, müssen Herausforderungen im Bereich Security und Safety sowie rechtliche Vorgaben berücksichtigt werden. Die Forschung des Fraunhofer IKS widmet sich diesen beiden Aspekten.

KI in der Medizin

21. August 2025

Künstliche Intelligenz
KI-Systeme im Bahnverkehr: die Bedeutung der Operational Design Domain (ODD)

Wie kann der Bahnverkehr attraktiver und effizienter werden? Eine Antwort darauf sollen KI-Systeme liefern, die in den Bahnbetrieb integriert werden. Dies ist jedoch mit einigen Herausforderungen verbunden. Ganz oben steht die Sicherheit, aber auch die Fahrgastzahlen sollen steigen.

Künstliche Intelligenz

14. August 2025

Industrie 4.0
Toolbox sorgt für mehr Flexibilität in der Produktion

Die Fähigkeit eines Produktionssystems, sich autonom an veränderte Bedingungen anzupassen, verspricht Effizienzsteigerungen und Kostenvorteile. Dies gilt ebenso für nachträgliche Änderungsaufträge im Produktionsprozess – ein Fall für das neue Tool-Set des Fraunhofer IKS, das eine flexible und resiliente Produktion ermöglicht.

Industrie 4.0

7. August 2025

Autonomes Fahren
Wo das Roboter-Auto noch üben muss

Autonomes Fahren zeigt vielversprechende Ergebnisse in definierten Bereichen. Doch wenn fahrerlose Autos dem unberechenbaren Alltag des Straßenverkehrs ausgesetzt werden, können ernsthafte Herausforderungen auftreten. Drei Beispiele verdeutlichen diese Probleme.

Autonomes Fahren

1. August 2025

Safetronic 2025
Ganzheitliche Sicherheit von Straßenfahrzeugen im Fokus

Im Vorfeld des Jubiläums 2026 präsentiert sich die diesjährige Safetronic wieder mit starken Themen und spannenden Vorträgen. Und nicht nur das: Die internationale Fachtagung für die ganzheitliche Sicherheit von Straßenfahrzeugen ist der jährliche Branchentreff für Sicherheitsfachleute der Automobil- und Zulieferindustrie sowie verwandten Branchen.

Autonomes Fahren

Safetronic

24. Juli 2025

Produktion
Autonome Systeme an der Leine

Eine präzise festgelegte Betriebsumgebung ist nicht nur für das autonome Fahren von zentraler Bedeutung. Auch in anderen hochautomatisierten Bereichen wie dem Schienenverkehr, der Logistik oder der mobilen Robotik trägt die sogenannte Operational Design Domain (ODD) entscheidend zur Sicherheit bei.

Safety Engineering

17. Juli 2025

Künstliche Intelligenz
Eine Allianz, von der die Kunden profitieren

Das Fraunhofer IKS ist der Fraunhofer-Allianz Big Data und Künstliche Intelligenz beigetreten. Austausch und Zusammenarbeit innerhalb der Allianz ermöglichten es, Kompetenzen zusammenzuführen und Synergien zu schaffen – zum Vorteil der Kundinnen und Kunden, so Institutsleiter Mario Trapp.

Künstliche Intelligenz

9. Juli 2025

Porträt Lena Heidemann
»Ich habe immer versucht, mir den Raum zu geben, alles einfach mal auszuprobieren.«

Seit November 2020 ist Lena Heidemann Teil des Fraunhofer IKS. Zunächst kam sie als studentische Mitarbeiterin ans Institut. Seit November 2021 ist sie wissenschaftliche Mitarbeiterin im Bereich Industrial Sensing Systems. In die Forschung brachte sie ihre Neugier, Offenheit und die Bereitschaft, neue Dinge einfach mal auszuprobieren.

Industrie 4.0

Mitarbeitenden-Porträts

26. Juni 2025

Quantencomputing
Wie sicher sind Quantum Machine Learning Systeme?

Modelle des Maschinellen Lernens sind bösartigen Angriffen von außen ausgesetzt, die Ergebnisse und Einschätzungen drastisch verfälschen – zum Schaden von Menschen in sicherheitskritischen Situationen. Abwehrstrategien gibt es bereits. Aber wir sieht es aus, wenn Quantencomputing mit ins Spiel kommt? Das Fraunhofer IKS hat mit Partnern erste Ansätze zur Gefahrenabwehr unter die Lupe genommen.

Quantencomputing

25. Juni 2025

Alle Artikel