Konzept-basierte Modelle
Wie visuelle Konzepte helfen, die Entscheidung einer KI zu verstehen
Moderne KI-Modelle haben bei verschiedenen Computer-Vision-Aufgaben wie der Bildklassifizierung bemerkenswerte Fähigkeiten bewiesen. Ihr Entscheidungsprozess bleibt jedoch meist undurchsichtig (Black-Box-Problem). Dies kann insbesondere bei sicherheitskritischen Anwendungen wie der medizinischen Bildgebung oder dem autonomen Fahren problematisch sein. Das Fraunhofer IKS erforscht Wege, Transparenz in diese Black Box zu bringen.
Künstliche Intelligenz