Bei autonomen Systemen oder in der Medizintechnik ist es nötig, die Unsicherheit von Verfahren des Machine Learning (ML) zuverlässig zu bestimmen. Deswegen vergleichen wir vier State-of-the-art-Methoden für die Quantifizierung der Unsicherheit tiefer neuronaler Netze (Deep Neural Network, DNN) im Kontext sicherheitskritischer Systeme – damit die KI lernt, wann Zweifel angebracht sind.

»Künstliche Intelligenz: Wie Roboterautos unfallfrei fahren.« Das ist der Titel des Vortrags von apl. Prof. Dr. habil. Mario Trapp, geschäftsführender Institutsleiter des Fraunhofer IKS, bei »Campus Talks« auf ARD-alpha. Den Beitrag können Sie hier auf unserem Blog sehen und natürlich bei »Campus Talks«.

Fehler in autonomen Fahrzeugen gefährden Menschen und können schnell zu Unfällen mit schweren Verletzungen und sogar zu Verkehrstoten führen. Entsprechend müssen gerade auch für Kognitive Systeme und die darin enthaltene Künstliche Intelligenz (KI) stringente Sicherheitsnachweise erbracht werden.

Auszeichnung für vier Forscher des Fraunhofer-Instituts für Kognitive Systeme IKS: Ihr Beitrag zur Messung von Uncertainties in Deep Neural Networks hat den Best Paper Award des Workshops SafeAI 2020 in New York gewonnen. Verliehen wurde der Preis vom anwesenden Fachpublikum.

Dr. Petra Steffens, Leiterin des Innovationsprogramms »Kognitive Systeme« am Fraunhofer IKS, spricht im Interview über das Vorgehen und die Ziele beim Aufbau des Instituts.

Gute Forschung profitiert von Diversität und vielfältigen Ideen – deshalb sollte die Forschungsgemeinde die Realität der Gesellschaft widerspiegeln. Das Fraunhofer IKS setzt sich daher für ein ausgeglichenes Geschlechterverhältnis in der Wissenschaft ein.

Komplexe Verfahren des Machine Learning (ML) stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll. Dies schränkt aktuell den Einsatz von Machine Learning in sicherheitskritischen Systemen deutlich ein und erfordert neue Ansätze, um zukünftig auch in diesen Bereichen von den Vorteilen, die ML bietet, profitieren zu können.

Schrittweise öffnen sich die Hersteller von Industriesteuerungen der Datenwolke. Mit dem Ansatz einer Cloud-basierten, serviceorientierten Steuerung peilt das Fraunhofer-Institut für Kognitive Systeme IKS die nächste Stufe der Entwicklung an.

Künstliche Intelligenz sicher machen: Das ist die Mission des Fraunhofer-Instituts für Kognitive Systeme IKS. Zur Eröffnungsfeier Anfang Dezember trafen sich 170 Vertreterinnen und Vertreter aus Politik, Wissenschaft und Wirtschaft – hoch über den Dächern des Münchner Werksviertels.

Am 21. und 22. November fand in Berlin die zweite Ausgabe der Fraunhofer-Konferenzreihe FUTURAS IN RES statt. Unter dem Motto »What’s the IQ of AI?« diskutierten Expertinnen und Experten aus aller Welt aktuelle Entwicklungen und zukünftige Potenziale von Künstlicher Intelligenz. Unser wissenschaftlicher Mitarbeiter Adrian Schwaiger war für das Fraunhofer IKS (damals noch Fraunhofer ESK) vor Ort und berichtet.