Projekt »KI-Absicherung«
Sicherheit von KI nachweisen

Das Fraunhofer-Institut für Kognitive Systeme IKS ist Partner im Forschungsprojekt »KI-Absicherung«. Das Verbundprojekt geht auf die Leitinitiative »Autonomes und vernetztes Fahren« des Verbands der Deutschen Automobilindustrie (VDA) zurück. 28 Partnerunternehmen und -institutionen arbeiten gemeinsam an Lösungen, um KI-Funktionsmodule in fahrerlosen Fahrzeugen abzusichern.

05. März 2021

mask Autobahnknoten

Wann ist Künstliche Intelligenz (KI) sicher genug für das autonome Fahren? So einfach die Frage klingt, so schwer ist es, belastbare Antworten zu finden. Aber genau das haben sich die 28 Unternehmen und Forschungseinrichtungen im Projekt »KI-Absicherung« vorgenommen: Das Konsortium verfolgt das Ziel, eine stringente und nachweisbare Argumentationskette für die Absicherung und Freigabe von KI-Funktionsmodulen im Kontext des hochautomatisierten Fahrens aufzubauen.

Damit stellen sich die Partner einer der größten Herausforderungen bei der Integration Künstlicher Intelligenz und Maschinellen Lernens in hochautomatisiert fahrende Autos, nämlich die gewohnte funktionale Sicherheit bisheriger Systeme zu gewährleisten. Denn existierende und etablierte Absicherungsprozesse lassen sich nicht ohne weiteres auf maschinelle Lernverfahren übertragen.

Informationen über die fünf Stufen bis zum autonomen Fahren finden Sie auf unserer Website:

Autonomes Fahren Pfeil nach rechts

Dafür wird, so die Darstellung des Projekts, eine Prozesskette mit offenen standardisierten Schnittstellen zur Erzeugung hochwertiger und reproduzierbarer synthetischer Trainings- und Testdatensätze erzeugt. Weiterhin werden KI-Algorithmen zur Fußgängererkennung programmiert und vorwiegend mit diesen erzeugten synthetischen Daten trainiert und getestet.

Dadurch können beispielhaft Methoden und Maßnahmen entwickelt werden, die geeignet sind, die Argumentationskette zur prinzipiellen Absicherung mit messbaren Leistungs- und Sicherheitsmaßen für KI-Funktionsmodule zu untermauern. Mit Hilfe der im Projekt gewonnenen Erkenntnisse soll im Dialog mit Standardisierungsgremien und Zertifizierungsstellen die Grundlage für einen Industriekonsens zur Absicherung solcher KI-Funktionsmodule gelegt werden.

Enge Kooperation mit Fraunhofer IAIS

Seitens der Forschung trägt das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS als stellvertretender Konsortialleiter (neben Volkswagen) besondere Verantwortung für das Projekt. »Mit den Fraunhofer-Kolleginnen und –Kollegen aus Sankt Augustin arbeiten wir sehr eng zusammen«, berichtet Prof. Dr. Simon Burton, Verantwortlicher für das Projekt KI-Absicherung am Fraunhofer IKS. »Die Kompetenzen unseres Instituts passen wie maßgeschneidert ins Projekt.«

Simon Burton
Bild

Simon Burton: »Mit den Fraunhofer-Kolleginnen und –Kollegen aus Sankt Augustin arbeiten wir sehr eng zusammen.«

Das gelte insbesondere für die gesamte Forschungsarbeit im Bereich »Safe Intelligence«, also etwa die Objekterkennung durch KI sowie resiliente Softwarearchitekturen und dynamisches Safety Management, erläutert Burton. Seine Expertise bringt das Fraunhofer IKS in das Teilprojekt 4 ein, in dem es um die Absicherungsstrategie geht. Ziel ist es, gemeinsam eine Methodik zu entwickeln und umzusetzen, mit der sich nachweisen lässt, dass die technischen Sicherheitsanforderungen an die KI erfüllt werden können.

Das Forschungsprojekt ist Teil der KI-Strategie der Bundesregierung, die den Standort Deutschland langfristig für die neuen Schlüsseltechnologien aufstellen soll. Ebenso gilt es, die Marktführerschaft der deutschen Automobilindustrie im Hinblick auf das automatisierte Fahren nachhaltig zu sichern. Das Projekt wird vom Bundeswirtschaftsministerium mit 19,2 Millionen Euro gefördert. Das Gesamtbudget beträgt 41 Millionen Euro. Die Laufzeit ist bis Ende Juni 2022 geplant.

Nächster Artikel

Unsicherheitsbestimmung, Teil 1
Uncertainties, auf die man sich verlassen kann

Maximilian Henne
Maximilian Henne
Fraunhofer blog icon mono KI machine learning
Künstliche Intelligenz