IKS-Aufbauprojekt
Vertrauen in Künstliche Intelligenz aufbauen

Safe Intelligence ist das zentrale Forschungsthema des Fraunhofer-Instituts für Kognitive Systeme IKS. Ein sehr wichtiges Thema, in technischer ebenso wie in wirtschaftlicher und gesellschaftlicher Hinsicht. Das finden auch die beiden Vorsitzenden des Beirats für das IKS-Aufbauprojekt – und das jeder aus seiner Perspektive.

31. Mai 2021

mask Menschen an Campus von oben

Prof. Dr. Thomas Seidl, stellvertretender Vorsitzender des IKS-Projektbeirats, hat die Brille des Wissenschaftlers auf. Ganz so, wie man es vom Inhaber des Lehrstuhls für Datenbanksysteme und Data Mining an der Ludwig-Maximilians-Universität (LMU) München, erwartet. Für ihn geht es bei Safe Intelligence zu allererst darum, das Thema »sichere Softwaresysteme« mit Fragestellungen der Künstlichen Intelligenz (KI) zusammenzubringen. »Das als Zusammenstoß der Kulturen wie bei Ägyptern und Griechen zu bezeichnen, ist sicher zu hoch gegriffen«, sagt Seidl.

Prof.-Dr.-Thomas-Seidl

Prof. Dr. Thomas Seidl leitet den Lehrstuhl für Datenbanksysteme und Data Mining an der Ludwig-Maximilians-Universität (LMU) München. Er ist Sprecher des nationalen KI-Kompetenzzentrums Munich Center for Machine Learning (MCML) sowie Mitglied im Direktorium des Leibniz Rechenzentrums (LRZ), des Elitestudiengangs Data Science, mehrerer wissenschaftlicher Beiräte und zahlreicher Programmkomitees. Auf das Informatikstudium an der TU München folgten Promotion und Habilitation an der LMU, an die Seidl nach Stationen an der Universität Konstanz und der RWTH Aachen 2016 zurückkehrte.

»Aber Softwaretechniker haben schon eine ganz andere Art von Sicherheitsanforderungen als das beim Maschinellen Lernen der Fall ist, wo beispielsweise viele statistische Betrachtungen hinzukommen.« Das Fraunhofer IKS könne einen wichtigen Beitrag dazu leisten, wie man »die Eigenarten von Kognitiven Systemen mit eben diesem Maschinellen Lernen greifbar machen und in die Begrifflichkeit und Systematik sicherer Softwaresysteme fassen« kann.

Dagegen betrachtet Thomas Gallner, Vorsitzender des IKS-Projektbeirats, Safe Intelligence aus dem Blickwinkel der Wirtschaft. Für den Leiter des Innovationszentrums & Technologiescoutings bei CARIAD, dem Unternehmen des Volkswagen Konzerns, ist der Begriff »Vertrauen« von zentraler Bedeutung. »Es geht doch letztendlich darum, in der Industrie Vertrauen in das Thema KI herzustellen«, betont Gallner, und nennt ein Beispiel: »Wenn ein Fahrzeug, ausgestattet mit einer Vielzahl von Sensoren, etwa auf Level 4 des automatisierten Fahrens unterwegs ist, dann darf einfach kein Ereignis passieren, bei dem man zu dem Schluss kommt: Ich weiß auch nicht, warum das System jetzt so reagiert hat.« Hinzu komme, dass diese neuen Systeme, besser und leistungsfähiger sein müssen als heutige Systeme. Vor diesem Hintergrund komme der Forschungsarbeit des Fraunhofer IKS im Bereich Safe Intelligence große Bedeutung zu.

Dieses Vertrauen ist eine Voraussetzung dafür, dass das Fraunhofer IKS wie die gesamte Fraunhofer-Gesellschaft ihren Auftrag erfüllen kann, nämlich eine Brücke zwischen der Grundlagenforschung und der Anwendung zu schlagen, unterstreicht Seidl. »Mit anderen Worten: Es geht darum, die Ergebnisse der Forschung in Kooperation mit kleinen oder großen Industriepartnern zum Laufen zu bringen.« Das gelte beim Fraunhofer IKS vor allem für KI-basierte Anwendungen in sicherheitskritischen Bereichen, von denen es bislang noch nicht so viele gebe, so Seidl. »Hier ist man zurecht sehr vorsichtig und es besteht großer Forschungsbedarf.«

Thomas Gallner

Thomas Gallner ist Leiter des Innovationszentrums & Technologiescoutings bei CARIAD, dem Unternehmen des Volkswagen Konzerns. Bereits seit 2019 unterrichtet er als Dozent Innovationsmanagement an der Ostbayerischen Technischen Hochschule (OTH) Regensburg. Davor war Gallner fast 13 Jahre bei Continental tätig, zuletzt als Head of Corporate Innovation Management. Zu den weiteren Stationen seiner Karriere gehören unter anderem Siemens und Infineon. Sein Studium der Mikrosystemtechnologie an der OTH Regensburg schloss er 1995 als Diplomingenieur ab.

Ähnlich sieht es Gallner: In Europa gehe es darum, das Ergebnis der Forschung in die Anwendungen, »auf die Straße« zu bringen. Dazu gehörten die Nutzung und Bündelung vorhandener Kompetenzen ebenso wie eine stärkere Verzahnung mit Wirtschaft und Gesellschaft. »Das Ziel muss sein, im Rahmen regionaler Exzellenzoffensiven Fokusthemen zu definieren und dabei international eine führende Position einzunehmen. Hier kann das Fraunhofer IKS eine wichtige Rolle spielen.«

Dabei gelte es jedoch, erinnert Seidl, die Rolle des Wissenschaftlers nicht aus den Augen zu verlieren. Und das trotz der hohen Anforderungen in den Projekten, den Deadlines, den Erwartungen der Projektpartner etc. Dessen ist sich Seidl durchaus bewusst, aber. »Die Sicht der Wissenschaft ist die des kritischen Hinterfragens und des Den-Dingen-auf-den-Grund-Gehens«, erläutert Seidl. »Sich selbst immer wieder die Frage zu stellen: Was mache ich da eigentlich? Das möchte ich den wissenschaftlichen Mitarbeiterinnen und Mitarbeitern am Fraunhofer IKS gerne mit auf den Weg geben.«


Dieses Vorhaben wurde im Rahmen des Projekts Unterstützung des thematischen Aufbaus des Instituts für Kognitive Systeme durch das Bayerische Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert.

Nächster Artikel

IKS-Aufbauprojekt
Mit Zukunftsthema gut aufgestellt

Hans thomas hengl
Hans-Thomas Hengl
Fraunhofer blog icon mono koginitve systeme
Kognitive Systeme