Der Kongress AI.BAY 2023, der am 23. und 24. Februar in München stattfindet, soll ein Forum bieten für die bayerische KI-Community und internationale KI-Expertinnen und -Experten. Das Fraunhofer IKS ist mit dabei und zeigt anhand verschiedener Projekte und Entwicklungen, wie wichtig Sicherheit und Zuverlässigkeit von Künstlicher Intelligenz (KI) ist, ganz nach dem Motto: Safe Intelligence.
20. Februar 2023
© iStock/Andre Anita
Im Rahmen der Hightech Agenda Bayern veranstaltet die Bayerische Staatsregierung am 23. und 24. Februar zum ersten Mal den Kongress AI.BAY 2023. Sie bietet damit Fachleuten in Sachen Künstliche Intelligenz (KI) aus Wirtschaft und Wissenschaft eine Plattform für Austausch und Vernetzung. Über 500 Gäste werden im Deutschen Museum erwartet, so das Bayerische Staatsministerium für Digitales. Die Themen reichen vom Einfluss Künstlicher Intelligenz auf unseren Alltag über ihre Auswirkungen auf die Wirtschaft bis zum Potenzial von KI bei der Lösung sozialer und ökologischer Herausforderungen.
Das Fraunhofer-Institut für Kognitive Systeme IKS stellt auf der AI.BAY 2023 seine Forschungsarbeit zum Thema Safe Intelligence vor. Denn vernetzte Kognitive Systeme sind der Innovationstreiber in vielen Bereichen, zum Beispiel dem autonomen Fahren, bei Medizingeräten oder der intelligenten Automatisierung in der Industrie. Dabei gilt es, stets das Potenzial der KI voll auszuschöpfen und zur gleichen Zeit nachweislich sicher und zuverlässig zu sein. Das geht weit über Safe AI hinaus, denn es erfordert, Resilienz und Intelligenz zusammen zu denken.
Das Fraunhofer IKS beteiligt sich mit seinen Forschungsthemen aus dem Bereich Safe Intelligence sowohl an der Ausstellung als auch am Vortragsprogramm. Lukas Wehinger stellt das Framework FAST (»Feedback-guided Automation of Sub-Tasks«) vor. Das Framework dient der zuverlässigen Teilautomatisierung von Prozessen auf Basis nur weniger Ausgangsdaten. Dabei kann es frühzeitig, parallel zu einem Experten, eingesetzt werden und übernimmt zunehmend mehr Entscheidungen vom Experten (24. Februar, Track 1: »AI and Data Science«,11:45 bis 12:00 Uhr, Imax).
Nguyen Anh Vu Doan befasst sich in seinem Vortrag mit zuverlässiger Objekterkennung. »Butterfly Effect Attack: Tiny and Seemingly Unrelated Perturbations for Object Detection«, so lautet der Titel. Es geht dabei um die Verwendung eines optimierungsbasierten Ansatzes zur Untersuchung scheinbar unzusammenhängender Störungen bei der Objekterkennung. Ziel ist es, potenziell unsichere Verhaltensweisen aufzudecken, z. B. das Verschwinden von Objekten, wenn das Bild an einer anderen Stelle gestört wird (24. Februar, Track 3: »Robotics, Engineering and Mobility«, 11:30 – 11:45 Uhr, Planetarium).
Der Kongress AI.BAY 2023 findet am 23. und 24. Februar 2023 im Deutschen Museum in München statt. Er soll ein neues Forum für die bayerische KI-Community und internationale KI-Experten bieten, so die Bayerische Staatsregierung.
Alle Infos zur Veranstaltung und zum Vortragsprogramm finden Sie hier:
Am Stand präsentiert das Fraunhofer IKS einige Ergebnisse seiner Forschungsarbeit. Zum Beispiel Robuscope, das zeigt, wie die Sicherheit von KI bewertet werden kann. Diese Anwendung ermöglicht Industrieunternehmen, Universitäten und anderen wissenschaftlichen Einrichtungen, auf Knopfdruck die Zuverlässigkeit von KI zu prüfen. Dafür nutzt Robuscope Kennzahlen zur Unsicherheits- und Robustheitsbestimmung, um zu bewerten, wie sicher die jeweiligen Auswertungen der getesteten KI-Modelle sind. Um anschließend die getesteten KI-Modelle optimieren und damit sicherer gestalten zu können, liefert das Online-Tool des Fraunhofer IKS detaillierte Hinweise auf Verbesserungspotential.
Unter dem Titel Quantum Convolutional Neural Networks zeigen Forscherinnen und Forscher des Fraunhofer IKS außerdem, wie das Zusammenspiel von KI und Quantencomputing deutliche Verbesserungen bei der Früherkennung von schwerwiegenden Erkrankungen per Bildauswertung verspricht. Um Fahrsicherheit geht es bei Tyre Noise Recognition. Anhand des Fahrgeräusches von Autoreifen lässt sich mit Hilfe von KI ableiten, ob die Fahrbahn nass, trocken oder vereist ist. Dementsprechend muss das Fahrverhalten angepasst werden. Aber wie sicher und zuverlässig sind die KI-gestützten Analysen? Das Fraunhofer IKS hat Verfahren entwickelt, welche die Zuverlässigkeit der Aussagen sicherstellt und damit einen wesentlichen Beitrag zur Verkehrssicherheit geleistet.
Und schließlich soll der Mini-Duo anschaulich einen Eindruck davon vermitteln, wie komplex die Herausforderungen beim Entwurf zuverlässiger KI-Systeme sind. Im Mittelpunkt dabei steht die KI-basierte Auswertung von Kamerabildern eines Menschen im Hinblick auf Alter, Größe und Gemütszustand. Die KI gibt auch an, wie sicher sie sich ihrer Einschätzungen ist. So werden durch ein interaktives Erlebnis die Schwachstellen des aktuellen Stands der Technik aufgezeigt.
Neugierig? Dann machen Sie sich vor Ort ein Bild von der Forschungsarbeit des Fraunhofer IKS. Wir freuen uns auf Ihren Besuch!
