Künstliche Intelligenz

Sichere und intelligente Produktion: Das ist das Motto des ersten Safe Intelligence Day am Fraunhofer IKS, der sich ganz dem Thema Automatisierung widmet. Hier dreht sich alles darum, wie Unternehmen ihre Produktionsprozesse fit machen können für die Herausforderungen der Zukunft.

Der neue Fraunhofer IKS Safety Companion ist ein KI-Agent, der menschliche Entwickler bei sicherheitskritischen Aufgaben unterstützen soll. Er benutzt große Sprachmodelle (LLMs), um Aufgaben zu verstehen, die passenden Sicherheitskonzepte zu identifizieren und umzusetzen. Institutsleiter Mario Trapp und Florian Geissler, Senior Scientist am Fraunhofer IKS, stellen den Safety Companion im Interview vor.

Die Produktionstechnologie entwickelt sich stetig weiter und Unternehmen geraten in Zugzwang. Erfahren Sie hier, was sich derzeit in der industriellen Automatisierung ändert und warum es lohnt, sich darauf einzulassen.

Benedikt Poggel arbeitet als Wissenschaftler im Bereich Quantencomputing am Fraunhofer-Institut für Kognitive Systeme IKS. Er gehört dem Team von Jeanette Lorenz an, das sich mit »Trustworthy Digital Health« beschäftigt. Seit knapp zwei Jahren taucht er tief in dieses Feld ein und arbeitet gleichzeitig an seiner Promotion zum selben Thema.

Dr. Gereon Weiß forscht in seiner Arbeit an der Automatisierung von Produktionsprozessen. Seine Aufgabe und die seines Teams liegt darin, neue wissenschaftliche Erkenntnisse mit anwendbaren Lösungen zu verbinden. Dadurch können sich Industrien in eine Richtung entwickeln, in welcher der Mensch und seine Stärken in der Produktion im Vordergrund stehen.

Künstliche Intelligenz (KI) in der Industrie 4.0 stößt noch auf technologische Hindernisse, die den KI-Einsatz erschweren. Das Fraunhofer IKS entwickelt daher ein Framework, das den Daten- und KI-Lebenszyklus unterstützt, optimiert – und so die Wertschöpfung durch KI in der Produktion deutlich steigert.

Reinforcement Learning ist aufgrund der Trainingsmethode die am besten geeignete KI-Lösung (Künstliche Intelligenz) für eine Vielzahl von Anwendungen in den Bereichen autonome Systeme, Gesundheitswesen und Kommunikation. Die Natur dieser Aufgaben macht jedoch die Datenerfassung potenziell ressourcenintensiv, in einigen Anwendungsszenarien sogar unmöglich. Hier könnte Reinforcement Learning davon profitieren, Methoden des Quantencomputing einzubeziehen: Hybrides quantenklassisches Reinforcement Learning hat nämlich empirisch gezeigt, dass es weniger Trainingsschritte benötigt, um einen stabilen Lernprozess zu erreichen. Das Fraunhofer IKS forscht an Lösungen, die sich auch für den Einsatz in der Industrie eignen.

Deep Learning hat das Interesse am Einsatz Künstlicher Intelligenz in immer mehr Systemen geweckt. Auch das Reinforcement Learning im Bereich des Maschinellen Lernens hat einen Aufschwung erlebt. Trotz dieser beeindruckenden Erfolge in jüngster Zeit steht das Reinforcement Learning jedoch immer noch vor der Herausforderung, Akzeptanz zu finden und erfolgreich eingesetzt zu werden. Dies gilt insbesondere für sicherheitskritische Aufgaben wie Robotik, autonomes Fahren und industrielle Steuerungen. Ein Ansatz, der zur Lösung dieses Problems beitragen kann, ist hierarchisches Verstärkungslernen.

Ganzheitliche Sicherheit für Straßenfahrzeuge steht im Mittelpunkt der Safetronic (15. bis 16. November 2023 in Leinfelden-Echterdingen). Im Video-Interview diskutieren der Institutsleiter des Fraunhofer IKS Prof. Dr. Mario Trapp und das Programmbeiratsmitglied Hans-Leo Ross von Vay Technologies Safety-Herausforderungen im Automobilbereich.

Reinforcement Learning (RL), zu deutsch bestärkendes oder verstärkendes Lernen, beschreibt eines der drei Hauptparadigmen von maschinellem Lernen (ML). Im Gegensatz zu den beiden anderen Methoden, Supervised Learning und Unsupervised Learning, erfolgt bei Reinforcement Learning das Lernen durch direkte Interaktion mit der Umgebung. Nachstehend folgt eine kurze Einführung.

Auf ihrer Innovation-Tour im Rahmen des DigiTech Gipfels macht die »Süddeutsche Zeitung« mit ihren Gästen auch Halt am Fraunhofer IKS. Auf dem Institutsbesuch dreht sich alles um KI und Safe Intelligence sowie um Quantencomputing.

Ein einfaches Online-Tool macht es möglich, die Robustheit eines KI-Modells zu testen – und das innerhalb weniger Sekunden. Robuscope heißt das Werkzeug, entwickelt wurde es vom Fraunhofer IKS.

Runde 2 für den Demo Day des Fraunhofer IKS: Sieben Teams haben dabei ihre Pitches und Demos einer Fachjury vorgestellt, die aus der Institutsleitung, Business Development und PR bestand. Beim diesjährigen Wettbewerb ging es um einen Preis – den Best Demo Award. Gewonnen hat am Ende das Team Robust Object Detector, das eine Anwendung entwickelt hat, die Fehler in der KI-basierten Personenerkennung reduziert.

Die industrielle Produktion befindet sich in einem radikalen Umbruch. Mit den fortschreitenden technologischen Möglichkeiten und dem gesellschaftlichen Wandel muss sich auch die Industrieautomatisierung neu erfinden, um sich geänderten Anforderungen und Herausforderungen zu stellen – Stichwort adaptive Produktion.

Auch rund um die Parkposition können Fremdkörper erheblichen Schaden an Flugzeugen verursachen und so die Sicherheit der Fluggäste gefährden. Das Fraunhofer IKS hat erforscht, wie sich solche Gefahren mit Hilfe Künstlicher Intelligenz vermeiden lassen.

Moderne KI-Modelle haben bei verschiedenen Computer-Vision-Aufgaben wie der Bildklassifizierung bemerkenswerte Fähigkeiten bewiesen. Ihr Entscheidungsprozess bleibt jedoch meist undurchsichtig (Black-Box-Problem). Dies kann insbesondere bei sicherheitskritischen Anwendungen wie der medizinischen Bildgebung oder dem autonomen Fahren problematisch sein. Das Fraunhofer IKS erforscht Wege, Transparenz in diese Black Box zu bringen.

Der Kongress AI.BAY 2023, der am 23. und 24. Februar in München stattfindet, soll ein Forum bieten für die bayerische KI-Community und internationale KI-Expertinnen und -Experten. Das Fraunhofer IKS ist mit dabei und zeigt anhand verschiedener Projekte und Entwicklungen, wie wichtig Sicherheit und Zuverlässigkeit von Künstlicher Intelligenz (KI) ist, ganz nach dem Motto: Safe Intelligence.

Innovation und Wettbewerb: Auf dem ersten Demo Day am Fraunhofer IKS präsentierten sieben Teams ihre Forschungsideen vor ihren Kollegen und Kolleginnen sowie einer fünfköpfigen Jury bestehend aus der Institutsleitung und der Abteilung Business Development.

Gegenüber dem menschlichen Gehirn verbrauchen künstliche neuronale Netze selbst für einfache Unterscheidungsaufgaben immens mehr Strom. Ereignis-basiertes Sehen (Event-based Vision) liefert einen vielversprechenden Ansatz, dieses Problem zu lösen. Allerdings gibt es noch einige Herausforderungen zu meistern.

Der Einsatz von Künstlicher Intelligenz (KI) in der Bahnindustrie verspricht erhöhte Effizienz und Qualität. Einsatzmöglichkeiten, Herausforderungen und die Absicherung von KI in Bahnanwendungen diskutierten Experten der Deutschen Bahn, von Siemens Mobility und des Fraunhofer IKS auf einem Workshop des Instituts.

Nicht behandelte Unsicherheiten in autonomen Systemen beeinträchtigen deren Funktionsfähigkeit und können zu einem Sicherheitsrisiko werden. In Teil 1 der Reihe zum Thema Unsicherheit stand ein Klassifizierungssystem für Unsicherheit im Mittelpunkt. In Teil 2 präsentieren wir konkrete Quellen der Unsicherheit, wie sie in der wissenschaftlichen Literatur diskutiert werden.

Unsicherheit ist ein häufig betrachtetes Problem von Kognitiven Systemen, gerade bei der Umwelterfassung mit Hilfe von Machine Learning. Aber nicht nur Sensorik gilt als eine Quelle für Unsicherheit. Viele Entscheidungen im Lebenszyklus eines hochkomplexen Systems sind anfällig für unsicheres Wissen. Teil 1 unserer Reihe zum Thema Unsicherheit befasst sich mit dem aktuellen Stand der Technik.

Auf dem Weg zur Autonomie werden Autos zunehmend mit Künstlicher Intelligenz ausgestattet. Doch muss diese sicher sein. Im Projekt »KI Absicherung« arbeiteten Forschende und Unternehmen an einem Nachweis der Sicherheit.

Klinikpersonal leidet zumeist unter enormer Arbeitsbelastung und Personalmangel, vor allem auf Intensivstationen. Dies hat Konsequenzen für Patienten und Patientinnen, insbesondere wenn es bei ihnen zum Multiorganversagen kommt. Mit Hilfe von Künstlicher Intelligenz (KI) soll zukünftig ein klinisches Multiorgan-Unterstützungssystem noch besser für die Behandlung eingesetzt werden.

Viele aktuelle CDS-Expertensysteme (Clinical Decision Support) in Laboren stehen in der Kritik. Die Gründe: Schwierigkeiten bei der Skalierung, ständige Überprüfung aus medizinischer Sicht und begrenzte Datenfälle. Daher hat sich Künstliche Intelligenz (KI) zu einer höchst plausiblen Alternative entwickelt. Das vom Fraunhofer IKS veranstaltete Webinar »Sichere Intelligenz für Labore« beleuchtete die Einsatzmöglichkeiten und Herausforderungen von KI in Laboren aus Sicht von Industrie und Patienten.

Wie können intelligente Systeme lernen, Aufgaben zu erledigen – und das allein durch Interaktion mit ihrer Umgebung? Damit beschäftigt sich Reinforcement Learning, ein Teilgebiet des Machine Learning. Dabei entstehen Probleme vor allem dann, wenn Situationen auftreten, die das System noch nicht kennt.

Können tiefe neuronale Netze in der Bildverarbeitung zuverlässig neue, unbekannte Testmuster erkennen? Erste Überlegungen zu verschiedenen Methoden - vor allem für sicherheitskritische Anwendungen.

Künstliche Intelligenz und Maschinelles Lernen werden die Medizintechnik der nahen Zukunft prägen. Aber komplexe Verfahren des Machine Learning stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll.

Die sichere Erkennung von Personen und Objekten ist eine Voraussetzung für autonomes Fahren. Im Rahmen des ADA Lovelace Center haben Forscherinnen und Forscher zwei ineinandergreifende Ansätze entwickelt, um Deep Learning-Methoden sicher und zuverlässig in die Fahrentscheidung autonomer Autos zu integrieren.

Bei der Gewährleistung der Sicherheit automatisierter Fahrsysteme sind sowohl technologische als auch gesellschaftliche und rechtliche Aspekte zu berücksichtigen.

Auf dem Weg zur »Smart City« sollen Sensoren auch Daten zu Luftqualität, Verkehrsaufkommen und Co. sammeln – und langfristig für ein schnelleres Vorankommen und sauberere Luft sorgen. Das Fraunhofer-Institut für Kognitive Systeme IKS bietet die nötigen Technologien für einen sicheren Betrieb der Künstlichen Intelligenz (KI) und gibt Städten und Gemeinden über ein Framework »Starthilfe«.

Ein Aufkleber auf dem Vorfahrtsschild. Äste, die vors Stoppschild ragen. Ein bisschen Graffiti auf dem Tempolimit-Hinweis. Völlig normal im Straßenbild, oder? Was für Menschen zumeist überhaupt kein Problem darstellt, kann für Künstliche Intelligenz (KI) schwierig werden.

Auto-Show war gestern. In diesem Jahr präsentiert sich die IAA Mobility in München als internationale Plattform für die Mobilität von morgen.

Auch wenn das automatisierte Fahren deutliche Fortschritte macht, ist es bis zum fahrerlosen autonomen Fahren noch ein weiter Weg.

In modernen Perzeptionsanwendungen etwa in der Medizintechnik kommen aufgrund ihrer starken Performance vermehrt Modelle auf Basis Künstlicher Intelligenz (KI) zum Einsatz. Allerdings geht diese steigende Leistungsfähigkeit häufig auf Kosten der Nachvollziehbarkeit von Ergebnissen. Ein vom Fraunhofer-Institut für Kognitive Systeme IKS entwickeltes Online Tool schafft hier Abhilfe.

Kann Künstliche Intelligenz (KI) das Risiko einer Psychose vorhersagen? Und beschleunigt Machine Learning die Entwicklung von Medikamenten? In diesem Blog-Beitrag haben wir interessante Fakten zu KI in der Medizin zusammengestellt. In Teil 2 finden Sie Informationen von N wie Neurologie bis Z wie Zulassung.

Können Krebserkrankungen durch Künstliche Intelligenz (KI) früher erkannt werden? Und wie werden Ärztinnen und Ärzte bei Operationen durch Roboter unterstützt? In diesem Blogbeitrag haben wir interessante Fakten zu KI in der Medizin zusammengestellt. In Teil 1 finden Sie Informationen von A wie Apps bis M wie Machine Learning.

Die Corona-Pandemie hat in manchen Bereichen die Digitalisierung erheblich vorangebracht, besonders auch in der digitalen Medizin. In Zukunft wird die digitale Medizin Patientinnen und Patienten auf allen Stationen der Behandlung begleiten: von der Prävention, über Screening, Diagnose und Therapie bis hin zur Nachsorge. Dabei ist die Künstliche Intelligenz (KI) ein wichtiger Wegbereiter, um eine effiziente und individuelle Versorgung zu ermöglichen.

In der Diskussion um den Einsatz von Künstlicher Intelligenz (KI) kommen meist drei Formen von KI zur Sprache: Assisted, Augmented und Autonomous Intelligence. Doch was unterscheidet sie und wo werden sie bereits angewendet? Ein Überblick.

Safe Intelligence ist das zentrale Forschungsthema des Fraunhofer-Instituts für Kognitive Systeme IKS. Ein sehr wichtiges Thema, in technischer ebenso wie in wirtschaftlicher und gesellschaftlicher Hinsicht. Das finden auch die beiden Vorsitzenden des Beirats für das IKS-Aufbauprojekt – und das jeder aus seiner Perspektive.

Am Ende gab es zwei Gewinner: In einem mehrteiligen Wettbewerb fanden sich verschiedene Gruppen aus dem Fraunhofer IKS zusammen, um unter dem Motto »Green Mission« mit vielversprechenden Projekten eine nachhaltige Zukunft zu gestalten. Und deutlich zu machen, dass sich auch das Fraunhofer IKS für mehr Umweltschutz engagiert.

Zur fachlichen Begleitung des IKS-Aufbauprojekts hat das Fraunhofer IKS einen Beirat ins Leben gerufen. Am 14. April kam der Beirat zu seiner ersten regulären Sitzung zusammen. Die beiden Vorsitzenden Thomas Gallner und Prof. Dr. Thomas Seidl sprechen über ihre Motive, sich dort zu engagieren. Und über die Akzente, die sie dabei setzen wollen.

Künstliche Intelligenz (KI) muss mit Unsicherheiten umgehen können, damit wir uns darauf verlassen können, dass sie auch in sicherheitskritischen Anwendungen funktioniert, zum Beispiel in autonomen Fahrzeugen. Das Fraunhofer-Institut für Kognitive Systeme IKS erforscht Möglichkeiten, wie KI logisch mit Unsicherheiten umgehen kann. Eine davon ist die Operational Design Domain.

Das Fraunhofer IKS forscht an sicheren Softwareanwendungen für Quantencomputer. Die Arbeit ist Teil der neuen bayerischen Initiative Munich Quantum Valley.

Die Wissenschaft muss den Nachweis liefern, dass Systeme auf Basis Künstlicher Intelligenz (KI) ausreichend sicher sind. Das fordert Prof. Dr. Simon Burton, seit Kurzem Research Division Director Safety am Fraunhofer IKS. Im Interview erläutert er, welche Ansätze zur Absicherung das Institut verfolgt.

Autonomes Fahren basiert auf verlässlicher Umfelderkennung. Wenn hier Fehler passieren, kann es schnell zu lebensbedrohlichen Situationen kommen. Das muss verhindert werden, aber ein Restrisiko bleibt. Erst wenn sich dieses exakt bestimmen lässt, wird es berechenbar und man kann entscheiden, ob man es eingehen will oder nicht.

Die Faszination für Computer bleibt, auch in der Freizeit. Aber, so Adrian Schwaiger, wissenschaftlicher Mitarbeiter am IKS, irgendwann ist Schluss, nämlich dann, wenn es um Musik geht. Auftakt zu einer Serie von Porträts unserer Forscherinnen und Forscher.

Beim Umwelt- und Klimaschutz denken die meisten an erneuerbare Energien, Elektroautos und nachhaltige Konsumgüter. Nur wenige würden Künstliche Intelligenz (KI) damit in Verbindung bringen. Dabei kann sie eine entscheidende Rolle im Kampf gegen Umweltverschmutzung und Klimawandel spielen.

Spiking Neural Networks werden als die dritte Generation neuronaler Netze bezeichnet. Doch wer waren ihre Vorfahren und wie haben sie sich weiterentwickelt? Ein Überblick über die drei Generationen und ihre Einsatzzwecke.

Tiefe neuronale Netze (Deep Neural Networks, DNNs) haben ihr Potenzial unter Beweis gestellt. Dies gilt vor allem für ihre Verwendung im Labor. Ihre Leistung beim Einsatz in der Praxis lässt allerdings zu wünschen übrig. Ein wesentliches Problem ist die Schätzung der Unsicherheit (uncertainty). Im Folgenden werden die Methoden näher betrachtet, die dieser Herausforderung gerecht werden.

Künstliche Intelligenz hilft nicht nur dabei, Gesichter auf dem Smartphone zu erkennen und das Einparken zu erleichtern. Auch in vielen anderen Branchen wird mit KI gearbeitet. Vier kurze Einblicke.

Auf dem Automarkt liefern sich traditionelle Hersteller und neue Player aus der Softwarewelt ein Kopf-an-Kopf-Rennen. Wer am Ende die Nase vorn hat, entscheidet nicht nur die technologische Innovation, sondern vor allem auch die Sicherheit der Technologien.

Maschinelles Lernen stellt eine enorme Herausforderung in punkto Sicherheit (Safety) dar. Ohne ein tragfähiges Konzept zur Absicherung kommen viele hervorragende Ideen erst gar nicht auf den Markt. Es ist daher nicht überraschend, dass KI-Sicherheit in den letzten Monaten viel mehr Aufmerksamkeit gewidmet wird. In einer kurzen Artikelreihe legen wir daher das Augenmerk auf die Bedeutung der Sicherheit für Künstliche Intelligenz. Der erste Artikel konzentriert sich dabei auf etwas ganz Grundsätzliches: Was bedeutet Sicherheit eigentlich? Ein Punkt ist hier ganz wichtig: sichere KI hat weniger mit KI selbst als vielmehr mit Safety Engineering zu tun.

Erst der Einsatz von Machine-Learning, insbesondere von Deep Learning, ermöglicht viele hochkomplexe Anwendungen, wie etwa das autonome Fahren. Was die Absicherung solcher Systeme betrifft, gilt es aber auch, neue Herausforderungen zu meistern. Ein Überblick.

Künstliche Intelligenz (KI) wird in Zukunft großen Einfluss auf unser Leben nehmen. Und schon jetzt hat KI in vielen Bereichen Einzug gehalten – auch dort, wo es um die Sicherheit von Menschen geht.

Im Testbetrieb funktionieren autonome Fahrzeuge heutzutage bereits recht gut, denn die Einsatzbedingungen sind klar vorgeben und damit einfach zu beherrschen. Ein zentrales Problem besteht jedoch darin, autonome Fahrzeuge so zu konstruieren, dass sie auch in komplexen und bislang unbekannten Situationen zuverlässig funktionieren. Eine von Fraunhofer IKS entwickelte Lösung hilft dabei, derartige Ausnahmesituationen zu identifizieren und vorherzusagen.

70 Jahre Fraunhofer: Dieses Jubiläum im Jahr 2019 war der passende Anlass, 70 Köpfe aus der Fraunhofer-Gesellschaft vorzustellen – darunter den geschäftsführenden Institutsleiter des Fraunhofer IKS Mario Trapp.

Bei autonomen Systemen oder in der Medizintechnik ist es nötig, die Unsicherheit von Verfahren des Machine Learning (ML) zuverlässig zu bestimmen. Deswegen vergleichen wir vier State-of-the-art-Methoden für die Quantifizierung der Unsicherheit tiefer neuronaler Netze (Deep Neural Network, DNN) im Kontext sicherheitskritischer Systeme – damit die KI lernt, wann Zweifel angebracht sind.

»Künstliche Intelligenz: Wie Roboterautos unfallfrei fahren.« Das ist der Titel des Vortrags von apl. Prof. Dr. habil. Mario Trapp, geschäftsführender Institutsleiter des Fraunhofer IKS, bei »Campus Talks« auf ARD-alpha. Den Beitrag können Sie hier auf unserem Blog sehen und natürlich bei »Campus Talks«.

Fehler in autonomen Fahrzeugen gefährden Menschen und können schnell zu Unfällen mit schweren Verletzungen und sogar zu Verkehrstoten führen. Entsprechend müssen gerade auch für Kognitive Systeme und die darin enthaltene Künstliche Intelligenz (KI) stringente Sicherheitsnachweise erbracht werden.

Auszeichnung für vier Forscher des Fraunhofer-Instituts für Kognitive Systeme IKS: Ihr Beitrag zur Messung von Uncertainties in Deep Neural Networks hat den Best Paper Award des Workshops SafeAI 2020 in New York gewonnen. Verliehen wurde der Preis vom anwesenden Fachpublikum.

Gute Forschung profitiert von Diversität und vielfältigen Ideen – deshalb sollte die Forschungsgemeinde die Realität der Gesellschaft widerspiegeln. Das Fraunhofer IKS setzt sich daher für ein ausgeglichenes Geschlechterverhältnis in der Wissenschaft ein.

Komplexe Verfahren des Machine Learning (ML) stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll. Dies schränkt aktuell den Einsatz von Machine Learning in sicherheitskritischen Systemen deutlich ein und erfordert neue Ansätze, um zukünftig auch in diesen Bereichen von den Vorteilen, die ML bietet, profitieren zu können.

Am 21. und 22. November fand in Berlin die zweite Ausgabe der Fraunhofer-Konferenzreihe FUTURAS IN RES statt. Unter dem Motto »What’s the IQ of AI?« diskutierten Expertinnen und Experten aus aller Welt aktuelle Entwicklungen und zukünftige Potenziale von Künstlicher Intelligenz. Unser wissenschaftlicher Mitarbeiter Adrian Schwaiger war für das Fraunhofer IKS (damals noch Fraunhofer ESK) vor Ort und berichtet.

apl. Prof. Dr. habil. Mario Trapp, Institutsleiter des Fraunhofer-Instituts für Kognitive Systeme IKS erzählt im Interview, mit welchen Kompetenzen das Institut Kognitive Systeme sicher macht.

Kognitive Systeme spielen eine entscheidende Rolle in der digitalen Transformation – unter der Voraussetzung, dass sie sicher, verlässlich und kostengünstig sind.