Wo Künstliche Intelligenz heute schon sicherheitskritische Entscheidungen trifft

Künstliche Intelligenz (KI) wird in Zukunft großen Einfluss auf unser Leben nehmen. Und schon jetzt hat KI in vielen Bereichen Einzug gehalten – auch dort, wo es um die Sicherheit von Menschen geht.

mask Polarlichter über einem Wald

Laut dem Marktforschungsinstitut Tractica werden allein im Jahr 2020 weltweit 22,58 Milliarden US-Dollar mit Künstlicher Intelligenz umgesetzt. Dabei dringen KI-basierte Anwendungen auch an die Stellen vor, an denen Entscheidungen fallen, die das Wohlergehen und die Gesundheit von Menschen betreffen. Vier Beispiele, wo heute schon Machine-Learning-Algorithmen sicherheitskritische Entscheidungen treffen.

KI-Algorithmen erkennen Bedrohungen frühzeitig

Ein kritischer Anwendungsfall, in dem Künstliche Intelligenz schon heute zum Einsatz kommt, ist die prädiktive Bedrohungserkennung. Für diesen Fall wird die KI darauf trainiert, anhand von Bild- oder anderen Daten zu erkennen, ob eine Situation gefährlich werden könnte. So ist im Zusammenhang mit der Corona-Krise das Beispiel des kanadischen Start-ups BlueDot durch die Medien gegangen. Das Unternehmen konnte durch die Kombination von mehr als 100 Datensätzen mit proprietären Algorithmen schon am 31. Dezember 2019 eine ungewöhnliche Lungenentzündung in der Region Wuhan erkennen. Das war eine Woche bevor chinesische Behörden offizielle Ankündigungen zur Warnung vor dem neuartigen Coronavirus veröffentlichten.

Doch auch in öffentlichen Verkehrsmitteln schützt KI schon heute das Wohlergehen der Fahrgäste. Anonyme Bild- und Audioanalyse beispielsweise identifiziert potenzielle Bedrohungen für Passagiere durch aggressive Fahrgäste und Vandalismus in Echtzeit. So werden das Zug- und Sicherheitspersonal oder die Leitstelle sofort alarmiert.

KI-basierte Bildgebung und Diagnose verschafft Medizinern mehr Zeit

Ein großes Wachstum des KI-Marktes kann man im Gesundheitswesen und der Medizintechnik beobachten. Am weitesten fortgeschritten ist der Einsatz von Künstlicher Intelligenz in der medizinischen Bildgebung und Diagnose. Durch die steigende Anzahl an radiologischem Bildmaterial haben Ärzte immer weniger Zeit für deren Beurteilung, was wiederum zu einer höheren Fehleranfälligkeit führen kann. In den USA sind bereits mehrere KI-Systeme im Gesundheitswesen im Einsatz. Unter anderem drei Module eines intelligenten Software-Assistenten für Computertomographie (CT) eines deutschen Unternehmens, die seit September 2019 freigegeben sind: Die KI verarbeitet CT-Aufnahmen des Brustraums. Dabei unterscheidet sie zwischen verschiedenen Strukturen, einschließlich der Lunge, des Herzens und der Aorta, hebt sie individuell hervor und markiert und misst potenzielle Anomalien. Die Ergebnisse werden in einem Ergebnisbericht aufbereitet, den der Radiologe direkt zur Unterstützung des Befunds heranziehen kann.

Auch in Deutschland gibt es seit Oktober 2019 CE-zertifizierte KI-Lösungen für die Medizintechnik. Ein Berliner Start-up hat einen Algorithmus entwickelt, der unauffällige Mammographien von Patientinnen, bei denen Verdacht auf Brustkrebs besteht, automatisiert erkennt und aussortiert. Damit hat der Radiologe mehr Zeit, sich auf kritische Fälle zu konzentrieren.

Im EmiCenter in Neapel wird die Software eines niederländischen Start-ups eingesetzt, um den Krankheitsverlauf von Demenz- und Multiple-Sklerose-Patienten besser zu verstehen. Die Künstliche Intelligenz vergleicht die Radiologiedaten mit dem Mittelwert eines Querschnitts der Bevölkerung und liefert den Radiologen klare, detaillierte und strukturierte Informationen über den Gehirnzustand des Patienten.

Simulation: Künstliche Intelligenz erkennt Autos

Künstliche Intelligenz erkennt andere Autos im Verkehr und gibt Unsicherheitswerte für die Klassifizierung an.

Künstliche Intelligenz erkennt Gefahrensituationen beim autonomen Fahren

Speziell beim autonomen Fahren spielt die Erkennung der aktuellen Fahrsituation (Perzeption) durch Machine-Learning-Algorithmen eine große Rolle. Maximilian Henne beschreibt in seinem Blogbeitrag, weshalb es für Algorithmen schwierig sein kann, einen Menschen von anderen Objekten zu unterscheiden. Auf offener Straße sind autonome Fahrzeuge in Europa deshalb bisher noch nicht zugelassen. Jedoch werden sie schon heute verstärkt in abgegrenzten Bereichen wie Häfen, Baustellen, Lagerhallen sowie im Agrarbereich und im Bergbau in Minen eingesetzt. Ein schwedisches Unternehmen bietet etwa ein System an, mit dem Minenfahrzeuge autonom navigieren können. In Situationen, in denen der Algorithmus an seine Grenzen stößt, kann ein Fahrzeugführer mittels Fernsteuerung eingreifen und die Fahrt fortführen. Dies schützt die Fahrzeugführer vor der gefährlichen Arbeitsumgebung in der Mine und ermöglicht es ihnen, mehrere Fahrzeuge gleichzeitig zu steuern.

Die Perzeptionstechnologie, die hinter dem autonomen Fahren steckt, macht ein Anbieter von digitalen Karten- und ortsbezogenen Plattformdiensten schon heute in einer Beta-Version zugänglich. Das gilt für insbesondere für Autofahrer, deren Fahrzeuge mit wenig bzw. keiner Sicherheitstechnologie ausgestattet sind. Die Künstliche Intelligenz identifiziert Objekte, zum Beispiel andere Fahrzeuge und Verkehrsschilder sowie potenzielle Gefahren wie Schlaglöcher. Daraufhin wird der Fahrer per Audio- und Bildbenachrichtigungen gewarnt, damit er sein Fahrverhalten entsprechend anpassen kann.

KI-basierte Instandhaltung reduziert Sicherheitsrisiken

Luftfahrt, Energieversorgung und Schienenverkehr sind Branchen, in denen durch unzureichende Instandhaltungsmaßnahmen besonders hohe Sicherheitsrisiken entstehen können. Durch KI-basierte vorausschauende Wartung, auch Predictive Maintenance genannt, werden potenzielle Störfaktoren erkannt, bevor diese tatsächlich zu Schäden führen. Schon 2016 konnte eine Künstliche Intelligenz bei Airbus präzise den Zusammenhang zwischen Temperatur und der frühzeitigen Abnutzung der Bremsen bei Flugzeugen bestimmen. Dies ist eine völlig neue Erkenntnis, die es Airbus ermöglicht, Prognosen zu entwickeln, die Fluggesellschaften helfen, Verspätungen zu vermeiden.

Ein französisches Unternehmen nutzt KI in einem Projekt, um Anomalien und Gefahrenpotenziale in Gasleitungen zu erkennen. Mit Hilfe von Sensordaten identifiziert das selbstlernende System automatisch abnormale Situationen, die bisher noch nicht aufgetreten sind und eine potenzielle Bedrohung darstellen. Das können Beschädigungen durch den Einsatz von Baggern, aber auch Attacken von Drittparteien auf das System sein.

Auch bei der Deutschen Bahn (DB) kommt Künstliche Intelligenz schon zum Einsatz. Ein Assistenzsystem analysiert und bewertet automatisiert Bilder und Videos. In den Instandhaltungswerken erkennt das System Schäden an Zügen und unterstützt die Automatisierung des Instandhaltungsprozesses für mehr Kapazitäten auf der Schiene und in den Werken.

Fraunhofer IKS: Forschung für sichere und verlässliche Künstliche Intelligenz

KI-basierte Algorithmen helfen also schon heute in vielen Bereichen, Menschenleben zu schützen. Das Fraunhofer IKS arbeitet mit seiner Forschung daran, Künstliche Intelligenz vertrauenswürdig und sicher zu machen.

Dies beinhaltet

  • Methoden und Qualitäts-Metriken zur Bestimmung der Vertrauenswürdigkeit oder Fehlerwahrscheinlichkeit eines Neuronalen Netzes,
  • KI-Monitore zur Absicherung von Laufzeiteigenschaften der KI,
  • Komponenten zur automatisierten Absicherung der Verarbeitungskette, z.B. für die Perzeptionskette beim autonomen Fahren sowie
  • Prüfkriterien für die Safety-Analyse einer KI.

Sie interessieren sich dafür, wie KI abgesichert werden kann?

Auf unserer Website finden Sie weitere Informationen zu unseren Leistungen im Bereich »Zuverlässige Künstliche Intelligenz«. Oder kontaktieren Sie direkt Ihre Ansprechpartnerin Anna Guderitz: anna.guderitz@iks.fraunhofer.de


Anmeldung zum SAFE INTELLIGENCE Newsletter

Sie wollen immer auf dem aktuellsten Stand sein und regelmäßig Informationen zum Fraunhofer IKS erhalten? Dann melden Sie sich hier zu unserem Newsletter an: www.iks.fraunhofer.de/newsletter

Nächster Artikel

Einblicke
So funktioniert KI-Forschung: Ein Blick in das Labor

Dominika Giselbrecht / Fraunhofer IKS
Dominika Giselbrecht
Fraunhofer blog icon mono Industrie 4 0
Industrie 4.0