KI in der Medizin
Unsicherheiten in den Griff bekommen

Künstliche Intelligenz und Maschinelles Lernen werden die Medizintechnik der nahen Zukunft prägen. Aber komplexe Verfahren des Machine Learning stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll.

mask Ärztin berät Patienten

Algorithmen der Künstlichen Intelligenz (KI) werden ohne menschliches Zutun trainiert, bewertet und möglicherweise sogar ständig autonom angepasst. Aus diesem Grund werden sie oft als »Blackbox«-Technologie bezeichnet. Obwohl KI flexibel ist und theoretisch mehr leisten kann als Menschen und von Menschen ausgeführte statistische Methoden, sind viele Aspekte, und vor allem die Logik hinter der Entscheidungsfindung, oft nicht interpretierbar. Wenn etwa ein Dermatologe eine personalisierte Bewertung durchführt und zu einer Schlussfolgerung kommt, kann diese auf der Grundlage vorhandener klinischer Beweise erklärt werden. Dagegen können zum jetzigen Zeitpunkt Entscheidungen, die von einer KI getroffen werden, nicht auf diese Weise interpretiert werden.

Dies ist eine starke Einschränkung, denn sie wirkt sich darauf aus, ob und unter welchen Bedingungen die Gesellschaft und die Aufsichtsbehörden KI in der täglichen Praxis der Medizin akzeptieren werden. Mit anderen Worten: Um Künstliche Intelligenz in solchen sicherheitskritischen Anwendungen einsetzen zu können, muss sie kontrollierbar sein, das heißt: Es muss abschätzbar sein, wie unsicher die Systemergebnisse sind. Solche Unsicherheitswerte geben Aufschluss darüber, wie zuverlässig die aktuellen Vorhersagen der KI sind. Zudem dienen sie als Einflussfaktoren für andere Systemkomponenten, um den aktuellen Sicherheitszustand zu bewerten und die Entscheidungen der KI abzusichern.

Die Bestimmung dieser Unsicherheit ist eine beträchtliche Herausforderung. Man kann sich viele Modelle Maschinellen Lernens (ML), insbesondere neuronale Netze, als sehr komplexe, verschachtelte Funktionen vorstellen, die zum Beispiel im Falle der Klassifizierung einem Bild Kategorien zuordnen. Beim Training solcher Modelle werden, vereinfacht dargestellt, deren Parameter so angepasst, dass die Konfidenzwerte – Maße für die Sicherheit einer Aussage – der jeweils richtigen Klassen steigen (im Gegensatz zu den falschen).

Akzeptanz als entscheidendes Kriterium

Was heißt das für die Medizin im Allgemeinen und die Dermatologie im Speziellen? Eine ordnungsgemäße Anamnese, gefolgt von einer Untersuchung in einer gut ausgeleuchteten Umgebung, bei der Texturen beurteilt und spezifische Anzeichen für bestimmte Läsionen festgestellt werden, ergänzt durch zusätzliche Untersuchungen und/oder Bildauswertungen oder
eine Biopsie, ist ein Standardverfahren zur Erstellung einer Diagnose in der Dermatologie.

Darüber hinaus wird anerkannt, dass einige Diagnosen klinisch sind, während andere ausschließlich auf histologischen Befunden oder einer Kombination aus beiden beruhen. Dieser ganzheitliche Ansatz kann nicht vollständig durch Computerprogramme ersetzt werden, und dies wird als eines der wichtigsten Hindernisse für die Einführung der KI angesehen. Viele Patientinnen und Patienten möchten auch einfach einen
Arzt sehen, der sich für sie einsetzt und mit dem sie gemeinsam die Behandlung angehen, anstatt sich möglicherweise mit einem isolierten computergestützten Programm zufriedenzugeben.

Das Fraunhofer IKS macht KI selbstkritischer

Aber zurück zur Technologie. Es kann auch ein Problem sein, dass viele etablierte Methoden des Maschinellen Lernens von bestimmten Einzelwerten für Parameter ausgehen statt von deren Verteilungen. Dies ist suboptimal, wenn ein einziges, starres Beispiel reale Muster und Zusammenhänge nur unzureichend beschreibt. Es erhöht das Risiko, dass die Modelle in ungünstigen Fällen irreführend sind, und weist auf eine weitere Ursache für unzuverlässige Konfidenzwerte hin: Modelle werden auf Datensätzen trainiert, die nicht alle relevanten Zustände repräsentieren (zum Beispiel Hautfarben, Beleuchtungsunterschiede, Fokus etc.) und kommen so zu falschen Ergebnissen.

Um diese Fehler zu vermeiden, entwickelt das Fraunhofer-Institut für Kognitive Systeme IKS neuartige Methoden: Damit lassen sich solchen Fällen höhere Unsicherheitswerte zuweisen, die stark von den gelernten Konzepten aus dem Trainingsdatensatz abweichen. So kann das Modell besser anzeigen, wann es in seiner Vorhersage unsicher ist. Ein Forschungsschwerpunkt ist die sichere prädiktive Modellierung für Anwendungen im Gesundheitswesen: ein multidisziplinärer Ansatz für KI, der Maschinelles Lernen, kausale Inferenz und Optimierung im Gesundheitswesen kombiniert. In diesen angewandten Projekten entwickelt und überführt das Fraunhofer IKS neuartige ML- und Kausalschlussverfahren aus der Theorie in die Praxis, um das Auftreten zukünftiger unerwünschter Ereignisse, Komplikationen und Ergebnisse unter Verwendung früherer Informationen über den Krankheitsverlauf von Patienten vorherzusagen.

Erfahren Sie mehr!

Sie wollen mehr über die Forschung des Fraunhofer IKS zu KI in der Medizin erfahren? Dann kontaktieren Sie gerne unser Business Development für ein persönliches Gespräch.

E-Mail schreiben! Pfeil nach rechts

Dabei werden Fragen beantwortet wie:

  • Wird dieser Patient aufgrund seiner Vorgeschichte eine bestimmte Erkrankung entwickeln?

Es geht auch darum, Patientenkategorien mit erhöhtem Risiko zu identifizieren, zum Beispiel das Komplikationsrisiko bestimmter Behandlungen für Patienten zu bestimmen. Ferner gilt es, direkte und indirekte Einflüsse von Behandlungsentscheidungen auf das Patientenergebnis zu bewerten, also eine Mediationsanalyse vorzunehmen. Dazu gehört schließlich auch die Entwicklung von Techniken zur Bewertung des Einflusses alternativer Behandlungsentscheidungen auf das Patientenergebnis, also eine kontrafaktische Analyse zur Beantwortung von Fragen wie:

  • Hätte dieser Patient ein anderes Ergebnis gehabt, wenn die Ärzte in der Vergangenheit eine andere Behandlung durchgeführt hätten?

In all diesen Bereichen ist die Forschung des Fraunhofer IKS besonders daran interessiert, die Unsicherheit von Beobachtungen und Entscheidungen sowohl für Menschen als auch für KI zu quantifizieren, robuste Modelle in Anwesenheit von nicht-zufällig fehlenden Daten zu entwerfen und zuverlässige Validierungsmetriken zu entwickeln, die sich an klinischen Bedürfnissen orientieren.


Dieser Beitrag erschien erstmalig im November 2021 in »Kompass Dermatologie«.
Originalquelle: https://www.karger.com/Article...

Nächster Artikel

Medizintechnik
Künstliche Intelligenz in der Medizin von A bis Z: Teil 1

Anna Sophie Kreipp
Anna-Sophie Kreipp
Fraunhofer IKS Icons CS 2 2110134
Künstliche Intelligenz