Serie DEEP, Teil 4
Im Prozess führt DEEP Regie
Dirk Eilers
Künstliche Intelligenz
Maschinelles Lernen
Metriken als Gradmesser für KI-Sicherheit: Reicht das aus?
Maschinelles Lernen (ML) wird häufig durch Metriken wie Accuracy, Precision, Recall und F1-Score bewertet. Doch wie vertrauenswürdig sind diese Kennzahlen tatsächlich? Sie spiegeln lediglich einen Teil der Realität wider und können ein irreführendes Gefühl von Sicherheit erzeugen. Dies kann insbesondere in sicherheitskritischen Bereichen gefährlich werden. Das Fraunhofer IKS entwickelt ein formales Framework, um die Unsicherheit quantifizieren zu können, wodurch Restrisiken »berechenbarer« werden.
