Nachvollziehbare KI in der Medizintechnik und für Automotive-Anwendungen

Wenn es um das Thema Maschinelles Lernen und darüber hinaus um sogenannte Deep Neural Networks (DNNs) geht, dann gibt es meist mehr Fragen als Antworten. Denn noch birgt der Prozess der Datenanalyse ML-basierter Systeme für Entwickler wie auch Anwender gleichermaßen viele Rätsel. Doch gerade bei sicherheitsrelevanten Fragestellungen im Automotive-Bereich, wie bspw. der Fahrerzustandserkennung oder im medizinischen Kontext mit dem automatisierten Screening von Gewebeproben spielen Transparenz und Interpretierbarkeit der Systeme eine große Rolle.

Der Einsatz maschineller Verfahren bei strategischen, kritischen Entscheidungen und deren allgemeine Akzeptanz hängen entscheidend von der Nachvollziehbarkeit der Datenanalyse ab.

Ziel des Forschungsschwerpunktes »Nachvollziehbare KI für Medizin und Automotive« ist es, neuartige Methoden zum erklärbaren Maschinellen Lernen in Verbindung mit Prädiktion und Präskription (Vorhersage und Erklärung) in den genannten Anwendungsdomänen zu schaffen. Dazu gehören Verfahren, die zum einen das Training und die Arbeitsweise von DNNs transparent machen und zum anderen die inhaltliche Validierbarkeit der Prognosemodelle verbessern sollen.