Modulbeschreibung

Machinelles Lernen und speziell Deep Learning sind inhärente Bestandteile nahezu aller Bereiche unseres Alltags. Smartphones, (autonome) Fahrzeuge, medizinische Diagnostik, Börsenprognosen, Epidemiologie, Produktionsanlagen, Roboter-Mensch Interaktion u.v.m. sind abhängig von Entscheidungen, die durch Machine Learning Algorithmen getroffen werden. Typischerweise fokussiert sich die Forschung bzw. die universitäre Ausbildung auf das Training und hier insbesondere auf die  Genauigkeit (accuracy) der Vorhersagen von solchen Modellen. Explainable AI (XAI) ist ein junges Forschungsgebiet, das der Frage nach geht: «Warum wurde diese Entscheidung vom Modell getroffen?» XAI ist die Grundlage für Erklärbarkeit (explainability) und Interpretierbarkeit (interpretability) von Machine Learning Modellen und ermöglicht somit den Schritt von blossen Vorhersagen (predictions) zur Wissenserzeugung aus Daten (knowledge discovery).

In diesem Seminar führen wir eine genaue Begriffsdefinition von XAI durch und lernen die grundlegendenden Ansätze:

1)    Einführung, Begriffsklärung und Beispiele zu XAI
2)    Intrinsisch erklärbare Methoden: Allgemeine lineare Modelle, Entscheidungsbäume & Co
3)    Model-agnostische Ansätze für XAI: Partial Dependence Plots, LIME, SHAP
4)    XAI und Deep Learning: Activation Atlas, CAM,