Modulbeschreibung

Machinelles Lernen und speziell Deep Learning sind inhärente Bestandteile nahezu aller Bereiche unseres Alltags. Smartphones, (autonome) Fahrzeuge, medizinische Diagnostik, Börsenprognosen, Epidemiologie, Produktionsanlagen, Roboter-Mensch Interaktion u.v.m. sind abhängig von Entscheidungen, die durch Machine Learning Algorithmen getroffen werden. Typischerweise fokussiert sich die Forschung bzw. die universitäre Ausbildung auf das Training und hier insbesondere auf die  Genauigkeit (accuracy) der Vorhersagen von solchen Modellen. Explainable AI (XAI) ist ein junges Forschungsgebiet, das der Frage nach geht: «Warum wurde diese Entscheidung vom Modell getroffen?» XAI ist die Grundlage für Erklärbarkeit (explainability) und Interpretierbarkeit (interpretability) von Machine Learning Modellen und ermöglicht somit den Schritt von blossen Vorhersagen (predictions) zur Wissenserzeugung aus Daten (knowledge discovery).