Modulbeschreibung

Die Studierenden

• können erklären, wie neuronale Netze funktionieren und was sie im Vergleich zu anderen Modellen des maschinellen Lernens auszeichnet.
• können entscheiden, in welchen Fällen und Anwendungen ein tiefes neuronales Netz eine gute Wahl für ein bestimmtes ML-Problem ist.
• kennen die wichtigsten Architekturen (CNN, LSTM, GRU, AE, VAE) von tiefen Neuronalen Netzen und können diese in Python (Keras/Tensorflow) implementieren, trainieren und deren Performance für einen ML-Task beurteilen.
• kennen Regularisierungsmethoden für tiefe Neuronale Netze und können Hyperparameter von Architekturen mittels einer Gittersuche anpassen.
• sind in der Lage, ihr Verständnis von tiefen Neuronalen Netzen in einem selbst gewählten Projekt zu demonstrieren.

Ebenfalls vorausgesetzt sind die beiden Module Elektrotechnik & Lineare Algebra I und Elektrotechnik & Lineare Algebra II.

Das Modul findet im Frühlingssemester statt und wird Online angeboten.

Während der Unterrichtsphase wird eine Projektarbeit mittels Bericht (Gewicht 50%) und einem Fachgespräch (Gewicht 50%) bewertet.

Die Studierenden

• können erklären, wie neuronale Netze funktionieren und was sie im Vergleich zu anderen Modellen des maschinellen Lernens auszeichnet.
• können entscheiden, in welchen Fällen und Anwendungen ein tiefes neuronales Netz eine gute Wahl für ein bestimmtes ML-Problem ist.
• kennen die wichtigsten Architekturen (CNN, LSTM, GRU, AE, VAE) von tiefen Neuronalen Netzen und können diese in Python (Keras/Tensorflow) implementieren, trainieren und deren Performance für einen ML-Task beurteilen.
• kennen Regularisierungsmethoden für tiefe Neuronale Netze und können Hyperparameter von Architekturen mittels einer Gittersuche anpassen.
• sind in der Lage, ihr Verständnis von tiefen Neuronalen Netzen in einem selbst gewählten Projekt zu demonstrieren.

Deep Learning ist eine Gruppe von aufregenden neuen Technologien für neuronale Netze. Durch eine Kombination von fortgeschrittenen Optimierungsalgorithmen und Architekturkomponenten für neuronale Netze ist es möglich, neuronale Netze zu erstellen, welche Tabellendaten, Bilder, Text und Audio sowohl als Eingabe als auch als Ausgabe verarbeiten können. Durch Deep Learning kann ein neuronales Netzwerk Informations-hierarchien auf eine Weise lernen, die der Funktion des menschlichen Gehirns ähnelt.
Dieser Kurs führt die Teilnehmer in klassische neuronale Netzwerkstrukturen, Convolution Neural Networks (CNN), Long Short-Term Memory (LSTM), Gated Recurrent Neural Networks (GRU) und Autoencoder (AE, VAE) ein. Die Anwendung dieser Architekturen auf Computer Vision, Zeitreihen, Sicherheit, Verarbeitung natürlicher Sprache (NLP) und Datengenerierung wird behandelt. Aspekte des High Performance Computing (HPC) werden zeigen, wie Deep Learning sowohl auf grafischen Verarbeitungseinheiten (GPUs) als auch auf Grids genutzt werden kann. Der Schwerpunkt liegt in erster Linie auf der Anwendung des Deep Learnings auf Probleme, mit einer Einführung in die mathematischen Grundlagen. Die Studenten werden die Programmiersprache Python verwenden, um Deep Learning mit Google TensorFlow und Keras zu implementieren.

• Einführung in Python, Pandas und Jupyter für Machine Learning
• Einführung in Deep Learning und Neuronale Netze
• Tabular Data
• Regularisierung und Dropout
• Convolutional Neural Networks für Computer Vision
• Zeitreihen in Keras
• Autoencoder

• Sebastian Raschka: Python Machine Learning - Second Edition: Machine Learning and Deep Learning with Python, scikit-learn, and TensorFlow (Englisch) Taschenbuch, Packt Publishing; Auflage: 2nd Revised edition (20. September 2017), ISBN-13: 978-1787125933
• Aurélien Géron: Hands-On Machine Learning with Scikit-Learn and TensorFlow, Concepts, Tools, and Techniques to Build Intelligent Systems, O'Reilly Media, March 2017
• David Foster: Generative Deep Learning, O'Reilly Media, Inc., ISBN: 9781492041948, 2019
• Francois Chollet , Deep Learning

Die Unterrichtssprache ist deutsch, teile der Literatur können in Englisch sein.