Thema: Konfiguration von tiefen Neuronalen Netzen

Hauptseminar
Für Masterstudiengänge
Thema: Konfiguration von tiefen Neuronalen Netzen am Beispiel von Stacked
Denoising Autoencodern
Beschreibung des Themas:
Mittels Deep Learning wurden
in den letzten Jahren große
Erfolge bei einer Vielzahl von
Anwendungen erzielt. Die Konfiguration dieser Neuronalen
Netze gestaltet sich jedoch auf
Grund einer hohen Anzahl
Bildquelle: [1]
einzustellender Parameter sehr
schwierig.
Im Rahmen dieses Hauptseminars soll daher am Beispiel der Stacked Denoising
Autoencoder eine geeignete Vorgehensweise zur Wahl der Parameter anhand der
Literatur zum Thema erarbeitet und in einem Vortrag präsentiert werden.
Detaillierte Aufgabenstellung:
• Kurzer Überblick zur Funktionsweise von Stacked Denoising Autoencodern (SDN)
• Recherche zur Konfiguration tiefer Neuronaler Netze am Beispiel von SDN
• Systematische Übersicht zu mögliche Vorgehensweisen bei der Einstellung der
Parameter (u.a. Reihenfolge, sinnvolle Wertebereiche, Adaption anhand bereits
trainierter Netze anderer Anwendungsfelder)
• Präsentation der Ergebnisse in einem Abschlussvortrag
• Ausarbeitung in Form kommentierter Folien des Abschlussvortrags
Zu verwendende bzw. recherchierende Literatur:
[1] P. Vincent, H. Larochelle, I. Lajoie, Y. Bengio, P.-A. Manzagol: "Stacked Denoising
Autoencoders: Learning Useful Representations in a Deep Network with a Local
Denoising Criterion", Journal of Machine Learning Research 11, S. 3371-3408, 2010.
Recherche weiterer Literatur zum Thema SDN über
• Elektronische Literaturdatenbank des FG NI&KR mit Recherchemöglichkeiten
• Elektronische Konferenzproceedings Datenbank des FG NI&KR
• IEEE Recherchesystem www.ieeexplore.ieee.org (nur aus dem Uni-Netz bzw. via VPN)‫‏‬
• Google Scholar scholar.google.com
• Microsoft Academic Search academic.research.microsoft.com
• Proceedings der relevanten Konferenzen (IJCNN, ICANN, CVPR, ICCV, ECCV, ICML)
• http://deeplearning.net
Betreuer:
Dipl.-Inf. Markus Eisenbach ([email protected])‫‏‬
Betr. Hochschullehrer: Prof. Dr. H.M. Groß
Bearbeiter:
Bianca Jäschke
FG Neuroinformatik & Kognitive Robotik