Univ.-Prof. Dr.-Ing. H. Nacken Vorlesung Wasserwirtschaftliche Modellierung Vorlesung 8 Themen: Neuronale Netze (ANN) Trainingsformen von Neuronalen Netzen Anwendungsbeispiele Vor- und Nachteile: Fuzzy Logik versus Neuronale Netze Lehrziele der Veranstaltung Univ.-Prof. Dr.-Ing. H. Nacken erschaffen bewerten Sie treffen in Abhängigkeit der jeweiligen Aufgabenstellung eine fachlich fundierte Auswahl eines Modellierungskonzeptes (Fuzyy oder Neuronale Netze). analysieren anwenden Sie grenzen die Vor- und Nachteile von Fuzzy Logic und Neuronalen Netzen fachlich exakt ab. verstehen Sie wissen wann Neuronale Netze bei wasserwirtschaftlichen Aufgaben angewendet werden können und beschreiben diese allgemeinverständlich. erinnern Sie kennen die Grundprinzipien und Voraussetzungen zur Anwendung von Neuronalen Netze. Neuronale Verschaltung Univ.-Prof. Dr.-Ing. H. Nacken Dendrit Ranvierscher Schnürring Axonterminale Soma Schwannsche Zelle Axon Zellkern Myelinscheide Neutrotransmitter Univ.-Prof. Dr.-Ing. H. Nacken Modell eines Neurons Univ.-Prof. Dr.-Ing. H. Nacken Ein biologisches Neuron und ein künstliches Neuron mathematisches Modell eines Neurons Univ.-Prof. Dr.-Ing. H. Nacken Aktivierungsfunktion: Das Ergebnis der PropagationFunktion wird verwendet um die Aktivierung des Neurons mit der Aktivierungsfunktion zu berechnen. Zu diesem Zweck können verschiedene Funktionstypen verwendet werden. Act Int Act Int Propagation-Funktion: Im ersten Schritt kombiniert die Propagation-Funktion alle von sendenden Neuronen kommenden Eingangswerte Ix. Kombination bedeutet hier, dass eine gewichtete Summe gebildet wird. Activaton Function O w1 I1 I2 w2 w3 I3 Propagation Function w4 Int wn I4 n w i1,2,... In I i i künstliche Neuronale Netze Univ.-Prof. Dr.-Ing. H. Nacken Neuron Ausgangsschicht Eingangsschicht verborgene Schicht verborgene Schicht Geschichte der Künstlichen Neuronalen Netze 1 Univ.-Prof. Dr.-Ing. H. Nacken 1943 Warren McCulloch und Walter Pitt beschrieben in ihrem Aufsatz „A logical calculus of the ideas immanent in nervous activity“ neurologische Netzwerke, die auf dem McCulloch-Pitt-Neuron basieren. Sie zeigten, dass auch einfache Klassen neuronaler Netze prinzipiell jede arithmetische oder logische Funktion berechnen können. 1949 Donald O. Hebb beschrieb in seinem Buch „The Organization of Behaviour“ die mittlerweile klassische Hebb‘sche Lernregel als einfaches universelles Lernkonzept individueller Neuronen. 1974 Paul Werbos entwickelte in seiner Dissertation an der Harvard-Universität bereits das Backpropagationverfahren Grundlegende Prinzipien von ANNs Univ.-Prof. Dr.-Ing. H. Nacken Trainingsphase Arbeitsphase Trainingsphase Univ.-Prof. Dr.-Ing. H. Nacken Die Entwicklung eines Neuronalen Netzes erfordert, dass dem Netz das gewünschte Verhalten beigebracht wird. Dieses wird als Trainingsphase bezeichnet. w w w w w w w w w Dazu werden Beispieldatensätze mit bekannten Input- und Output-Konstellationen verwendet. w w w w w w w w w w w TS I1, I2 ,I3 , O1, O 2 Arbeitsphase Univ.-Prof. Dr.-Ing. H. Nacken Nachdem das Lernen abgeschlossen ist, kann das Neuronale Netz in die Arbeitsphase eintreten. I1 I2 Als Ergebnis des Trainings wird das Neuronale Netz bei Eingangswerten, die den Trainingssätze entsprechen, ähnliche Ergebnisse produzieren. I3 w w w w w w w w w w w w w w w O1 w w w w w TS1 I11, I12 ,I13 , O11, O12 TS 2 I21, I22 ,I23 , O 21, O 22 O1 Black Box Eigenschaften Univ.-Prof. Dr.-Ing. H. Nacken Es ist nicht möglich Wissen aus den Neuronalen Netzen zu extrahieren. Neuronale Netze zeigen nach außen ein typisches „Black-Box“ Verhalten. Eine Erklärungskomponente, die dem Menschen hilft, den Verarbeitungsweg nachzuvollziehen, gibt es nicht. Black Box TS 1 I11, I12 ,I13 , O11, O12 TS 2 I21, I22 ,I23 , O21, O22 Typen von Lernregeln Univ.-Prof. Dr.-Ing. H. Nacken Überwachtes Lernen: „supervised Learning“ Wenn ein gegebenes Eingangsmuster ein spezielles Ausgangsmuster hervorrufen muss, kann jeder Trainingsschritt in der Form überwacht werden Unüberwachtes Lernen: „unsupervised Learning“ Wenn die Aufgabe des Trainingsprozesses darin besteht regelbehaftete Zusammenhänge innerhalb der Umgebung zu erkennen (wie z.B. die Bestimmung der Attribute eines gegebenen Eingangsmusters), so sind gewöhnlich keine speziellen Ausgangsmuster verhanden, mit denen der Trainingsprozess überwacht werden kann. Abflussmodellierung mit Hilfe von ANN (Training1) Univ.-Prof. Dr.-Ing. H. Nacken Anhand eines bekannten Niederschlag-Abfluss-Verhaltens (gemessene Werte/Trainingsansätze) sollte durch Variation der einzelnen Netzparameter ein neuronales Netz entwickelt werden, das die gegebenen Verhältnisse im Einzugsgebiet möglichst genau abbilden kann. Abflussmodellierung mit Hilfe von ANN (Training2) Univ.-Prof. Dr.-Ing. H. Nacken Abflussmodellierung mit Hilfe von ANN (Prozess) Univ.-Prof. Dr.-Ing. H. Nacken [m³/ s . mm] [mm / h] Unit Hydrograph 1 mm Niederschlag w w w w w w w w Abflussmodellierung mit Hilfe von ANN (Kontrolle) Univ.-Prof. Dr.-Ing. H. Nacken Anwendungsbeispiel für ein Neuronales Netz Univ.-Prof. Dr.-Ing. H. Nacken input layer Lokales Modell hidden layer output layer TOPLATS w rainfall runoff evaporation soil moisture Testdatensätze Trainingsdatensätze weight feed back runoff Neuro oder Fuzzy: Kriterien zur Methodenwahl Univ.-Prof. Dr.-Ing. H. Nacken die Einflussgrößen sind bekannt und enthalten die relevante Information die Einflussgrößen sind nicht genau bekannt, aber es liegen Beispieldaten vor die Anzahl der Einflussgrößen ist klein ( ≤5 ) es liegt ein hochdimensionaler Eingaberaum vor die Zusammenhänge zwischen den Einflussgrößen sind bekannt und fest die Zusammenhänge ändern sich während der Betriebsphase Fuzzy Logic Neuronales Netzwerk Vor- und Nachteil von Fuzzy Logic Univ.-Prof. Dr.-Ing. H. Nacken Heuristische Optimierung keine Lernfähigkeit Verarbeitung unscharfer Daten Einfaches Modelldesign Regelwissen notwendig Modifizierbarkeit Einbringen von “Know-how” Transparentes Verhalten Nachteil Vorteil Vor- und Nachteil von Neuronalen Netzen Univ.-Prof. Dr.-Ing. H. Nacken schnelle Optimierung Lernfähigkeit “Black Box” Verhalten Verarbeitung nur von scharfen Daten Schwieriges Netzdesign Kein Regelwissen notwendig Kein Einbringen von “Know-how” Modifizierung nicht möglich Nachteil Vorteil Vorteile von Neuro + Fuzzy Univ.-Prof. Dr.-Ing. H. Nacken Heuristische schnelle Optimierung keine Lernfähigkeit Lernfähigkeit Kein Regelwissen Regelwissen notwendig notwendig “Black Box” Modifizierbarkeit Verhalten Verarbeitung Verarbeitung nur Unscharfer von scharfenDaten Daten Neuro + Fuzzy Schwieriges Einfaches Netzdesign Modelldesign Schwieriges Einbringen von von Einbringen “Know-how” “Know-how” Transparentes Modifizierung Verhalten nicht Möglich Verbund von Neuro und Fuzzy Univ.-Prof. Dr.-Ing. H. Nacken Fuzzy Logic Systeme können für die Wissensrepräsentation in Neuronalen Netzen verwendet werden Die Fuzzifizierung, die für unabhängige Eingangsvariablen berechnet wird, kann durch die Eingangsschicht modelliert werden Die Fuzzy-Regeln, die die Schlussfolgerung unabhängig voneinander berechnen, können durch die verdeckten Schichten repräsentiert werden. Dabei können die Regeln auch durch Mehrfachschichten beschrieben werden Die Defuzzifizierung der Variablen wird ebenfalls unabhängig in der Ausgangsschicht durchgeführt Hybride NeuroFuzzy Systeme 1 Univ.-Prof. Dr.-Ing. H. Nacken Fuzzifizierung Fuzzy-Inferenz Defuzzifizierung WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > WENN < Situation > DANN < Aktion > Ausgangsschicht Eingangsschicht verborgene verborgene Schicht Schicht Hybride NeuroFuzzy Systeme 2 Univ.-Prof. Dr.-Ing. H. Nacken Fuzzy-Inferenz Fuzzifizierung R R R R R R Defuzzifizierung Ausgangsschicht Eingangsschicht R R verborgene verborgene Schicht Schicht NeuroFuzzy Modelle als DSS (input) Univ.-Prof. Dr.-Ing. H. Nacken Fuzzifizierung Fuzzy-Inferenz R Defuzzifizierung R R R Eingangsschicht verborgene Schicht Ausgangsschicht NeuroFuzzy Modelle als DSS (output) Univ.-Prof. Dr.-Ing. H. Nacken Solution produced by a human expert Solution produced by a NeuroFuzzy hybrid system
© Copyright 2024 ExpyDoc
