Transcript Neuro-Fuzzy

10. Neuro-Fuzzy-Systeme
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
Jörg Krone, Ulrich Lehmann, Hans Brenig, Oliver Drölle, Michael Schneider
Fuzzy Membership Function
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
1
End
Inhalt
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
a. Grundgedanke Neuro-Fuzzy
b. Adaptive Neuro Fuzzy Inference System
c. Vergleich Tagaki-Sugeno vs. Mamdani
d. ANFIS basiert auf Tagaki-Sugeno-FIS
e. Beispiel: ANFIS Approximation einer Kennlinie
f. ANFIS: Regelwerk und Initialisierung
g. Training mit ANFIS - Startwerte, Optimierungslauf
(Training), Ergebnis
h. Zusammenfassung
i. Bewertung ANFIS
j. Quellen
k. Fragen
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
2
End
Grundgedanke Neuro-Fuzzy
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
•
+ Vorteil von Fuzzy-Systemen ist die transparente
Speicherung und Verwaltung von Expertenwissen in Form von
Regeln im Regelwerk
•
- Nachteil von Neuronalen Netzen, dass kein Apriori-Wissen in
das Netz eingebracht werden kann und nicht klar ist, wo das
gelernte Wissen im Netz liegt
•
- Nachteil von Fuzzy-Systemen ist das aufwändige manuelle
Optimieren vieler Freiheitsgrade, wenn der Ergebnis nicht auf
Anhieb zufriedenstellend ist
•
+ Vorteil von Neuronalen Netzen ist, dass die Genauigkeit des
Netzes bezüglich der vorgegebenen Trainingsdaten nahezu
automatisch beim Lernvorgang verbessert wird
•
Konzept: durch Kombination beider Technologien Neuro und
Fuzzy sollen die Nachteile der einen Technik durch die
Vorteile der jeweils anderen Technik ausgeglichen werden.
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
3
End
Adaptive Neuro Fuzzy Inference System
(ANFIS)
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
SS 2009/2
•
ANFIS kombiniert die Vorteile eines Fuzzy Inference System (FIS) mit
der Lernfähigkeit eines KNN, um das Kennfeld y = f(x) anpassen zu
können
•
Durch überwachtes Lernen kann die Fuzzyfizierung der
Eingangsgröße (Lage und Breite der Membership Functions)
•
und die Fuzzyfizierung der Ausgangsgröße, in der Regel die
Parameter eines Tagaki-Sugeno-Fuzzy-Systems (Konstanten k und q
der Ausgangsfunktion) angepasst werden
•
Dabei wird ein Fehlerkriterium bezogen auf Targetdaten, die zur
Verfügung stehen müssen, minimiert
•
Zwei, von KNN bekannte, Lernverfahren werden dabei einzeln oder
hybrid eingesetzt:
–
Backpropagation für Membership-Funktionen und/oder
–
Methode der kleinsten Fehlerquadrate für die Anpassung der MembershipFunktionen des Tagaki-Sugeno-Fuzzy-Systems (ähnlich Levenberg-Marquard bei
KNN)
10. Neuro-Fuzzy-Systeme
Inhalt
4
End
Vergleich Sugeno vs. Mamdani
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
Advantages of the Sugeno Method
 It is computationally efficient.
 It works well with linear techniques (e.g., PID control).
 It works well with optimization and adaptive techniques.
 It has guaranteed continuity of the output surface.
 It is well suited to mathematical analysis.
Advantages of the Mamdani Method
 It is intuitive.
 It has widespread acceptance.
 It is well suited to human input.
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
5
End
ANFIS basiert auf Tagaki-SugenoMethode
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• Unter File: New FIS ein Sugeno-System anlegen.
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
6
End
Beispiel ANFIS
Approximation einer Kennlinie
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• Gegeben ist eine Kennlinie y = f(x), die durch ein ANFIS
approximiert werden soll:
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
7
End
Beispiel ANFIS
FIS-Ansatz für Eingang x
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• Die Eingangsgröße x wird, wie bekannt, mit drei FuzzyMengen (unten, mittig und oben) definiert. Dabei orientiert sich
der Experte an der vorgegebenen zu approximierenden
Funktion.
oben
mittig
unten
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
8
End
Beispiel ANFIS
FIS-Ansatz für Eingang x
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
Da die Membership-Funktionen durch ein Training angepasst
werden, ist die Festlegung der Wertebereiche eher unkritisch!
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
9
End
Beispiel ANFIS
Regelwerk und Initialisierung
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• Regelwerk:
– Regel_1: if(x==unten) then(y:=k1*x+q1)
– Regel_2: if(x==mitte) then(y:=k2*x+q2)
– Regel_3: if(x==oben) then(y:=k3*x+q3)
• D.h., die Ausgangsgröße von Tagaki-Sugeno-Fuzzy-Systemen
erhält keine unscharfe Menge, sondern es wird
abschnittsweise eine lineare Funktion zwischen Ausgang y
und allen Eingängen xi definiert (siehe then-Teil oben rechts)
• Für k1, k2, k3 und q1, q2, q3 müssen vom „Experten“
Startwerte vor dem Training vorgegeben werden. Die
Genauigkeit ist unkritisch!
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
10
End
C IC L a b
Training mit ANFIS >>anfis()
Startwerte, Optimierungslauf (Training),
Ergebnis
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
11
End
Zusammenfassung I
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
•
Prinzip der Fuzzy-Modellierung am Beispiel von Sugeno-Modellen:
•
Die Besonderheit der Sugeno- gegenüber den Mamdani-Fuzzy-Modellen liegt in
der scharfen Schlussfolgerung der Regeln. Sugeno-Modelle zeichnen sich
durch ihre hohe Prädiktionsgüte aus. Ihre Struktur gestattet eine modifizierte
Übertragung von Methoden aus der konventionellen Regelungstechnik.
•
Im Laufe der Identifikation müssen Zugehörigkeitsfunktionen (Anzahl und
Parametrierung) und Schlussfolgerungen bestimmt werden.
•
Die Zugehörigkeitsfunktionen (für die Eingangsgröße) können beispielsweise
direkt durch ein Clusterverfahren, z.B. Fuzzy-c-Means, ermittelt werden.
•
Die Schlussfolgerungen (für die Ausgangsgröße) können durch ein Verfahren
der kleinsten Fehlerquadrate berechnet werden.
•
Das ermittelte Modell kann anschließend durch ein gradientenbasiertes
Optimierungsverfahren optimiert werden.
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
12
End
Zusammenfassung II
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• Abschließend wird bei der Modellvalidierung, z.B.
Kreuzvalidierung, die Qualität des ermittelten Modells, geprüft.
• Ist das Modell nicht akzeptabel, wird die Identifikation unter
geänderten Bedingungen wiederholt (z.B. andere Ordnung des
Schlussfolgerungspolynoms).
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
13
End
Bewertung ANFIS
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
 Das gelernte Wissen ist aus den Membership-Funktionen für
den Input und aus den Koeffizienten der Gleichungen für die
Tagaki-Sugeno-Ausgangsgröße ersichtlich
 die Optimierung ist ähnlich schnell wie Levenberg-Marquard
bei KNN
 generell ist eine Ähnlichkeit zum Training von KNN erkennbar
-
Das gelernte Wissen im ANFIS (mit Tagaki-Sugeno-FIS) ist
nicht so transparent aus dem Regelwerk ersichtlich, wie bei
einem Mamndani-FIS
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
14
End
Quellenverzeichnis
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
• MATLAB User's Guide Fuzzy Toolbox
• MATLAB Printable (PDF) Documentation on the Web
• MATLAB Tutorial zu anfis and the ANFIS Editor GUI
• J. Hoffmann, U. Brunner: Matlab & Tools, AddisonWesley-Verlag 2002
• Tutorium zu Fuzzy-Clustering-Verfahren
http://home.dei.polimi.it/matteucc/Clustering/tutorial_html/cmeans.html
• VDE/VDI GMA FA 5.14 Computational Intelligence
http://www.iai.fzk.de/medtech/biosignal/gma/tutorial/index.html
Inhalt
SS
2009/2
10. Neuro-Fuzzy-Systeme
15
End
Fragen
C IC L a b
C o m p u ta tio n a l In te llig e n c e
a n d C o n tro l L a b o ra to ry
Fragen Sie bitte!
Inhalt
SS 2009/2
10. Neuro-Fuzzy-Systeme
16
End