1 . Introduction - دانشگاه کردستان
Download
Report
Transcript 1 . Introduction - دانشگاه کردستان
دانشکده فنی مهندس ی
دانشگاه کردستان
بهار 1391
Fuzzy Neural Networks : A Survey
زیر نظر :
دکتر کیومرث شیخ اسماعیلی
دانشجویان :
فریبا تقی نژاد
امیر زواران حسینی
سید پدرام خدارحمی
« گر 1وه » 3
مجموعه های فازی
فرض کنید Xمجموعه ی قد افراد و به عنوان مجموعه ی مرجع در بازه ی ] [0 , 200تعریف شده است
آنگاه برای مجموعه ی ( Aمجموعه ی افراد بلند قد ) می توان دو مجموعه ی زیر را تعریف کرد :
.1تعریف کالسیک مجمومه ی A = { 160, 161, 162, … , 200} : A
2
بلندی قد
1
0
50 100 150 159 160 170 200
0
قد
.2تعریف فازی مجموعه ی : A
} ) A = { (0 , 0 ) , (1 , 0 ) , … , (150 , 0.2) , (151, 0.2) , … (170,1) ,… , ( 200 , 1
2
0
2
200
170
100
150
قد
50
0
بلندی قد
1
مجموعه های فازی -توابع عضویت ( ) Membership function
عالوه بر توابع عضویت اشاره شده توابع عضویت پیوسته و گسسته ی دیگری نیز وجود دارد که
به چند مورد اشاره می شود:
•
•
•
•
•
توابع مثلثی ( )triangular function
توابع ذوزنقه ای ( ) trapezoidal function
توابع منطقی ( ) logistic function
توابع گوس ( ) Gaussian
S _memberships
•
Exponential _like
3
مجموعه های فازی -توابع عضویت ( ) Membership function
توابع مثلثی :
4
مجموعه های فازی -توابع عضویت ( ) Membership function
توابع مثلثی : Shaped
5
مجموعه های فازی -ویژگی های اعداد فازی مثلثاتی
اگر ) ( m , a , bنشاندهنده ی یک عدد فازی مثلثاتی باشد آنگاه برای این عدد فازی خواهیم داشت :
•
: Support
• : a- cut
6
مجموعه های فازی -عملگرهای فازی اعداد فازی مثلثاتی
7
مجموعه های فازی -عملگرهای منطقی فازی اعداد فازی مثلثاتی
8
نمای کلی مقاله
5.
Evaluation
1.
Introduction
4.
Conclusions
2 . Learning
3.
Application
9
Evaluation
Introduction . 1
Introduction
Conclusion
Learning
Application
• شبکه های عصبی > قابلیت یادگیری سطح پایین و توان محاسباتی باالیی
• سیستم های فازی > قابلیت تفکر انسان گونه ی سطح باال
FNN1 :
Inputs → 𝑅𝑒𝑎𝑙 𝑁𝑢𝑚𝑏𝑒𝑟
Weights → Fuzzy Number
+
FNN2 :
Inputs → Fuzzy Number
Weights → Real Number
FNN3 :
Inputs → Fuzzy Number
Weights → Fuzzy Number
HFNN :
Activation Function : * , / , - , +
10
Introduction . 1
Introduction
Evaluation
Learning
شکل زیر معماری شبکه های فازی – عصبی FNN1با یک الیه ی مخفی و دو
ورودی و یک خروجی را نشان می دهد :
𝑎12
1
𝑊11
𝑊12
𝑉1
𝑌1
𝑉2
1
𝑎22
𝑊31
3
که در آن 𝑖𝑋 اعداد فازی Triangularهستند
𝑌𝑖 و 𝑖𝑇 اعداد فازی Triangular shapedهستند
11
𝑎11
1
𝑋1
𝑊22
𝑉3
𝑎32
Application
𝑊21
2
𝑊32
Conclusion
𝑎21
2
𝑋2
Introduction . 1
Introduction
Evaluation
Learning
شکل زیر معماری شبکه های فازی – عصبی FNN2با یک الیه ی مخفی و دو
ورودی و یک خروجی را نشان می دهد :
𝑎12
1
𝑊12
𝑉1
𝑌1
1
𝑉2
𝑊11
𝑎22
2
𝑎32
3
𝑉3
Application
𝑎11
1
𝑋1
𝑊21
𝑊22
𝑊31
که در آن 𝑗𝑖𝑊 و 𝑖𝑉 اعداد فازی Triangularهستند
𝑌𝑖 و 𝑖𝑇 اعداد فازی Triangular shapedهستند
12
Conclusion
𝑊32
𝑎21
2
𝑋2
Introduction . 1
Introduction
Evaluation
Learning
شکل زیر معماری شبکه های فازی – عصبی FNN3با یک الیه ی مخفی و دو
ورودی و یک خروجی را نشان می دهد :
𝑎12
1
𝑊12
𝑉1
𝑌1
1
𝑉2
𝑊11
𝑎22
2
𝑎32
3
𝑉3
𝑎11
1
𝑋1
𝑊22
𝑊32
که در آن 𝑖𝑋 𝑊𝑖𝑗 ،و 𝑖𝑉 اعداد فازی Triangularهستند
𝑌𝑖 و 𝑖𝑇 اعداد فازی Triangular shapedهستند
13
Application
𝑊21
𝑊31
Conclusion
𝑎21
2
𝑋2
Introduction . 1
Introduction
Evaluation
Learning
در ادامه اسالید قبل می توانیم نحوه ی تولید خروجی توسط شبکه های فازی –
عصبی FFN3را در زیر مشاهده کنیم .
14
Conclusion
Application
Evaluation
Introduction . 1
Introduction
Conclusion
Learning
Application
را نشان می دهدHFNN شکل زیر مثالی از شبکه های عصبی – فازی
15
5.
Evaluation
1.
Introduction
4.
Conclusions
2 . Learning
3.
Application
16
Evaluation
Learning . 2
Introduction
Conclusion
Learning
Application
. می باشدFNN3 کلیه الگوریتم های ذکر شده برای شبکه های فازی عصبی: • فرضیات
: Learning • استراتژی های مختلف
Fuzzy Back Propagation
α-cut based Back Propagation
Random Search
Genetic Algorithm
Fuzzy chaos
Neo – Fuzzy Neroun
17
.1
.2
.3
.4
.5
.6
Fuzzy Back propagation . 2.1
Introduction
Evaluation
Learning
برای شبکه ی عصبی – فازی با یک الیه ی ورودی ( 2نرونی ) ،یک الیه
ی مخفی ( 3نرونی ) و 1الیه ی خروجی ( 1نرونی ) داریم :
𝑎12
1
𝑊12
𝑉1
𝑌1
1
𝑉2
𝑊11
𝑎22
2
𝑎32
3
𝑉3
𝑎11
1
𝑋1
𝑊22
𝑊32
که در آن 𝑖𝑋 𝑊𝑖𝑗 ،و 𝑖𝑉 اعداد فازی Triangularهستند
𝑌𝑖 و 𝑖𝑇 اعداد فازی Triangular shapedهستند
18
Application
𝑊21
𝑊31
Conclusion
𝑎21
2
𝑋2
Evaluation
Introduction
Conclusion
) ( ادامهFuzzy Back propagation . 2.1
Learning
Application
∀𝑙
𝑌𝑙 = 𝑇𝑙
∀𝑙
𝑌𝑙 = 𝑇𝑙
𝐸 ≠ 0
𝐸 0 =[ −𝛌 , 𝛌]
𝛌=
𝐸∈
19
×
Evaluation
Introduction
Conclusion
α-cut based on Back propagation . 2.2
Learning
: اگر داشته باشیم
Application
20
Random Search . 2.3
Introduction
Evaluation
Conclusion
Learning
Application
و فازی مثلثاتی بودن وزن ها الگوریتم آ
• ابتدا با فرض فازی بودن ورودی ها ،
موزش را آغاز می کنیم.
) می با شد.
• هدف ما مینیمم کردن تابع خطا (
در این روش ما به صورت راندم تمامی وزن ها را ایجاد کرده تا به خطای مینیمم برسیم.
• در شبکه های عصبی فازی بزرگ این پروسه بسیار زمان بر خواهد بود پس بهتر
است از روش جستجوی اتفاقی هدایت شده ( ) GENETIC ALGORITHMاستفاده
کنیم.
21
Evaluation
Genetic Algorithm . 2.4
Introduction
Conclusion
Learning
Application
.الگوریتم ژنتیک روز به روز کاربرد بیشتری در سیستم های فازی پیدا می کند
22
Genetic Algorithm . 2.4
Introduction
Evaluation
Conclusion
Learning
Application
با فرض فازی مثلثاتی بودن ورودی ها و وزن ها و فازی شبه مثلثاتی بودن
مینیمم کردن تابع خطای زیر می باشد
}E=max{E1,E2
23
،هدف
Genetic Algorithm . 2.4
Introduction
Evaluation
Conclusion
Learning
Application
الگوریتم ژنتیک(معمولی) برای مینیمم کردن تابع خطا با استفاده از تغییر وزن ها طراحی
شده است(.از آنجایی که محاسبه Eبر اساس
و می باشد،الگوریتم کافیست که تغییر
وزن ها را دنبال کند )
به هر حال این روش آموزش ممکن است که دچار شکست شود،زیرا در این روش ما
نزدیک باشد.این امکان وجود دارد
اطمینان حاصل می کنیم که به اندازه کافی به
که الگوریتم با مقدار خطای بسیار کم پایان یافته ولی
در بعضی از xها باشد.
24
دارای اختالف فاحشی با
Genetic Algorithm . 2.4
Introduction
Evaluation
Conclusion
Learning
Application
برای رفع مشکل ذکر شده بایستی از تابع خطایی استفاده نمود که تمامی
تحت پوشش قرار دهد.
تابع خطایی که برای مینیمم شدن انتخاب شده بر اساس α-cutهای
25
و
و
ها را
می باشد
Genetic Algorithm . 2.4
Introduction
Evaluation
Learning
ژنتیک الگوریتم استفاده شده همانند قسمت قبل می باشد با این تفاوت که عالوه بر تغییر
وزن ها برای مینیمم کردن ، Eبه دنبال مکان هایست که تابع عضویت 1باشد.
را تقریبا با
حال فرض کنید که وزن های فازی مثلثاتی نتوانند
ازای تمامی Lها ).
دراین صورت وزن ها را فازی شبه مثلثاتی فرض کرده،ورودی ها فازی مثلثاتی بوده و
فازی شبه مثلثاتی خواهد بود.
26
برابر سازند(به
Conclusion
Application
Genetic Algorithm . 2.4
Introduction
Evaluation
Conclusion
Learning
Application
محاسبه ی خطا همانند مرحله قبل خواهد بود
الگوریتم ژنتیک نیز همانند مرحله قبل خواهد بود اما با یک تفاوت اساسی :که این بار به
دنبال تغییر α- cutهای وزن ها خواهد بود.
با دانستن ورودی ها و α-cutهای وزن ها α-cut ،های خروجی نیز قابل محاسبه خواهد
بود و به این ترتیب Eنیز قابل محاسبه می باشد.
27
Fuzzy Chaos . 2.5
Introduction
Evaluation
Conclusion
Learning
Application
فرض کنید Iهمه اعداد فازی در بازه ] [-M,Mباشد و M>0
fuzzy chaos mapping: Fبه صورتی که
F: I I
و فرض کنید که ) 𝑖𝑁( 𝑁𝑖+1 = Fبا 𝑁0به عنوان مقادیر اولیه و i=0,1,2,….
کاربرد:
• آموزش یک شبکه فازی FNN3از طریق جستجوی تصادفی وزن های برای
شبکه عصبی
• برای حل مسائل بهینه سازی فازی
28
Fuzzy Chaos . 2.5
Introduction
Evaluation
Conclusion
Learning
Application
از fuzzy chaotic mappingمی توان بعنوان بعنوان مبنا برای جستجوی وزن های فازی
در یک شبکه عصبی فازی برای حداقل کردن مقدار تابع خطای Eاستفاده کرد
-1انتخاب مقادیر اولیه برای وزن های 𝑊𝑖𝑘,0و 𝑉𝑖𝑘,0
-2تولید یک سلسله وزن های جدید از طریق
) 𝑢 𝑊𝑖𝑘,𝑢+1 = F(𝑊𝑖𝑘,و ) 𝑢𝑉𝑖𝑘,𝑢+1 = F(𝑉𝑖𝑘,
وپیدا کردن مقادیری از وزن ها که مقدار تابع خطا را صفر کند
29
Fuzzy Chaos . 2.6
Introduction
Evaluation
Conclusion
Learning
Application
•
•
•
•
Neo-Fuzzy Neuronیک سیستم چند ورودی تک خروجی
سیگنال های ورودی اعداد حقیقی
برای هر ورودی مجموعه ای از وزن ها ی 𝑖𝑗 wو توابع عضویت 𝑖𝑗µ
وجود دارد.
در این سیستم هم وزن ها و هم توابع عضویت باید آموزش داده شود
30
Evaluation
Fuzzy Chaos . 2.6
Introduction
Conclusion
Learning
Application
31
Fuzzy Chaos . 2.6
Introduction
Evaluation
Conclusion
Learning
Application
• سیگنال ورودی xهمزمان می تواند تنها دو سیناپس کنار هم عضویت کنار
هم را فعال کند و مجموع توابع عضویت این دو سیناپس برابر یک است.
• در نهایت داریم:
32
Fuzzy Chaos . 2.6
Introduction
Evaluation
Conclusion
Learning
Application
هر کدام از سیناپس ها را می توان بعنوان یک قاعده فازی در نظر گرفت
𝑖𝑗𝑥:مجموعه فازی با تابع عضویت 𝑖𝑗µ
𝑖𝑗: wوزن هر سیناپس
33
5.
Evaluation
1.
Introduction
4.
Conclusions
2 . Learning
3.
Application
34
Evaluation
Applications . 3
Introduction
Conclusion
Learning
Application
: • کاربردهای مختلف شبکه های عصبی – فازی
Fuzzy Expert System .1
Fuzzy Controller .2
Fuzzy Matrix equations .3
35
Evaluation
Fuzzy Expert System . 3.1
Introduction
Conclusion
Learning
Application
ایده ای برای مدل کردن سیستم های خبره فازی می باشدFNN3
فرض کنید یک سیستم خبره فازی با دو قاعده فازی زیر داریم
R1:IF X1 IS PL AND X2 IS PL THEN C IS PL
R2:IF X1 IS PL AND X2 IS PM THEN C IS PM
36
Fuzzy Expert System . 3.1
Introduction
Evaluation
Conclusion
Learning
Application
فرض کنید یک سیستم خبره با بلوکی از قواعد فازی زیر:
𝑅𝑖 :if X=𝐴𝑖 and Y=𝐵𝑖 then Z=𝐶𝑖 , 1 ≤ 𝑖 ≤n
در سیستم خبره زیر داریم:
-1دو نرون الیه اول خروجی برابر
ورودی است
n-2نرون الیه مخفی پیاده کننده n
قاعده فازی است.
37
Evaluation
Fuzzy Controller . 3.2
Introduction
Conclusion
Learning
Application
38
Evaluation
Fuzzy Controller . 3.2
Introduction
Conclusion
Learning
Application
1: IF e IS 𝐹1 AND ∆e IS 𝐺2 THEN 𝐴1 : ∆1 = MIN(𝐹1 (e) , 𝐺2 (∆e))
2:IF e IS 𝐹2 AND ∆e IS 𝐺2 THEN 𝐴1 :∆2 = MIN(𝐹2 (e) , 𝐺2 (∆e))
1,2 ξ1 =MAX(∆1 , ∆2 )
𝐴=υ(ξ𝐾 𝐴𝐾 ):MAX
Output=CG(𝐴)
39
Fuzzy Controller . 3.2
Introduction
Evaluation
Conclusion
Learning
Application
در شکل زیر شبکه عصبی فازی معادل کنترل کننده فازی
را مشاهده می کنید
:e, ∆eورودی های شبکه فازی
𝑖𝐴 𝑖𝐺 : ,𝐹𝑖 ,وزن های شبکه معادل توابع عضویت ورودی ها
و خروجی کنترل کننده
نرون های الیه اول پیاده کننده 9قائده فازی
نرون های الیه دوم ترکیب کننده قواعدی که خروجی یکسان دارند
نرون الیه سوم خروجی فازی
نرون defuzzier: Dخروجی فازی
کاربرد :
:1استفاده به به عنوان کنترل کننده فازی
:2برای آموزش قواعد کنترل کننده فازی و پیدا کردن وزن های شبکه که همان توابع عضویت هستند.
40
Fuzzy Matrix equations. 3.3
Introduction
Evaluation
Learning
در این کاربرد هدف ما حل معادله فازی
می باشد
به ازای ماتریس فازی داده شده با ابعاد m×nو بردار معلوم با ابعاد m×1متشکل
از اعداد فازی شبه مثلثاتی ،برداری مجهول با ابعاد n×1می با شد.
شبکه عصبی فازی پیشنهادی برای حل معادله مذکور مطابق شکل زیر می باشد.
43
Conclusion
Application
Fuzzy Matrix equations. 3.3
Introduction
Evaluation
Conclusion
Learning
Application
ورودی شبکه ردیف iام می باشد.نرون های ورودی هیچ تغییری بر روی ورودی خود
ایجاد نمی کنند ،پس نرون ورودی به خروجی برابر با معادله زیر می باشد.
که iامین مولفه در حاصلضرب
می باشد.
44
Fuzzy Matrix equations. 3.3
Introduction
Evaluation
Conclusion
Learning
Application
چگونگی حل معادله توسط شبکه عصبی فازی بصورت زیر می باشد:
.1داده آموزشی
می باشد.
.2خروجی مورد انتظار
می باشد.
.3از یکی از روشهای آموزش برای یافتن بهترین وزن (بردار فازی
45
) استفاده شود.
5.
Evaluation
1.
Introduction
4.
Conclusions
2 . Learning
3.
Application
46
Conclusions . 4
Introduction
Evaluation
Conclusion
Learning
Application
• در این مقاله ما شبکه های عصبی – فازی را به عنوان یک شبکه ی تک الیه Feed ،
forwardبا داده های ورودی فازی و یا وزن های فازی مطالعه کردیم
• در این مقاله Learningها و Applicationهای مختلف شبکه های فازی – عصبی بیان شد
• شرایط اعمال شده به اعداد فازی ( مثلثاتی بودن این اعداد ) تا حد زیادی محدودکننده است
47
5.
Evaluation
1.
Introduction
4.
Conclusions
2 . Learning
3.
Application
48
Evaluation . 5
Introduction
Evaluation
Learning
این مقاله به دلیل محدودیت های اعمال شده به اعداد فازی قابلیت Generalizationبسیار
پایینی دارد
استراتژی های Learningبیان شده در این مقاله صرفا با شرایط موجود مقاله قابل استفاده
هستند
هیچ گونه ای اشاره ای به هزینه ی پیاده سازی و استفاده از این سیستم ها در Application
های موجود نشده است
با توجه به دو معیار مهم در ارزیابی استراتژی ها ( پیچیدگی زمانی و پیچیدگی حافظه ای )
این مقاله فاقد جدول ارزیابی و مقایسه استراتژی های مطرح شده است
نتایج ذکر شده برای استراتژی های مختلف فاقد اثبات دقیق ریاضی است
در این مقاله به مقاالت چاپ نشده استناد شده است .
از جمله مزیت های این مقاله بیان خالصه ای از سیستم های فازی – عصبی است که دید
کلی از مسئله در اختیار خواننده قرار می دهد
49
Conclusion
Application
( Evaluation . 5پیشنهادات )
Introduction
Evaluation
Conclusion
Learning
Application
• پیشنهاد می شود که استراتژی های مطرح شده بدون اعمال محدودیت به اعداد فازی
توسعه داده شود
• می توان از توابع خطای دیگری ( در جهت کاهش آن ) استفاده کرد
50
با تشکر از توجه شما
51