Instance Based Learning-2 یادگیری بر پایه نمونه Instructor : Saeed Shiry & Mitchell Ch.
Download ReportTranscript Instance Based Learning-2 یادگیری بر پایه نمونه Instructor : Saeed Shiry & Mitchell Ch.
Instance Based Learning-2 یادگیری بر پایه نمونه Instructor : Saeed Shiry & Mitchell Ch. 8 Radial Basis Functions روشی برای تقریب توابع است. یادگیری با RBFارتباط نزدیکی با شبکه های عصبی مصنوعی و Distance-weighted regressionدارد. در این روش فرضیه یادگرفته شده بصورت زیر میباشد: k ))fˆ ( x) w0 wu K u (d ( xu , x u 1 در این روش از تعداد kتابع کرنل برای تقریب تابع استفاده میشود .تابع کرنل معموال بصورت یک تابع گاوسی انتخاب میشود: 2 ) d ( xu , x 1 2 2 u K u (d ( xu , x)) e Radial Basis Functions نشان داده شده است که در صورتیکه تعداد کافی تابع کرنل گاوسی انتخاب شوند ،با استفاده از RBFمیتوان هر تابعی را با خطای نسبتا کمی تقریب زد. رابطه فوق را میتوان به یک شبکه عصبی دو الیه تشبیه نمود که الیه اول مقادیر کرنل ها و الیه دوم مجموع آنها را محاسبه مینماید. )f(x k ))fˆ ( x) w0 wu K u (d ( xu , x u 1 wk w1 W0 w2 … Kk K1 K2 … xn x3 x1 x2 1 آموزش RBF در صورت داشتن مجموعه ای از مثالهای آموزشی ،آموزش RBFدر دو مرحله صورت میگیرد: .1 .2 تعداد توابع کرنل انتخاب میشود .بعبارت دیگر با انتخاب مقداری برای ,Kمقادیر xu , 2uبرای هر تابع کرنل تعیین میگردد. وزنهای شبکه طوری انتخاب میشوند که شبکه با داده های آموزشی منطبق گردد .اینکار با استفاده از رابطه خطای کلی زیر انجام میشود 2 1 ˆ ))E ( w) ( f ( x) f ( x 2 xD نحوه انتخاب تعداد واحدهای مخفی .1 بازا هر مثال آموزشی >)<xi,f(xiیک کرنل گاوسی تخصیص داده میشود. این تابع به مرکزیت xiبوده و برای تمامی آنها مقدار یکسان 2در نظر گرفته میشود. شبکه RBFطوری آموزش داده میشود که بتواند تقریبی کلی برای تابع هدف پیدا کند .توجه شود که هر مثال آموزشی فقط میتواند در همسایگی xiتابع تقریب زده شده را تحت تاثیر قرار دهد. وزنها طوری محاسبه میشوند که بازا هر مثال آموزشی >)<xi,f(xiدرخروجی شبکه رابطه ) f’(x)=f(xبرقرار باشد .بدین ترتیب شبکه RBFبطور کامل با مثالهای آموزشی انطباق خواهد داشت. نحوه انتخاب تعداد واحدهای مخفی در این روش تعداد تابع کرنل انتخاب شده کمتر از تعداد مثالهاست. .2 این روش بازدهی بیشتری از روش قبلی دارد. مرکز کرنل ها را میتوان بصورت یکنواخت انتخاب نمود. در حالتیکه توزیع نمونه ها غیر یکنواخت باشند میتوان توزیع کرنل ها را هم بصورت مشابهی انتخاب نمود. یک راه دیگر کالسترینگ نمونه ها و تخصیص یک کرنل به هر کالستر است. K2 K1 ویژگی های شبکه RBF آموزش این شبکه ها آسانتر از شبکه های عصبی معمولی است که از روش Back Propagationاستفاده میکنند. این شبکه یک تقریب کلی از تابع را با استفاده از مجموع تقریبات محلی محاسبه میکند. Case Based Reasoning Case Based Reasoning سه خاصیت اصلی سیستم های یادگیری بر پایه نمونه: .1روشهای یادگیری تنبلی هستند که عمل تعمیم تا مشاهده نمونه جدید به تعویق میافتد .2برای دسته بندی نمونه جدید ازمثالهای مشابه استفاده میشود .3نمونه ها توسط نقاطی با مقادیر حقیقی در فضای nبعدی نشان داده میشوند روش یادگیری CBRازدو ویژگی اول تبعیت میکند در حالی که برای نمایش نمونه ها از روش سمبلیک استفاده مینماید .به همین دلیل بدست آوردن نمونه های مشابه مشکل تر است مسائلی را که به شیوه CBRحل میکنیم CBRمشابه روشی است که آدمی برای حل برخی از مسائل بکار میبرد .نظیر: پزشکی : اغلب پزشکان نمونه های قبلی بیماران را بخاطر سپرده و در مواجهه با بیماران جدید از تجربه گذشته سود میبرند. حقوق: قضاوت درکشورهائی مثل امریکا و انگلستان بر اساس اختالفات گذشته و رای هائی که برای آنها صادر شده است انجام میشود. بنگاه مسکن : معموال قیمت خانه ها بر اساس خانه های مشابهی که اخیرا فروش رفته اند تعیین میگردند. اجزا سیستم CBR Case-base Retrieval of relevant cases یک دیتا بیس از مثالهای قبلی استفاده از ایندکس برای مثالهای موجود در دیتا بیس قابلیت تطبیق با شبیه ترین مثالها بدست آوردن راه حل با استفاده از مثالهای مشابه Adaptation of solution تغییر دادن راه حل بنحویکه اختالف بین مثال مورد بررسی و نمونه های پیدا شده در دیتا بیس را در نظر بگیرد. CBR Solving Problems Solution Retain Adapt Database Retrieve Similar New Problem Review تعیین نرخ مسکن:CBR مثالی از Case Location Bedrooms Recep code rooms 1 8 2 1 Type floors Condition terraced 1 poor Price £ 20,500 2 8 2 2 terraced 1 fair 25,000 3 5 1 2 semi 2 good 48,000 4 5 1 2 terraced 2 good 41,000 Test instance Case Location Bedrooms Recep code rooms 5 7 2 2 Type semi floors Condition 1 poor Price £ ??? چگونگی ایجاد قوانین مثالهائی را پیدا میکنیم که تا حد زیادی شبیه هم باشند case 1 and case 2 قانون : R1اگر تعداد recep-roomsاز 2به 1تغییر کند قیمت را £5,000کاهش دهید. case 3 and case 4 قانون : R2اگر Typeاز semiبه terracedتغییر کند قیمت را £7,000کاهش دهید. انطباق مثال مورد بررسی را با مثالهای ذخیره شده مقایسه کرده و موارد انطباق را مشخص میکنیم: matches(5,1) = 3 matches(5,2) = 3 matches(5,3) = 2 matches(5,4) = 1 Estimate price of case 5 is £25,000 Adaptation قانون 2معکوس میشود: قانون : R2اگر Typeاز semiبه terracedتغییر کند قیمت را £7,000افزایش دهید. اعمال قانون معکوس پیش بینی جدید از قیمت مسکن مورد نظر £32,000است یادگیری بدین ترتیب یک caseجدید و یک قیمت جدید تخمین زده شده است. در این مرحله چیزی به دیتا بیس اضافه نمیشود. اگر در آینده این خانه به قیمت £35,000فروش برود این مورد به عنوان یک caseجدید اضاقه شده و یک قانون جدید هم اضافه میشود اگر از 8به 7تغییر کند قیمت را به میزان £3,000اضافه میشود. مثالی از CADET : CBR سیستم CADETاز CBRبرای طراحی مفهومی ابزارهای مکانیکی ساده مثل شیر آب استفاده میکند. کتابخانه این سیستم دارای 75طرح مکانیکی قبال طراحی شده است مثالها بصورت <qualitative function, mechanical >structureذخیره میشوند. سوال ارائه شده به سیستم :عملکرد مورد نیاز هدف :یافتن ساختار مکانیکی مناسب مثالی از CADET : CBR یک caseذخیره شده :لوله با اتصال T Structure ُ Function +Q1 Q3 + T = temperature Q = waterflow Q1, T1 Q2 + T1 Q3, T3 T3 + T2 عالمت +به این معناست که با افزایش جریان آب در Q1مقدار آن در Q3نیز افزایش میابد. Q2, T2 عملکرد مثال ذخیره شده بصورت رابطه کمی بین مقدار آب عبوری در ورودیها و خروجیهای لوله و درجه حرارت بیان میشود. مثالی ازCADET : CBR یک مسئله طراحی جدید: ? Structure + آب مخلوط Qm آب سرد Ct + + Qc + + + Qh Cf + آب گرم Tc + Tm سیگنال کنترل حرارت + Th سیگنال کنترل جریان آب مثالی ازCADET : CBR سیستم CADETبرای حل مسئله آنرا به گرافهای جزئی تقسیم کرده و بدنبال مثالهائی میگردد که با آن مشابه باشند. سپس راه حلهای پیدا شده را با استفاده از یک سیستم Knowledge basedبا هم ترکیب میکند تا به نتیجه مطلوب برسد. همچنین با استفاده از دانش قبلی درصورت لزوم در مورد روابط فیزیکی استنتاج نیز میکند: + + ُAxB is rewriten as + AB موارد استفاده معموال CBRدر مواقعی استفاده میشود که تئوری مناسبی وجود ندارد و یا اینکه امکان مدل کردن مسئله توسط افراد خبره میسر نیست. همچنین در مواردیکه تعداد استثنائات مثالها از قوانین زیاد است این روش میتواند موثر باشد. سیستم های CBRبسرعت آماده استفاده میشوند و با افزایش مثالها قدرت آنها نیز بیشتر میشود. مشکالت وقتی که هیچ مثال مشابهی در دیتا بیس نباشد راه حل CBR نامناسب خواهد بود. CBRقادر نیست تا یک مثال جدید را تشخیص دهد. بازیابی و ترکیب caseها برای یافتن پاسخی به سوال فعلی ممکن است نیازمند روشهای Knowledge based reasoningو روشهای حل مسئله search-intensive باشد.