Transcript روش های متداول در آموزش شبکه MLP (ادامه)

‫بسم هللا الرحمن الرحيم‬
‫يک الگوريتم آموزش جديد برای شبکه عصبی ‪ MLP‬در‬
‫کاربردهای دسته بندی‬
‫مهدی سعادتمند طرزجان‬
‫دانشگاه صنعتی خواجه نصيرالدين طوس ی‬
‫دانشگاه تربيت مدرس‬
‫آذر ‪۸۴‬‬
‫شبکه های عصبی‬
‫• دسته بندی‬
‫• کاربردهای شبکه های عصبی‬
‫• تخمين توابع‬
‫• شناسايی سيستم‬
‫• ‪RBF‬‬
‫• ‪MLP‬‬
‫• روش های متداول در دسته بندی‬
‫• شبکه های عصبی‬
‫• روش های پارامتری‬
‫• ‪SVM‬‬
‫• ‪ML‬‬
‫• ‪MAP‬‬
‫روش های متداول در آموزش شبکه ‪MLP‬‬
‫• پس انتشار خطا‬
‫• کمترين مربعات خطا‬
‫• ارائه روش لونبرگ مارکوات‬
‫• روش های نيوتنی‬
‫• ‪....‬‬
‫در تمام روش های فوق معيار آموزش وزن ها با معيار دسته بندی متفاوت‬
‫است‪.‬‬
‫روش های متداول در آموزش شبکه ‪( MLP‬ادامه)‬
‫• خروجی مطلوب در روش های آموزش ی‬
‫متداول‬
‫• تابع خطا‬
‫• معيار دسته بندی‬
‫ناديده گرفتن معيار دسته بندی در فرآيند آموزش می تواند سبب کاهش‬
‫قابليت الگوريتم آموزش ی گردد‪.‬‬
‫روش های متداول در آموزش شبکه ‪( MLP‬ادامه)‬
‫• مثال‪ :‬نمونه آموزش ی متعلق به کالس اول است‪:‬‬
‫برخالف کابردهای شناسايی سيستم و تخمين توابع‪ ،‬در کاربردهای دسته‬
‫بندی‪ ،‬بينهايت خروجی مطلوب برای شبکه وجود دارد‪.‬‬
‫نيازی به ثابت فرض کردن خروجی مطلوب نيست‪.‬‬
‫روش پيشنهادی‬
‫• شرط صفر بودن خطا در روش های آموزش متداول‬
‫• شرط صفر بودن خطا بر اساس معيار دسته بندی‬
‫• شرط صفر بودن خطا بر اساس معيار آموزش ی پيشنهادی‬
‫روش پيشنهادی (ادامه)‬
‫• خروجی مطلوب در روش پيشنهادی‬
‫• خطای خروجی شبکه با ورودی مطلوب فوق‬
‫روش پيشنهادی (ادامه)‬
‫• بررس ی مثال قبل با معيار پيشنهادی‬
‫شبيه سازی‬
‫• ‪ ۵۰۰‬دسته بندی پيکسل های تصوير ماهواره ای با ابعاد ‪120*80‬در دوازده باند‬
‫• شامل ‪ 8‬کالس‪.‬‬
‫• کالس های ‪ 1‬و ‪ 2‬شامل ‪ 2400‬پيکسل‬
‫و ساير کالس ها شامل ‪ 800‬پيکسل‬
‫شبيه سازی (ادامه)‬
‫• برای آموزش از هر‬
‫کالس ‪ 100‬نمونه‬
‫انتخاب شده است‪.‬‬
‫شبيه سازی (ادامه)‬
‫شبيه سازی (ادامه)‬
‫شبيه سازی (ادامه)‬
‫شبيه سازی (ادامه)‬
‫با تشکر از اساتيد و حضار محترم‬