Transcript استفاده از شبكه هاي عصبي در شناسايي سيستم هاي غير خطي

‫به نام خدا‬
‫سمينار درس مدلسازي‬
‫استاد ‪:‬جناب دکتر توحيد خواه‬
‫نگارنده‪ :‬كامران قاصدي‬
‫‪.‬مباني واصول تئوريك كاربرد شبكه هاي عصبي در شناسايي سيستمها‬
‫‪.‬مقايسه مدل هاي رگرسيون كاكس و شبكه عصبي در پيش بيني بقاي‬
‫بيماران مبتال به سرطان معده‬
‫‪.‬تشخيص بيماري ديابت به كمك شبكه هاي عصبي‬
‫‪.‬تشخيص تسلب شريان هاي كرونري با پردازش ديجيتالي صداي قلب‬
‫‪.‬نتيجه گيري‬
‫در دهه هاي گذشته بيشتر پيشرفتها در حوزه شناسايي سيستمهاي خطي‬
‫و تغيير ناپذير با زمان بوده است‬
‫اما ما در اين سمينار براي شناسايي سيستمهاي غير خطي از شبكه هاي‬
‫عصبي استفاده خواهيم كرد‬
‫معادله حالت يك سيستم خطي‪:‬‬
‫معادله حالت يك سيستم غيرخطي‪:‬‬
‫معادله حالت يك سيستم غيرخطي‬
‫در فضاي گسسته‪:‬‬
‫شماي نورون عصبي‪:‬‬
‫مدل رياضي نورون عصبي‬
‫براي ايجاد شبكه ي عصبي‪:‬‬
‫شبكه چند اليه پرسپترون‬
‫)‪(MLP‬‬
‫بخش غير‬
‫خطي استاتيكي‬
‫از نقطه نظر تئوريك‬
‫شبكه بازگشتي‬
‫)‪(recurrence net‬‬
‫بخش فيدبك‬
‫ديناميكي‬
‫تركيب دو شبكه‬
‫بازگشتي و ‪MLP‬‬
‫معادالت حالت سيستم هاي‬
‫غير خطي‬
‫روابط شبكه هاي عصبي‬
‫وزنهاي شبكه عصبي=پارامترهاي سيستم‬
‫دياگرام سيستم واقعي و مدل‪:‬‬
‫محاسبه خطا در شناسايي‪:‬‬
‫در شبكه هاي عصبي خطا معموال از رابطه‬
‫ي زير حساب مي شود‪:‬‬
‫‪(^2‬خروجی مطلوب – خروجی شبکه)=‪E‬‬
‫با مشتق گرفتن تابع خطا نسبت به‬
‫ايجاد ‪.‬وزنها‪،‬درصدد يافتن وزنهايي براي‬
‫كمترين خطا هستيم‬
‫در مدل اول سيستم بر اساس مجموع گزاره اي‬
‫خطي از خروجي هاي پيشين و تابع غير خطي از‬
‫ورودي هاي پيشين است‪.‬‬
‫منحني خط چين خروجي مدل است كه تخمين‬
‫زننده خروجي واقعي است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫مي بينيم با كاهش دامنه و‬
‫فركانس ورودي مدل همچنان‬
‫خروجي را مطلوب تخمين ميزند‪.‬‬
‫در مدل دوم سيستم بر اساس مجموع تابعي‬
‫غيرخطي از خروجي هاي پيشين و گزاره اي خطي‬
‫ازورودي هاي پيشين است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫مي بينيم با كاهش دامنه و فركانس ورودي‬
‫مدل همچنان خروجي را مطلوب تخمين‬
‫ميزند‪.‬‬
‫در مدل سوم سيستم بر اساس مجموع‬
‫تابعي غيرخطي از خروجي هاي پيشين و تابع‬
‫غيرخطي ديگري ازورودي هاي پيشين است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫مي بينيم با كاهش دامنه و فركانس ورودي‬
‫مدل همچنان خروجي را مطلوب تخمين‬
‫ميزند‪.‬‬
‫در مدل چهارم سيستم بر اساس مجموع‬
‫تابعي غيرخطي يگانه اي از خروجي هاي‬
‫پيشين و ورودي هاي پيشين است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫منحني خط چين خروجي مدل است كه‬
‫تخمين زننده خروجي واقعي است‪.‬‬
‫مي بينيم با كاهش دامنه و فركانس ورودي‬
‫مدل همچنان خروجي را مطلوب تخمين‬
‫ميزند‪.‬‬
‫اندازه گيري ها بر روي بيمار مرتبط با وضعيت‬
‫خطري است َكه او را تهديد مي كند‬
‫شانس بهبودي يا عدم بهبودي بعد از انجام درمان‬
‫هاي تجويزي مهم است‬
‫احتمال بقاي بيشتر بيمار پس از جراحي يا درمان‬
‫نكته مهم براي شروع درمان است‬
‫داليل داشتن مدلي‬
‫براي پيش بيني‬
‫مدل هاي مورد‬
‫بررس ي‬
‫رگرسيون‬
‫كاكس‬
‫شبكه ي‬
‫عصبي‬
‫متغيرهاي‬
‫رگرسيون‬
‫كاكس‬
‫جنس‬
‫پاتولوژي‬
‫تومور‬
‫متاستاز‬
‫نقاط دور‬
‫دست‬
‫سن‬
‫سن‬
‫سابق ي فاميلي درجه يك‬
‫عادات پر خطر‬
‫نوع هيستو پاتولوژي‬
‫متاستاز غدد لنفاوي‬
‫مرحله ي‬
‫پيشرفت هيستوپاتو‬
‫سرطان‬
‫لوژي‬
‫متاستاز نقاط دور دست‬
‫نوع‬
‫متغيرهاي شبكه ي‬
‫عصبي‬
‫پاتولوژي‬
‫تومور‬
‫پاتولوژي تومور‬
‫متاستاز‬
‫نقاط دور‬
‫دست‬
‫مرحله ي پيشرفت سرطان‬
‫سن‬
‫متغيرهاي‬
‫مورد‬
‫مطالعه‬
‫بقا‬
‫درست‬
‫غلط‬
‫مرگ‬
‫‪0.2‬‬
‫درست‬
‫غلط‬
‫‪0.8‬‬
‫كل‬
‫درست‬
‫غلط‬
‫‪27.40‬‬
‫‪%‬‬
‫‪72.60‬‬
‫‪%‬‬
‫‪0.39‬‬
‫‪0.61‬‬
‫بقا‬
‫درست‬
‫غلط‬
‫مرگ‬
‫‪0.13‬‬
‫درست‬
‫غلط‬
‫‪0.87‬‬
‫كل‬
‫درست‬
‫غلط‬
‫‪18.42‬‬
‫‪%‬‬
‫‪81.58‬‬
‫‪%‬‬
‫‪0.29‬‬
‫‪0.71‬‬
‫• يكي از شايع ترين و خطرناك ترين‬
‫بيماري هاي شناخته شده در جهان‬
‫است‬
‫ديابت‬
‫• پيش بيني مي شود تا سال ‪ 2010‬بيش‬
‫از ‪ 220‬ميليون نفر به اين بيماري مبتال‬
‫گردند‬
‫گسترش‬
‫بيماري‬
‫• گرفتگي قلب و عروق‪،‬نابينايي‪،‬قطع‬
‫اعضاي بدن‪،‬اختالالت فكري‬
‫عوارض‬
‫بيماري‬
‫روش هاي تكاملي بر پايه ي‬
‫الگوريتم ژنتيك‬
‫الگوريتم هاي فازي تشخيص‬
‫الگو در استخراج ويژگي‬
‫روش هاي ارائه شده‬
‫روش هاي مبتني بر بيزين‬
‫شبكه هاي عصبي كيفيت و صحت بيشترين ارائه داده اند‬
‫پرسپترون چند اليه‬
‫‪MLP‬‬
‫‪RBF‬‬
‫نزديك ترين همسايگي‬
‫‪KNN‬‬
‫شبكه هاي عصبي‬
‫مقايسه شده‬
‫مجموعه‬
‫دادگان‬
‫ورودي‬
‫شبكه‬
‫‪PIMA indian‬‬
‫‪diabet dataset‬‬
‫در سايت اينترنتي‬
‫دانشگاه كاليفرنيا‬
‫تعداد دفعات وضع حمل‬
‫فشار دياستوليك‬
‫ضخامت پوست ماهيچه ي سه‬
‫سر بازويي‬
‫انسولين سرم ‪2‬ساعته‬
‫‪ 500‬زن سالم‪ 268 -‬زن بيمار‬
‫معيار تشخيص ديابت‬
‫شاخص جرم بدن‬
‫نسبت آزمايش و تعليم‬
‫دادگان تعليم‬
‫دادگان ازمايش‬
‫‪0.25‬‬
‫‪0.75‬‬
‫داشتن سابقه ي ديابت‬
‫سن‬
‫غلظت گلوكز پالسماي خون‬
‫انسداد شريان هاي كرونري يكي از داليل اصلي مرگ و مير در بيماران قلبي هستند‪.‬‬
‫روش تهاجمي‬
‫هزينه باال‬
‫وقت گير بودن‬
‫توانايي آشكارسازي‬
‫زود هنگام را‬
‫ندارند‬
‫‪ECG‬الكتروكارديوگرام‬
‫‪UCG‬اكوكارديوگرافي‬
‫‪X-ray imaging‬اشعه ايكس‬
‫(روش معمول)‬
‫آنژيوگرافي‬
‫روش هاي رايج غير‬
‫تهاجمي‬
‫به كمك‬
‫شبكه‬
‫عصبي‬
‫با استفاده‬
‫از ابزار‬
‫موجك‬
‫پردازش‬
‫ديجيتال‬
‫صداي‬
‫قلب‬
‫در زمان دياستول‪ ،‬فشار خون كرونري و در نتيجه‬
‫توربوالنس حاصل از آن در مقدار ماكزيمم خود بوده و‬
‫سيكل قبل در دوره سكوت خود قرار دارد‪.‬‬
‫نمونه برداري با نرخ ‪ kHZ4‬و ‪ 128‬ميلي ثانيه(‪ 512‬نمونه) از بخش مياني‬
‫دياستولي براي انجام پردازش مورد استفاده قرار گرفته است‬
‫طيف فركانس ي اغلب سيگنال هاي بيولوژيكي ثابت نيستند و به اين‬
‫سيگنالها‪،‬سيگنالهاي غير ايستان(‪ )non-stationary‬مي گويند‪.‬‬
‫براي آناليز اين سيگنالها از ابزار موجك استفاده مي كنيم‬
‫از شبكه ي سه اليه ‪ MLP‬با استفاده از قانون پس انتشار خطا (‪)BP‬‬
‫و تابع انتقال تانژانت سيگموئيد براي اليه اول و تابع انتقال خطي در اليه‬
‫آخر استفاده مي كنيم‬
‫‪1‬نرون خروجي‬
‫‪4‬نرون اليه‬
‫پنهان‬
‫‪8‬گره ورودي‬
‫‪15(30‬بيمار‪15-‬سالم) داده از بانك اطالعاتي ‪100‬تايي براي آموزش‬
‫شبكه استفاده شدو آموزش ها تا رسيدن ميانگين خطاي موثر به‬
‫‪ 0.001‬ادامه مي دهيم‬
‫با ‪ 70‬نمونه(‪40‬بيمار‪30-‬سالم) به آزمايش شبكه مي پردازيم كه ‪34(%85‬‬
‫از‪ )40‬براي نمونه هاي بيمار و ‪ 27(%90‬از‪ )3‬براي نمونه هاي سالم صحت‬
‫حاصل گرديد‪.‬‬
‫‪6‬‬
‫‪3‬‬
‫غلط‬
‫درست‬
‫‪27‬‬
‫بيمار‬
‫‪34‬‬
‫سالم‬
‫‪40‬‬
‫‪35‬‬
‫‪30‬‬
‫‪25‬‬
‫‪20‬‬
‫‪15‬‬
‫‪10‬‬
‫‪5‬‬
‫‪0‬‬
‫همانطور كه مشاهده شد شبكه هاي عصبي ابزاري قدرتمند در‬
‫شناسايي سيستمهاي غير خطي هستند‪،‬و چون در سيستمهاي‬
‫بيو لوژيكي اغلب سيستمها غير خطي هستند‪،‬پس شبكه ها‬
‫بسيار پر كاربرد نيز هستند‪.‬‬
‫مطلوب است براي درك و بهره برداري بهتر از اين ابزار و آشنايي‬
‫بيشتر با با سيستمهاي غير خطي به مطالعه رياضيات غير خطي‬
‫مربوط پرداخت‪.‬‬
. J.C. Principe ” Neural and Adaptive Systems, Fundamental
Through Simulations ” 2000
.1381،“‫“مباني شبكه هاي عصبي‬،‫منهاج‬
.Yazdizadeh, khorasani’’Adaptive time delay neural
network structure for nonlinear system identification’’,2000
.kumpati s.naraenda,kannan parthsarathy,”Identification
and control of dynamical system using neural network
”,1990
.YANG ,HONEVER “feuture subset selection using a Generetic
Algoritm’’ 1998
. 1384،“‫“مقايسه روشهاي مبتني بر هوش مصنوعي‬،‫قوچاني‬،‫تهامي‬
. ‫حاجي زاده“مقايسه مدل شبكه عصبي مصنوعي و رگرسيون كاكس در پيش بيني‬،‫كاظم نژاد‬،‫بيگلريان‬
1389“‫بقاي بيماران مبتال به سرطان معده‬.
. ‫اميرفتاحي“تشخيص غير تهاجمي انسداد شريانهاي كرونري با استفاده از پردازش‬،‫صدري‬،‫كريمي‬
1384“‫ديجيتالي صداهاي قلب‬
‫شما‬
‫توجه‬
‫با تشكر‬
‫از‬