مدل هاي طبقه بندي مبتني بر يادگيري گسسته جهت محور

اصفهان : دانشگاه صنعتي اصفهان

مهندسي صنايع

دكتري

طبقه بندي يكي از مهمترين شاخه هاي داده كاوي است كه در طيف وسيعي از مسائل بطور موفقيت آميزي مورد استفاده قرار گرفته است. در ادبيات موضوع، تلاش هاي زيادي به منظور ارائه مدلهاي طبقه بندي كارآمدتر و دقيق تر صورت گرفته است. مدل هاي طبقه بندي ارائه شده را مي توان از منظر ابعاد مختلف در دسته بندي هاي متفاوتي قرار داد كه از جمله مهمترين اين دسته بندي ها، دسته بندي آنها به انواع مدل هاي آماري، هوشمند و عميق ميباشد. عليرغم تنوع گسترده مدل هاي طبقه بندي ارائه شده در ادبيات موضوع، همه آنها بر اساس متدولوژي مشابهي توسعه يافته اند و يك مسئله اساسي در ارتباط با فرآيند يادگيري اين مدل ها ناديده گرفته شده است. در واقع، در فرآيند يادگيري همه مدل هاي طبقه بندي موجود در ادبيات موضوع، يك تابع هزينه پيوسته مبتني بر فاصله به منظور تخمين پارامترهاي ناشناخته مدل استفاده مي شود و اين در حالي است كه مسئله طبقه بندي داراي ماهيتي گسسته است. در واقع، در فرآيندهاي يادگيري معمول كه آموزش مدل طبقه بندي براساس توابع هزينه پيوسته مبتني بر فاصله صورت ميگيرد، مقادير برازش به صورت پيوسته به مقدار واقعي نزديك مي شوند. به عبارت ديگر، در هر تكرار از آموزش، فاصله بين مقادير واقعي و برازش پيوسته كاهش مي يابد. بنابراين، در مسائل مدل سازي پيوسته مانند پيش بيني هاي علّي يا تحليل سريهاي زماني پيوسته، ميتوان به طور كلي تضمين كرد كه عملكرد مدل به طور مداوم بهبود مي يابد. با اين حال، اين موضوع در مدل سازي هاي گسسته مانند مسائل طبقه بندي صادق نيست. در واقع خروجي هاي نهايي يك فرآيند يادگيري پيوسته لازم است قبل از گزارش به عنوان خروجي مدل طبقه بندي گسسته شوند. در نتيجه، اگر فرايندهاي يادگيري و گسسته سازي همسو باشد، فرآيند يادگيري ممكن است منجر به بهبود عملكرد شود. در غير اين صورت، اثر فرايند يادگيري تحت تأثير گسسته سازي از بين خواهد رفت. بنابراين روند يادگيري در چنين شرايطي ميتواند بي فايده و بي تأثير باشد. بدين ترتيب بكارگيري يك تابع هزينه پيوسته براي مسئله طبقه بندي كه خود داراي تابع هدفي گسسته است، ميتواند دقت نتايج حاصله را تحت تأثير قرار دهد. در مقابل، بكارگيري يك فرايند يادگيري كه براساس توابع گسسته عمل نمايد، به دليل سازگاري بيشتر با ذات گسسته مسأله طبقه بندي مي تواند به نتايج مطلوب تري منتهي گردد. در اين رساله يك متدولوژي طبقه بندي متفاوت كه از يك تابع گسسته در فرآيند يادگيري استفاده مي كند، پيشنهاد و اجرا شده است. بدين منظور، از سه مدل طبقه بندي رگرسيون لجستيك، شبكه عصبي پرسپترون چندلايه و شبكه عصبي پرسپترون چندلايه عميق كه به ترتيب از محبوب ترين مدل هاي طبقه بندي آماري، هوشمند و عميق هستند، به عنوان نمونه براي اجراي متدولوژي پيشنهادي استفاده مي گردد. جهت ارزيابي جامع رويكرد طبقه بندي پيشنهادي، مدل هاي پيشنهادي و نسخه كلاسيك نها بر روي چندين مجموعه داده محك پياده سازي شده و عملكرد آنها با يكديگر مقايسه شده است. نتايج حاصل از اين رساله نشانگر برتري مدل هاي طبقه بندي مبتني بر يادگيري گسسته جهت محور نسبت به نسخه هاي كلاسيك آن ها ميباشد. بنابراين، رويكرد طبقه بندي مبتني بر يادگيري گسسته جهت محور پيشنهادي مي تواند به عنوان يك روش جايگزين مفيد در فرايندهاي يادگيري مدل هاي طبقه بندي مختلف بكار گرفته شود.

219941

صنايع

مهندسي صنايع و سيستم ها

دانشگاه صنعتي اصفهان