رويكردها ي مبتني بر فراابتكاري براي تنظيم دقيق پارامترهاي شبكه ي باور عميق

كارشناسي ارشد

يادگيري ماشين رويكرد استقرايي است كه از داده‌هاي آموزش ديده‌ براي توليد مدل استفاده مي‌كند. مدل‌هاي يادگيري ماشين براي تشخيص تصوير، تشخيص گفتار، پردازش زبان طبيعي و ... استفاده مي‌شوند. شبكه‌ي عصبي يكي از مدل‌هاي يادگيري ماشين مي‌باشد كه به طور گسترده به عنوان يك مدل يادگيري مورد استفاده قرار مي‌گيرد. شبكه‌هاي عصبي به دو دسته‌ي تك‌لايه و چند لايه تقسيم مي‌شوند. يادگيري عميق تكنيكي است كه مشكلات شبكه‌هاي عصبي چندلايه را برطرف كرده است. تكنيك‌هاي يادگيري عميق به چهار دسته‌ي شبكه‌هاي عصبي پيچشي، ماشين‌هاي رمزگذار، خودرمزگذارهاي تنك و ماشين‌هاي بولتزمن تقسيم مي‌شوند. يكي از محدوديت‌هايي كه در شبكه‌هاي عصبي وجود دارد تنظيم تعداد زيادي از پارامترها است كه مي‌تواند به يك مسئله‌ي غيرقابل حل تبديل شود. در يك شبكه‌ي عصبي، هر چه پارامترها با دقت بيشتري تنظيم شوند مدل دقيق‌تري ايجاد مي‌شود به طوريكه اين مدل در مواجه با داده‌هاي تست، خطاي كمتري دارد و پيش‌بيني دقيق‌تري را انجام مي‌دهد. ماشين‌هاي بولتزمن محدودشونده مدل‌هاي احتمالي هستند كه براي مدل‌سازي توزيع داده‌هاي ورودي از يك لايه باينري پنهان استفاده مي‌كنند. اگر تعداد لايه‌هاي پنهان به چند لايه افزايش پيدا كند ماشين بولتزمن محدودشونده به شبكه‌ي باور عميق تبديل مي‌شود. در اين پايان‌نامه، مسئله‌ي «تنظيم دقيق پارامترهاي شبكه‌ي باور عميق با الگوريتم‌هاي فراابتكاري» به عنوان يك مسئله‌ي بهينه‌سازي مطرح مي‌شود و از الگوريتم‌هاي فراابتكاري ژنتيك، ازدحام جمعيت، وال، ملخ، شير مورچه و گرگ خاكستري استفاده مي‌شود تا بهترين مقادير براي پارامترهاي تعداد واحدهاي پنهان، نرخ يادگيري، مومنتوم و انزوال وزن بدست بيايد.

196579

دانشگاه علم و صنعت ايران

مهندسي نرم‌افزار كامپيوتر

دكتر جواد وحيدي