عنوان:
طراحی الگوریتمی برای شبکه عصبی یادگیری عمیق به منظور بهینه سازی طبقه بندی تصویر مبتنی بر شبکه عصبی کانولوشن (CNN) و پیاده سازی روی FPGA
تعداد صفحات:
فهرست مطالب
عنوان صفحه
1-3-1- پیچیدگی مجموعه داده ها 5
1-3-3- محدودیت حافظه سخت افزاری.. 6
1-10- پایداری و مسائل اخلاقی.. 9
فصل دوم: مبانی نظری و پیشینه تحقیق.. 10
2-2- ساختار و تئوری شبکه عصبی کانولوشن (CNN). 11
2-2-4- لایه تماماً متصل (FC). 18
2-2-5- پس انتشار و تابع زیان. 19
2-2-6- نرمال سازی دسته ای.. 19
2-3- مدلهای شبکه عصبی کانولوشن.. 20
3-5-1- مرحله اول: آموزش مدلهای مختلف شبکه. 37
3-5-2- مرحله دوم: مقایسه مدلهای مختلف و انتخاب مدل شبکه. 37
3-5-3- مرحله سوم: تناسب حافظه FPGA.. 38
3-5-4- مرحله چهارم: آموزش شبکه کوچکتر براساس شبکه قبلی.. 38
3-5-5- مرحله پنجم: ساخت یک Integer-Net براساس شبکه آموزش دیده 39
3-5-6- مرحله ششم: شبیه سازی عملکرد سخت افزار. 39
3-5-7- مرحله هفتم: ارزیابی نتایج شبیه سازی.. 39
3-5-8- مرحله هشتم: تغییر روشهای شبیه سازی.. 40
3-5-9- مرحله نهم: استخراج مدل نهایی.. 40
3-8- نرم افزار و روش تجزیه و تحلیل داده‌ها 41
4-3- محدودیت های پیاده سازی.. 44
4-4- طراحی و اصلاح مدلهای CNN.. 45
4-7- بهبود مدل CNN انتخابی.. 51
4-8- شبیه سازی عملکرد سخت افزار. 52
4-9- اصلاح دقت نقشه فیوچر خروجی.. 54
4-10- مقایسه و ارزیابی مدل. 58
فصل پنجم: بحث و نتيجهگيري.. 59
فهرست جدول ها
عنوان صفحه
جدول (1-1): ویژگی داده ها که می تواند بر نتایج پروژه تاثیرگذار باشد. 5
جدول (2-1): ویژگی های اصلی مدل که بر عملکرد CNN تاثیر می گذارد. 6
جدول (2-1): تانسورها در CNN استنباط با پارامترهای درگیر [12] 12
جدول (4-1): ساختار ResNet و FLOP ها. 45
جدول (4-2): نتیجه تأیید ResNet. 46
جدول (4-3): ساختار ResNeXt و FLOP ها. 47
جدول (4-4): نتیجه تأیید ResNeXt. 47
جدول (4-5): ساختار MobileNet و FLOP ها. 48
جدول (4-6): نتیجه تأیید MobileNet. 49
جدول (4-7): مقایسه بین سه مدل. 50
جدول (4-8): بهبود مدل MobileNet. 51
جدول (4-9): نتیجه تأیید MobileNet پس از بهبود. 52
جدول (4-10): دسته ها و اندازه های پارامتر مدل MobileNet. 54
جدول (4-11): نتیجه دقت با دامنه عدد [127-، 127]. 55
جدول (4-12): نتیجه دقت با دامنه عدد [255-، 255]. 56
جدول (4-13): کنترل بیت آزمون 2. 56
جدول (4-14): نتیجه دقت در آزمون 2. 57
جدول (4-15): نتیجه دقت در آزمون 3. 58
فهرست شكل ها
عنوان صفحه
شکل (1-1): ساختار سیستم [4, 7, 8, 9] 4
شکل (2-1): مدل شبکه عصبی مصنوعی برگرفته از [15] 11
شکل (2-2): نمونه ای از پس انتشار پیشخور در استنباط [12] 13
شکل (2-3): FMهای خروجی با Stride2 و Stride 3. 14
شکل (2-4): پوشش با صفر با پارامتر 1 روی تصویر 6×6 [21]. 15
شکل (2-5): نمودارهای توابع ReLU و TanH [23] 16
شکل (2-6): نمونه از Max pooling برگرفته از [24]. 17
شکل (2-7): ناوابستگی عمق max pooling برگرفته از [24]. 17
شکل (2-8): ساختار لایه تماماً متصل برگرفته از [25]. 18
شکل (2-9): اتصالات فضایی و کانال کانولوشن نرمال برگرفته از [13]. 20
شکل (2-10): روشهای مختلف کانولوشن برگرفته از [13]. 21
شکل (2-11): ساختار ResNet برگرفته از [13]. 22
شکل (12-2) نمونه بلوک یادگیری باقیمانده برگرفته از [34]. 23
شکل (13-2) ساختار ResNeXt برگرفته از [13]. 24
شکل (14-2): ساختار MobileNet برگرفته از [13]. 24
شکل (3-1): ساختار شبکه عصبی کانولوشن اولیه [45] 32
شکل (3-2): مدل مفهومی تحقیق.. 36
شکل (4-1): نمونه های اصلی مجموعه داده گرفته شده از پایگاه داده kaggle. 43
شکل (4-2): نمونه های مجموعه داده پس از پردازش. 44
شکل (4-3): منحنی های اتلاف سه مدل. 50
شکل (4-4): فرآیند کپی از MobileNet به Integer-Net. 53
شکل (4-5): روند تغییر پارامتر از ممیز شناور به اعداد صحیح. 54
