استفاده از فشرده سازی عمیق در مدل های PyTorch برای سیستم های خودمختار

عنوان استفاده از فشرده سازی عمیق در مدل های PyTorch برای سیستم های خودمختار
نویسنده دوغان، ارن، اوغورداغ، حسن فاتح، اونلو، حسن
تاریخ انتشار: 2022
محل انتشار - IEEE
نوع سند
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه: دانشگاه اوزیغین
شناسه دارایی کتابخانه 978-166545092-8
شماره ثبت e84b9b68-0a27-4930-bec3-46f6fc5df6cc
محل کتابخانه مهندسی برق و الکترونیک
تاریخ 2022
متن نمونه کاربرد شبکه‌های عصبی مصنوعی بر روی سیستم‌های تعبیه‌شده کم‌هزینه و میکروکنترلرها (MCU)، اخیراً بیش از هر زمان دیگری مورد توجه قرار گرفته است. از آنجایی که MCU ها ظرفیت حافظه محدود و همچنین سرعت محاسبات محدودی در مقایسه با ایستگاه های کاری دارند، استفاده از الگوریتم های یادگیری عمیق فعلی در MCU با کمک فشرده سازی مدل کاربردی تر می شود. این باعث می شود که MCU ها راه حل جایگزین رایج و کاربردی برای سیستم های خودمختار باشند. در این مقاله، فشرده‌سازی مدل، به‌ویژه فشرده‌سازی عمیق، را به یک کار موجود اضافه می‌کنیم که به طور موثر مدل‌های PyTorch را بر روی MCU به کار می‌برد تا سرعت شبکه عصبی را افزایش داده و انرژی الکتریکی را ذخیره کند. ابتدا مقادیر وزن نزدیک به صفر را در لایه های کانولوشن و کاملاً متصل هرس می کنیم. ثانیاً، وزن‌ها و فعال‌سازی‌های باقی‌مانده به اعداد صحیح 8 بیتی از ممیز شناور 32 بیتی کوانتیزه می‌شوند. در نهایت، توابع عبور به جلو با استفاده از ساختارهای داده ویژه برای ماتریس های پراکنده، که فقط وزن های غیر صفر را ذخیره می کنند، فشرده می شوند. در مورد مدل LeNet-5، ردپای حافظه 12.5 برابر کاهش یافت و سرعت استنتاج 2.6 برابر افزایش یافت.
DOI 10.1109/SIU55565.2022.9864848
مشاهده در منبع دانشگاه اوزیغین دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات دانشگاه اوزیغین

استفاده از فشرده سازی عمیق در مدل های PyTorch برای سیستم های خودمختار

نویسنده دوغان، ارن، اوغورداغ، حسن فاتح، اونلو، حسن
تاریخ انتشار 2022
محل انتشار - IEEE
نوع سند
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه دانشگاه اوزیغین
شناسه دارایی کتابخانه 978-166545092-8
شماره ثبت e84b9b68-0a27-4930-bec3-46f6fc5df6cc
محل کتابخانه مهندسی برق و الکترونیک
تاریخ 2022
متن نمونه کاربرد شبکه‌های عصبی مصنوعی بر روی سیستم‌های تعبیه‌شده کم‌هزینه و میکروکنترلرها (MCU)، اخیراً بیش از هر زمان دیگری مورد توجه قرار گرفته است. از آنجایی که MCU ها ظرفیت حافظه محدود و همچنین سرعت محاسبات محدودی در مقایسه با ایستگاه های کاری دارند، استفاده از الگوریتم های یادگیری عمیق فعلی در MCU با کمک فشرده سازی مدل کاربردی تر می شود. این باعث می شود که MCU ها راه حل جایگزین رایج و کاربردی برای سیستم های خودمختار باشند. در این مقاله، فشرده‌سازی مدل، به‌ویژه فشرده‌سازی عمیق، را به یک کار موجود اضافه می‌کنیم که به طور موثر مدل‌های PyTorch را بر روی MCU به کار می‌برد تا سرعت شبکه عصبی را افزایش داده و انرژی الکتریکی را ذخیره کند. ابتدا مقادیر وزن نزدیک به صفر را در لایه های کانولوشن و کاملاً متصل هرس می کنیم. ثانیاً، وزن‌ها و فعال‌سازی‌های باقی‌مانده به اعداد صحیح 8 بیتی از ممیز شناور 32 بیتی کوانتیزه می‌شوند. در نهایت، توابع عبور به جلو با استفاده از ساختارهای داده ویژه برای ماتریس های پراکنده، که فقط وزن های غیر صفر را ذخیره می کنند، فشرده می شوند. در مورد مدل LeNet-5، ردپای حافظه 12.5 برابر کاهش یافت و سرعت استنتاج 2.6 برابر افزایش یافت.
DOI 10.1109/SIU55565.2022.9864848
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین شما در حال هدایت مجدد هستید...

لطفاً صبر کنید