استخدام الضغط العميق على نماذج PyTorch للأنظمة المستقلة

العنوان استخدام الضغط العميق على نماذج PyTorch للأنظمة المستقلة
المؤلف دوغان، إرين، أوغورداغ، حسن فاتح، أونلو، حسن
تاريخ النشر: 2022
مكان النشر - IEEE
النوع وثيقة
اللغة الإنجليزية
رقمي نعم
مخطوط لا
المكتبة: جامعة اوزيجين
معرف أصل المكتبة 978-166545092-8
رقم السجل e84b9b68-0a27-4930-bec3-46f6fc5df6cc
موقع المكتبة الهندسة الكهربائية والإلكترونية
التاريخ 2022
نص عينة لقد اجتذبت تطبيقات الشبكات العصبية الاصطناعية على الأنظمة المدمجة ووحدات التحكم الدقيقة منخفضة التكلفة (MCUs) مؤخرًا اهتمامًا أكبر من أي وقت مضى. نظرًا لأن وحدات MCU لديها سعة ذاكرة محدودة بالإضافة إلى سرعة حوسبة محدودة مقارنة بمحطات العمل، فإن استخدام خوارزميات التعلم العميق الحالية على وحدات MCU يصبح أكثر عملية بمساعدة ضغط النموذج. وهذا يجعل وحدات MCU حلاً بديلاً شائعًا وعمليًا للأنظمة المستقلة. في هذا البحث، نضيف ضغط النموذج، وتحديدًا الضغط العميق، إلى العمل الحالي، والذي ينشر نماذج PyTorch بكفاءة على وحدات MCU، من أجل زيادة سرعة الشبكة العصبية وتوفير الطاقة الكهربائية. أولاً، نقوم بتقليص قيم الوزن إلى ما يقرب من الصفر في الطبقات التلافيفية والمتصلة بالكامل. ثانيًا، يتم قياس الأوزان والتنشيطات المتبقية إلى أعداد صحيحة 8 بت من الفاصلة العائمة 32 بت. وأخيرًا، يتم ضغط وظائف التمرير الأمامي باستخدام هياكل بيانات خاصة لمصفوفات متفرقة، والتي تخزن فقط أوزانًا غير صفرية. في حالة طراز LeNet-5، تم تقليل مساحة الذاكرة بمقدار 12.5x، وتم تعزيز سرعة الاستدلال بمقدار 2.6x.
DOI 10.1109/SIU55565.2022.9864848
عرض في المصدر جامعة اوزيجين جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات
جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات جامعة اوزيجين

استخدام الضغط العميق على نماذج PyTorch للأنظمة المستقلة

المؤلف دوغان، إرين، أوغورداغ، حسن فاتح، أونلو، حسن
تاريخ النشر 2022
مكان النشر - IEEE
النوع وثيقة
اللغة الإنجليزية
رقمي نعم
مخطوط لا
المكتبة جامعة اوزيجين
معرف أصل المكتبة 978-166545092-8
رقم السجل e84b9b68-0a27-4930-bec3-46f6fc5df6cc
موقع المكتبة الهندسة الكهربائية والإلكترونية
التاريخ 2022
نص عينة لقد اجتذبت تطبيقات الشبكات العصبية الاصطناعية على الأنظمة المدمجة ووحدات التحكم الدقيقة منخفضة التكلفة (MCUs) مؤخرًا اهتمامًا أكبر من أي وقت مضى. نظرًا لأن وحدات MCU لديها سعة ذاكرة محدودة بالإضافة إلى سرعة حوسبة محدودة مقارنة بمحطات العمل، فإن استخدام خوارزميات التعلم العميق الحالية على وحدات MCU يصبح أكثر عملية بمساعدة ضغط النموذج. وهذا يجعل وحدات MCU حلاً بديلاً شائعًا وعمليًا للأنظمة المستقلة. في هذا البحث، نضيف ضغط النموذج، وتحديدًا الضغط العميق، إلى العمل الحالي، والذي ينشر نماذج PyTorch بكفاءة على وحدات MCU، من أجل زيادة سرعة الشبكة العصبية وتوفير الطاقة الكهربائية. أولاً، نقوم بتقليص قيم الوزن إلى ما يقرب من الصفر في الطبقات التلافيفية والمتصلة بالكامل. ثانيًا، يتم قياس الأوزان والتنشيطات المتبقية إلى أعداد صحيحة 8 بت من الفاصلة العائمة 32 بت. وأخيرًا، يتم ضغط وظائف التمرير الأمامي باستخدام هياكل بيانات خاصة لمصفوفات متفرقة، والتي تخزن فقط أوزانًا غير صفرية. في حالة طراز LeNet-5، تم تقليل مساحة الذاكرة بمقدار 12.5x، وتم تعزيز سرعة الاستدلال بمقدار 2.6x.
DOI 10.1109/SIU55565.2022.9864848
جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات
جامعة اوزيجين يتم إعادة توجيهك...

يرجى الانتظار