Otonom sistemler için PyTorch modellerinde derin sıkıştırmanın kullanılması

İsim Otonom sistemler için PyTorch modellerinde derin sıkıştırmanın kullanılması
Yazar Doğan, Eren, Uğurdağ, Hasan Fatih, Ünlü, Hasan
Basım Tarihi: 2022
Basım Yeri - IEEE
Tür Belge
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane: Özyeğin Üniversitesi
Demirbaş Numarası 978-166545092-8
Kayıt Numarası e84b9b68-0a27-4930-bec3-46f6fc5df6cc
Lokasyon Elektrik ve Elektronik Mühendisliği
Tarih 2022
Örnek Metin Yapay sinir ağlarının düşük maliyetli gömülü sistemler ve mikrodenetleyiciler (MCU'lar) üzerindeki uygulamaları son zamanlarda her zamankinden daha fazla ilgi görüyor. MCU'lar, iş istasyonlarına kıyasla sınırlı bellek kapasitesine ve sınırlı işlem hızına sahip olduğundan, mevcut derin öğrenme algoritmalarının MCU'larda kullanılması, model sıkıştırma yardımıyla daha pratik hale geliyor. Bu, MCU'ları otonom sistemler için yaygın ve pratik bir alternatif çözüm haline getirir. Bu yazıda, sinir ağı hızını artırmak ve elektrik gücünden tasarruf etmek için PyTorch modellerini MCU'lara verimli bir şekilde dağıtan mevcut bir çalışmaya model sıkıştırmayı, özellikle de Derin Sıkıştırmayı ekliyoruz. Öncelikle evrişimli ve tam bağlantılı katmanlarda ağırlık değerlerini sıfıra yakın budayız. İkinci olarak, geri kalan ağırlıklar ve aktivasyonlar, 32 bitlik kayan noktadan 8 bitlik tam sayılara nicemlenir. Son olarak, ileri geçiş fonksiyonları, yalnızca sıfırdan farklı ağırlıkları depolayan seyrek matrisler için özel veri yapıları kullanılarak sıkıştırılır. LeNet-5 modelinde bellek alanı 12,5 kat azaltıldı ve çıkarım hızı 2,6 kat artırıldı.
DOI 10.1109/SIU55565.2022.9864848
Kaynağa git Özyeğin Üniversitesi Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru Özyeğin Üniversitesi

Otonom sistemler için PyTorch modellerinde derin sıkıştırmanın kullanılması

Yazar Doğan, Eren, Uğurdağ, Hasan Fatih, Ünlü, Hasan
Basım Tarihi 2022
Basım Yeri - IEEE
Tür Belge
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane Özyeğin Üniversitesi
Demirbaş Numarası 978-166545092-8
Kayıt Numarası e84b9b68-0a27-4930-bec3-46f6fc5df6cc
Lokasyon Elektrik ve Elektronik Mühendisliği
Tarih 2022
Örnek Metin Yapay sinir ağlarının düşük maliyetli gömülü sistemler ve mikrodenetleyiciler (MCU'lar) üzerindeki uygulamaları son zamanlarda her zamankinden daha fazla ilgi görüyor. MCU'lar, iş istasyonlarına kıyasla sınırlı bellek kapasitesine ve sınırlı işlem hızına sahip olduğundan, mevcut derin öğrenme algoritmalarının MCU'larda kullanılması, model sıkıştırma yardımıyla daha pratik hale geliyor. Bu, MCU'ları otonom sistemler için yaygın ve pratik bir alternatif çözüm haline getirir. Bu yazıda, sinir ağı hızını artırmak ve elektrik gücünden tasarruf etmek için PyTorch modellerini MCU'lara verimli bir şekilde dağıtan mevcut bir çalışmaya model sıkıştırmayı, özellikle de Derin Sıkıştırmayı ekliyoruz. Öncelikle evrişimli ve tam bağlantılı katmanlarda ağırlık değerlerini sıfıra yakın budayız. İkinci olarak, geri kalan ağırlıklar ve aktivasyonlar, 32 bitlik kayan noktadan 8 bitlik tam sayılara nicemlenir. Son olarak, ileri geçiş fonksiyonları, yalnızca sıfırdan farklı ağırlıkları depolayan seyrek matrisler için özel veri yapıları kullanılarak sıkıştırılır. LeNet-5 modelinde bellek alanı 12,5 kat azaltıldı ve çıkarım hızı 2,6 kat artırıldı.
DOI 10.1109/SIU55565.2022.9864848
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi yönlendiriliyorsunuz...

Lütfen bekleyiniz.