Derin sinir ağlarının yeni ve hibrit mimariler aracılığıyla dönüşümlere genelleştirilmesi

İsim Derin sinir ağlarının yeni ve hibrit mimariler aracılığıyla dönüşümlere genelleştirilmesi
Yazar Özcan, Barış
Basım Tarihi: 2024-08-30T15:28:26Z
Konu Sinir ağları (Bilgisayar bilimi), Yazılım, Bilgi görselleştirme, Bilgisayar mühendisliği
Tür Belge
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane: Özyeğin Üniversitesi
Kayıt Numarası 6d495955-a86a-4c7f-8aa6-4de7c2cdadaa
Lokasyon Bilgisayar Bilimleri Bölümü
Tarih 2024-08-30T15:28:26Z
Örnek Metin Nesne tanıma, çeşitli düzeylerde bir tür kategori bilgisi gerektiren arama, izleme, gezinme, sahne anlama veya bilgi alma gibi birçok bilgisayarlı görme görevi için temel bir dayanaktır. Evrişimsel sinir ağları (CNN'ler) gibi veriye dayalı derin öğrenme yöntemleriyle bu görevlerde kaydedilen büyük ilerlemelere rağmen, geometrik varyasyonlara genelleme ve parça-bütün ilişkilerinin yerleştirilmesi, insan düzeyindeki tanıma ile karşılaştırıldığında henüz elde edilmemiştir. CNN'ler, önemli örneklerle bile öğrenilen bir nesnenin görünmeyen bakış açılarını genelleştirmede özellikle başarısız olur ve havuzlama işlemleri girdideki mevcut varlıklar arasındaki ilişkiyi kaybettiğinden kolayca kafaları karışır. Son zamanlarda ortaya çıkan kapsül ağlar, önemli ölçüde daha az parametreyle bile yeni bakış açısı genelleme görevlerinde CNN'lerden daha iyi performans gösteriyor. Kapsül ağları, daha yüksek düzeydeki nitelikleri temsil etmek için nöron aktivasyonlarını ve görsel dönüşümlere eşdeğerlik sağlamak için bunların etkileşimlerini gruplandırır. Kapsüller mevcut bir görsel varlığın pozunu temsil etmek üzere tasarlanmıştır ve öğrenilen dönüşümler esasen matris olan poz dönüşümleridir. Bununla birlikte, kapsül ağları, eğitim kararlılığı sorunlarına ek olarak, yönlendirme algoritması adı verilen algoritma yoluyla ardışık katmanlardaki kapsüllerin etkileşimlerini öğrenmek için yüksek bir hesaplama maliyetine sahiptir. Bu tezde, Kuaterniyon Kapsül Ağlarında (QCN'ler) poz bilgisini ve dönüşümleri kuaterniyonlarla temsil etmeyi öneriyoruz. Kuaterniyonlar gimbal kilide karşı bağışıktır, kapsüller için dönüş gösteriminin basit bir şekilde düzenlenmesine sahiptir ve matrislerden daha az sayıda parametre gerektirir. QCN'ler, matrisler yerine kuaterniyon kullanmanın faydalarının adil bir şekilde karşılaştırılması için doğrudan mevcut EM Yönlendirmesini devralır. Deneysel sonuçlar, QCN'lerin daha az parametreyle yeni bakış açılarına daha iyi genelleştirdiğini ve iyi bilinen kıyaslama veri kümelerinde son teknoloji Kapsül mimarileriyle eşit veya daha iyi performanslar elde ettiğini gösteriyor. Bu öneriye dayanarak, hesaplama yükünü azaltmayı ve poz bilgilerinin yanı sıra özellik vektörlerini de kapsüllere yerleştirmeyi amaçladık. Bu bağlamda, kapsüllerin 2 boyutlu görüntüler üzerinde yeni bakış açısı genellemesini geliştirmek için poz, özellik ve varoluş olasılığı bilgilerini bir arada içeren kapsüller için özel olarak tasarlanmış Azaltılmış Poz Dikkatli Kapsül Anlaşması'nı (ALPACA) öneriyoruz. Bu amaçla, eğitim ve test örneklerinin farklı bakış açılarıyla oluşturulduğu, 8 farklı kuruluma sahip, bakış açısı kontrollü, dokusuz bir veri seti olan Novel ViewPoint Veri Kümesini (NVPD) oluşturduk. NVPD'ye ek olarak, veri kümesinin nesne örneklerine göre bölündüğü iLab2M veri kümesi üzerinde deneyler yaptık. Deneysel sonuçlar, ALPACA'nın iLab2M ve NVPD veri kümelerinde kapsül ağı muadillerinden ve son teknoloji ürünü CNN'lerden daha iyi performans gösterdiğini göstermektedir. Üstelik ALPACA, yönlendirme tabanlı kapsül ağlarla karşılaştırıldığında 10 kat daha hızlıdır. Ayrıca, çıkarım ve eğitim sürelerini karşılaştırılabilir tutarken, etki alanının dikkat tabanlı yönlendirme algoritmalarından daha iyi performans gösterir., Nesne tanıma, arama, izleme, gezinme, sahne anlama veya bilgi alma gibi çeşitli şekillerde bir tür kategori bilgisi içeren birçok bilgisayarla görüş sorunu için temel bir dayanaktır. Konvolüsyonel sinir ağları (CNN'ler) gibi veri odaklı derin öğrenme yöntemleriyle bu görevlerde büyük ilerlemeler düzenlenmiş olsa da, geometrik varyasyonlara genelleme ve parça bütün ilişkilerin nemlimesi, insan düzeyinde tanımayla karşı aralıkları geri kalır. CNN'ler özellikle öğrenilen bir nesnenin anlaşılmasının bakış açılarına önemli örneklerle bile genelleme yapılmamakta ve havuzlama işlemleri girilendeki mevcut parçalar arasında kaybolmasından kolayca yanlış yönlendirilebilmektedir. Yakın zamanda ortaya çıkan kapsül ağları, çok daha az parametreyle bile yeni görüş açısına genelleme konusunda CNN'lerden daha iyi performans gösteriyor. Kapsül ağları, daha yüksek seviyeli öznitelikleri temsil için genişletilmiş aktivasyonlarını ve görsel dönüşümlere eşdeğişkenlik sağlamak için etkileşimlerini gruplandırır. Kapsüller, mevcut bir görsel varlığın pozunu temsil etmek üzere tasarlanmış ve öğrenilen dönüşümler esasen matrisler olan koordinat sistemi dönüşümleridir. Bununla birlikte, kapsül ağları, eğitim kararlılıkları sorunlarına ek olarak, yönlendirme geliştirmesi olarak geliştirmeleri sayesinde ardışık katmanlardaki kapsüllerin etkileşimlerini öğrenmek için yüksek bir programlama maliyetine sahiptir. Bu tezde, Kuaterniyon Kapsül Ağlarında (QCN) poz bilgileri ve dönüşümleri kuaterniyonlarla temsil edilmeyi sağlar. Kuaterniyonlar gimbal kilidine maruz kalmamaktadır, kapsüller için rotasyonun basit bir şekilde düzenlenmesi vardır ve matrislerden daha az sayıda parametre gerektirir. QCN'ler, matrisler yerine kuaterniyon kullanmanın faydalarının adil bir şekilde karşılanması için mevcut EM-Routing'i doğrudan devralarak test edilmiştir. Sonuçlar, QCN'lerin daha az parametre ile yeni bakış açılarına daha iyi genelleme yaparak ve ayrıca iyi bilinen karşılaştırmalar veri kümelerinde son teknoloji Kapsül mimarileriyle eşit veya daha iyi performanslar elde edebildiğini göstermektedir. Bu öneriyi temel alarak, programlamayı azaltmayı ve poz bilgisine ek olarak kapsüllere özellikleri vektörleri yerleştirmeyi amaçladık. Bu bağlamda, kapsüllerin 2B görüntüleri üzerinde yeni görüş açısı genelleştirmesini genişletmek için poz, özellik ve var olma olasılığının bir araya getirilmesi, birlikte içeren kapsüller için uyarlanmış Hafifletilmiş Poz Özenli Kapsül Anlaşması (ALPACA) geliştirildi. Bu amaçlanan, eğitim ve test örneklerinin farklı bakış açıları tarafından oluşturulan 8 farklı düzeneğe sahip, bakış açısı kontrollü dokusuz bir veri ayarı olan Novel ViewPoint Dataset (NVPD) oluşturulmuştur. NVPD'ye ek olarak, veri kurulumunun nesnel açıdan bölündüğü iLab2M veri kurulumu da deneylerle gerçekleştirildi. Deneysel sonuçlar, ALPACA'nın iLab2M ve NVPD veri kümelerinde kapsül ağ muadillerinden ve son teknoloji CNN'lerden daha iyi performans gösterdiğini ortaya koyuyor. Üstelik ALPACA yönlendirme temelli kapsül ağlarına kıyasla 10 kat daha hızlıdır. Ayrıca, çıkarım ve eğitim sürelerini karşılaştırılabilir tutarken, daha dikkat temelli yönlendirme yönlendirmelerinden iyi performans gösterir.
Kaynağa git Özyeğin Üniversitesi Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru Özyeğin Üniversitesi

Derin sinir ağlarının yeni ve hibrit mimariler aracılığıyla dönüşümlere genelleştirilmesi

Yazar Özcan, Barış
Basım Tarihi 2024-08-30T15:28:26Z
Konu Sinir ağları (Bilgisayar bilimi), Yazılım, Bilgi görselleştirme, Bilgisayar mühendisliği
Tür Belge
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane Özyeğin Üniversitesi
Kayıt Numarası 6d495955-a86a-4c7f-8aa6-4de7c2cdadaa
Lokasyon Bilgisayar Bilimleri Bölümü
Tarih 2024-08-30T15:28:26Z
Örnek Metin Nesne tanıma, çeşitli düzeylerde bir tür kategori bilgisi gerektiren arama, izleme, gezinme, sahne anlama veya bilgi alma gibi birçok bilgisayarlı görme görevi için temel bir dayanaktır. Evrişimsel sinir ağları (CNN'ler) gibi veriye dayalı derin öğrenme yöntemleriyle bu görevlerde kaydedilen büyük ilerlemelere rağmen, geometrik varyasyonlara genelleme ve parça-bütün ilişkilerinin yerleştirilmesi, insan düzeyindeki tanıma ile karşılaştırıldığında henüz elde edilmemiştir. CNN'ler, önemli örneklerle bile öğrenilen bir nesnenin görünmeyen bakış açılarını genelleştirmede özellikle başarısız olur ve havuzlama işlemleri girdideki mevcut varlıklar arasındaki ilişkiyi kaybettiğinden kolayca kafaları karışır. Son zamanlarda ortaya çıkan kapsül ağlar, önemli ölçüde daha az parametreyle bile yeni bakış açısı genelleme görevlerinde CNN'lerden daha iyi performans gösteriyor. Kapsül ağları, daha yüksek düzeydeki nitelikleri temsil etmek için nöron aktivasyonlarını ve görsel dönüşümlere eşdeğerlik sağlamak için bunların etkileşimlerini gruplandırır. Kapsüller mevcut bir görsel varlığın pozunu temsil etmek üzere tasarlanmıştır ve öğrenilen dönüşümler esasen matris olan poz dönüşümleridir. Bununla birlikte, kapsül ağları, eğitim kararlılığı sorunlarına ek olarak, yönlendirme algoritması adı verilen algoritma yoluyla ardışık katmanlardaki kapsüllerin etkileşimlerini öğrenmek için yüksek bir hesaplama maliyetine sahiptir. Bu tezde, Kuaterniyon Kapsül Ağlarında (QCN'ler) poz bilgisini ve dönüşümleri kuaterniyonlarla temsil etmeyi öneriyoruz. Kuaterniyonlar gimbal kilide karşı bağışıktır, kapsüller için dönüş gösteriminin basit bir şekilde düzenlenmesine sahiptir ve matrislerden daha az sayıda parametre gerektirir. QCN'ler, matrisler yerine kuaterniyon kullanmanın faydalarının adil bir şekilde karşılaştırılması için doğrudan mevcut EM Yönlendirmesini devralır. Deneysel sonuçlar, QCN'lerin daha az parametreyle yeni bakış açılarına daha iyi genelleştirdiğini ve iyi bilinen kıyaslama veri kümelerinde son teknoloji Kapsül mimarileriyle eşit veya daha iyi performanslar elde ettiğini gösteriyor. Bu öneriye dayanarak, hesaplama yükünü azaltmayı ve poz bilgilerinin yanı sıra özellik vektörlerini de kapsüllere yerleştirmeyi amaçladık. Bu bağlamda, kapsüllerin 2 boyutlu görüntüler üzerinde yeni bakış açısı genellemesini geliştirmek için poz, özellik ve varoluş olasılığı bilgilerini bir arada içeren kapsüller için özel olarak tasarlanmış Azaltılmış Poz Dikkatli Kapsül Anlaşması'nı (ALPACA) öneriyoruz. Bu amaçla, eğitim ve test örneklerinin farklı bakış açılarıyla oluşturulduğu, 8 farklı kuruluma sahip, bakış açısı kontrollü, dokusuz bir veri seti olan Novel ViewPoint Veri Kümesini (NVPD) oluşturduk. NVPD'ye ek olarak, veri kümesinin nesne örneklerine göre bölündüğü iLab2M veri kümesi üzerinde deneyler yaptık. Deneysel sonuçlar, ALPACA'nın iLab2M ve NVPD veri kümelerinde kapsül ağı muadillerinden ve son teknoloji ürünü CNN'lerden daha iyi performans gösterdiğini göstermektedir. Üstelik ALPACA, yönlendirme tabanlı kapsül ağlarla karşılaştırıldığında 10 kat daha hızlıdır. Ayrıca, çıkarım ve eğitim sürelerini karşılaştırılabilir tutarken, etki alanının dikkat tabanlı yönlendirme algoritmalarından daha iyi performans gösterir., Nesne tanıma, arama, izleme, gezinme, sahne anlama veya bilgi alma gibi çeşitli şekillerde bir tür kategori bilgisi içeren birçok bilgisayarla görüş sorunu için temel bir dayanaktır. Konvolüsyonel sinir ağları (CNN'ler) gibi veri odaklı derin öğrenme yöntemleriyle bu görevlerde büyük ilerlemeler düzenlenmiş olsa da, geometrik varyasyonlara genelleme ve parça bütün ilişkilerin nemlimesi, insan düzeyinde tanımayla karşı aralıkları geri kalır. CNN'ler özellikle öğrenilen bir nesnenin anlaşılmasının bakış açılarına önemli örneklerle bile genelleme yapılmamakta ve havuzlama işlemleri girilendeki mevcut parçalar arasında kaybolmasından kolayca yanlış yönlendirilebilmektedir. Yakın zamanda ortaya çıkan kapsül ağları, çok daha az parametreyle bile yeni görüş açısına genelleme konusunda CNN'lerden daha iyi performans gösteriyor. Kapsül ağları, daha yüksek seviyeli öznitelikleri temsil için genişletilmiş aktivasyonlarını ve görsel dönüşümlere eşdeğişkenlik sağlamak için etkileşimlerini gruplandırır. Kapsüller, mevcut bir görsel varlığın pozunu temsil etmek üzere tasarlanmış ve öğrenilen dönüşümler esasen matrisler olan koordinat sistemi dönüşümleridir. Bununla birlikte, kapsül ağları, eğitim kararlılıkları sorunlarına ek olarak, yönlendirme geliştirmesi olarak geliştirmeleri sayesinde ardışık katmanlardaki kapsüllerin etkileşimlerini öğrenmek için yüksek bir programlama maliyetine sahiptir. Bu tezde, Kuaterniyon Kapsül Ağlarında (QCN) poz bilgileri ve dönüşümleri kuaterniyonlarla temsil edilmeyi sağlar. Kuaterniyonlar gimbal kilidine maruz kalmamaktadır, kapsüller için rotasyonun basit bir şekilde düzenlenmesi vardır ve matrislerden daha az sayıda parametre gerektirir. QCN'ler, matrisler yerine kuaterniyon kullanmanın faydalarının adil bir şekilde karşılanması için mevcut EM-Routing'i doğrudan devralarak test edilmiştir. Sonuçlar, QCN'lerin daha az parametre ile yeni bakış açılarına daha iyi genelleme yaparak ve ayrıca iyi bilinen karşılaştırmalar veri kümelerinde son teknoloji Kapsül mimarileriyle eşit veya daha iyi performanslar elde edebildiğini göstermektedir. Bu öneriyi temel alarak, programlamayı azaltmayı ve poz bilgisine ek olarak kapsüllere özellikleri vektörleri yerleştirmeyi amaçladık. Bu bağlamda, kapsüllerin 2B görüntüleri üzerinde yeni görüş açısı genelleştirmesini genişletmek için poz, özellik ve var olma olasılığının bir araya getirilmesi, birlikte içeren kapsüller için uyarlanmış Hafifletilmiş Poz Özenli Kapsül Anlaşması (ALPACA) geliştirildi. Bu amaçlanan, eğitim ve test örneklerinin farklı bakış açıları tarafından oluşturulan 8 farklı düzeneğe sahip, bakış açısı kontrollü dokusuz bir veri ayarı olan Novel ViewPoint Dataset (NVPD) oluşturulmuştur. NVPD'ye ek olarak, veri kurulumunun nesnel açıdan bölündüğü iLab2M veri kurulumu da deneylerle gerçekleştirildi. Deneysel sonuçlar, ALPACA'nın iLab2M ve NVPD veri kümelerinde kapsül ağ muadillerinden ve son teknoloji CNN'lerden daha iyi performans gösterdiğini ortaya koyuyor. Üstelik ALPACA yönlendirme temelli kapsül ağlarına kıyasla 10 kat daha hızlıdır. Ayrıca, çıkarım ve eğitim sürelerini karşılaştırılabilir tutarken, daha dikkat temelli yönlendirme yönlendirmelerinden iyi performans gösterir.
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi yönlendiriliyorsunuz...

Lütfen bekleyiniz.