BERT2OME: BERT'e dayalı transformatör mimarisiyle RNA dizisinden 2′-O-metilasyon modifikasyonlarının tahmini

İsim BERT2OME: BERT'e dayalı transformatör mimarisiyle RNA dizisinden 2′-O-metilasyon modifikasyonlarının tahmini
Yazar Soylu, Necla Nisa, Sefer, Emre
Basım Tarihi: 2023-06
Basım Yeri - IEEE
Konu 2'-O-metilasyon, BERT, Biyolojik sistem modelleme, Bit hata oranı, Evrişimli Sinir Ağı, Evrişimli sinir ağları, Tahmin modelleri, RNA, RNA, Görev analizi, Transformatörler, Transformatörler
Tür Süreli Yayın
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane: Özyeğin Üniversitesi
Demirbaş Numarası 1545-5963
Kayıt Numarası 5a1a4c82-0463-4fca-bee1-d4bc0addcaa6
Lokasyon Bilgisayar Bilimi
Tarih 2023-06
Örnek Metin Dil modelleri üzerine yapılan son çalışmalar, çeşitli dil görevlerinde en son teknoloji performansıyla sonuçlandı. Bunlar arasında Transformers'tan Çift Yönlü Kodlayıcı Gösterimleri (BERT), kelimelerin bağlamını ve anlambilimini çıkarmak için kelime yerleştirmelerini bağlamsallaştırmaya odaklanmıştır. Öte yandan, transkripsiyon sonrası 2'-O-metilasyon (Nm) RNA modifikasyonu, çeşitli hücresel görevlerde önemlidir ve bir dizi hastalıkla ilişkilidir. Mevcut yüksek verimli deneysel tekniklerin bu değişiklikleri tespit etmesi daha uzun zaman alır ve bu işlevsel süreçlerin araştırılması maliyetlidir. Burada, ilgili biyolojik süreçleri daha hızlı derinlemesine anlamak için, RNA dizilerinden 2'-O-metilasyon RNA modifikasyon bölgelerini çıkarmak için etkili bir B2O yöntemi bulduk. B2O, modifikasyon bölgeleri ile RNA dizisi içeriği arasındaki ilişkiyi ortaya çıkarmak için BERT tabanlı modeli evrişimli sinir ağlarıyla (CNN) birleştirir. Şu ana kadar önerilen yöntemlerden farklı olarak B2O, verilen her RNA dizisini bir metin olarak kabul eder ve önceden eğitilmiş derin öğrenme tabanlı dil modeli BERT'i entegre ederek modifikasyon tahmin performansını iyileştirmeye odaklanır. Ek olarak, transformatör tabanlı yaklaşımımız, birden fazla türün modifikasyon bölgelerini ortaya çıkarabilir. 5 kat çapraz doğrulamaya göre insan ve fare doğrulukları sırasıyla ve idi. Benzer şekilde ROC AUC skorları da aynı tür için 0,99, 0,94 idi. Ayrıntılı sonuçlar, B2O'nun biyolojik deneylerde harcanan süreyi azalttığını ve birden fazla ölçüm üzerinden farklı veri kümeleri ve türler genelinde mevcut yaklaşımlardan daha iyi performans gösterdiğini gösteriyor. Ek olarak, 2D CNN'ler gibi derin öğrenme yaklaşımları, BERT özelliklerinin öğrenilmesinde daha geleneksel makine öğrenme yöntemlerine göre daha umut vericidir. Kodumuz ve veri kümelerimiz adresinde bulunabilir.
DOI 10.1109/TCBB.2023.3237769
Cilt 20
Kaynağa git Özyeğin Üniversitesi Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru Özyeğin Üniversitesi

BERT2OME: BERT'e dayalı transformatör mimarisiyle RNA dizisinden 2′-O-metilasyon modifikasyonlarının tahmini

Yazar Soylu, Necla Nisa, Sefer, Emre
Basım Tarihi 2023-06
Basım Yeri - IEEE
Konu 2'-O-metilasyon, BERT, Biyolojik sistem modelleme, Bit hata oranı, Evrişimli Sinir Ağı, Evrişimli sinir ağları, Tahmin modelleri, RNA, RNA, Görev analizi, Transformatörler, Transformatörler
Tür Süreli Yayın
Dil İngilizce
Dijital Evet
Yazma Hayır
Kütüphane Özyeğin Üniversitesi
Demirbaş Numarası 1545-5963
Kayıt Numarası 5a1a4c82-0463-4fca-bee1-d4bc0addcaa6
Lokasyon Bilgisayar Bilimi
Tarih 2023-06
Örnek Metin Dil modelleri üzerine yapılan son çalışmalar, çeşitli dil görevlerinde en son teknoloji performansıyla sonuçlandı. Bunlar arasında Transformers'tan Çift Yönlü Kodlayıcı Gösterimleri (BERT), kelimelerin bağlamını ve anlambilimini çıkarmak için kelime yerleştirmelerini bağlamsallaştırmaya odaklanmıştır. Öte yandan, transkripsiyon sonrası 2'-O-metilasyon (Nm) RNA modifikasyonu, çeşitli hücresel görevlerde önemlidir ve bir dizi hastalıkla ilişkilidir. Mevcut yüksek verimli deneysel tekniklerin bu değişiklikleri tespit etmesi daha uzun zaman alır ve bu işlevsel süreçlerin araştırılması maliyetlidir. Burada, ilgili biyolojik süreçleri daha hızlı derinlemesine anlamak için, RNA dizilerinden 2'-O-metilasyon RNA modifikasyon bölgelerini çıkarmak için etkili bir B2O yöntemi bulduk. B2O, modifikasyon bölgeleri ile RNA dizisi içeriği arasındaki ilişkiyi ortaya çıkarmak için BERT tabanlı modeli evrişimli sinir ağlarıyla (CNN) birleştirir. Şu ana kadar önerilen yöntemlerden farklı olarak B2O, verilen her RNA dizisini bir metin olarak kabul eder ve önceden eğitilmiş derin öğrenme tabanlı dil modeli BERT'i entegre ederek modifikasyon tahmin performansını iyileştirmeye odaklanır. Ek olarak, transformatör tabanlı yaklaşımımız, birden fazla türün modifikasyon bölgelerini ortaya çıkarabilir. 5 kat çapraz doğrulamaya göre insan ve fare doğrulukları sırasıyla ve idi. Benzer şekilde ROC AUC skorları da aynı tür için 0,99, 0,94 idi. Ayrıntılı sonuçlar, B2O'nun biyolojik deneylerde harcanan süreyi azalttığını ve birden fazla ölçüm üzerinden farklı veri kümeleri ve türler genelinde mevcut yaklaşımlardan daha iyi performans gösterdiğini gösteriyor. Ek olarak, 2D CNN'ler gibi derin öğrenme yaklaşımları, BERT özelliklerinin öğrenilmesinde daha geleneksel makine öğrenme yöntemlerine göre daha umut vericidir. Kodumuz ve veri kümelerimiz adresinde bulunabilir.
DOI 10.1109/TCBB.2023.3237769
Cilt 20
Özyeğin Üniversitesi - Tarihî eser, arşiv ve süreli yayın arama motoru
Özyeğin Üniversitesi yönlendiriliyorsunuz...

Lütfen bekleyiniz.