Yazar
Soylu, Necla Nisa, Sefer, Emre
Basım Tarihi
2023-06
Basım Yeri
-
IEEE
Konu
2'-O-metilasyon, BERT, Biyolojik sistem modelleme, Bit hata oranı, Evrişimli Sinir Ağı, Evrişimli sinir ağları, Tahmin modelleri, RNA, RNA, Görev analizi, Transformatörler, Transformatörler
Tür
Süreli Yayın
Dil
İngilizce
Dijital
Evet
Yazma
Hayır
Kütüphane
Özyeğin Üniversitesi
Demirbaş Numarası
1545-5963
Kayıt Numarası
5a1a4c82-0463-4fca-bee1-d4bc0addcaa6
Lokasyon
Bilgisayar Bilimi
Tarih
2023-06
Örnek Metin
Dil modelleri üzerine yapılan son çalışmalar, çeşitli dil görevlerinde en son teknoloji performansıyla sonuçlandı. Bunlar arasında Transformers'tan Çift Yönlü Kodlayıcı Gösterimleri (BERT), kelimelerin bağlamını ve anlambilimini çıkarmak için kelime yerleştirmelerini bağlamsallaştırmaya odaklanmıştır. Öte yandan, transkripsiyon sonrası 2'-O-metilasyon (Nm) RNA modifikasyonu, çeşitli hücresel görevlerde önemlidir ve bir dizi hastalıkla ilişkilidir. Mevcut yüksek verimli deneysel tekniklerin bu değişiklikleri tespit etmesi daha uzun zaman alır ve bu işlevsel süreçlerin araştırılması maliyetlidir. Burada, ilgili biyolojik süreçleri daha hızlı derinlemesine anlamak için, RNA dizilerinden 2'-O-metilasyon RNA modifikasyon bölgelerini çıkarmak için etkili bir B2O yöntemi bulduk. B2O, modifikasyon bölgeleri ile RNA dizisi içeriği arasındaki ilişkiyi ortaya çıkarmak için BERT tabanlı modeli evrişimli sinir ağlarıyla (CNN) birleştirir. Şu ana kadar önerilen yöntemlerden farklı olarak B2O, verilen her RNA dizisini bir metin olarak kabul eder ve önceden eğitilmiş derin öğrenme tabanlı dil modeli BERT'i entegre ederek modifikasyon tahmin performansını iyileştirmeye odaklanır. Ek olarak, transformatör tabanlı yaklaşımımız, birden fazla türün modifikasyon bölgelerini ortaya çıkarabilir. 5 kat çapraz doğrulamaya göre insan ve fare doğrulukları sırasıyla ve idi. Benzer şekilde ROC AUC skorları da aynı tür için 0,99, 0,94 idi. Ayrıntılı sonuçlar, B2O'nun biyolojik deneylerde harcanan süreyi azalttığını ve birden fazla ölçüm üzerinden farklı veri kümeleri ve türler genelinde mevcut yaklaşımlardan daha iyi performans gösterdiğini gösteriyor. Ek olarak, 2D CNN'ler gibi derin öğrenme yaklaşımları, BERT özelliklerinin öğrenilmesinde daha geleneksel makine öğrenme yöntemlerine göre daha umut vericidir. Kodumuz ve veri kümelerimiz adresinde bulunabilir.
DOI
10.1109/TCBB.2023.3237769
Cilt
20