پیش بینی و تجزیه و تحلیل تغییرات RNA و پروتئین با ترکیب مدل های زبان پروتئین عمیق با ترانسفورماتورها
| عنوان | پیش بینی و تجزیه و تحلیل تغییرات RNA و پروتئین با ترکیب مدل های زبان پروتئین عمیق با ترانسفورماتورها |
|---|---|
| نویسنده | سویلو، نکلا نیسا |
| تاریخ انتشار: | 2024 |
| موضوع | هوش مصنوعی، یادگیری عمیق (یادگیری ماشین)، یادگیری ماشینی، پردازش زبان طبیعی (علوم کامپیوتر) |
| نوع | سند |
| زبان | انگلیسی |
| دیجیتال | بله |
| نسخه خطی | خیر |
| کتابخانه: | دانشگاه اوزیغین |
| شماره ثبت | 60a99c1e-1a8f-418d-ac91-c25a4e4b92c2 |
| محل کتابخانه | دپارتمان هوش مصنوعی |
| تاریخ | 2024 |
| متن نمونه | کار اخیر بر روی مدلهای زبان منجر به عملکرد پیشرفتهای در کارهای مختلف زبانی شده است. در این میان، بازنمایی رمزگذار دو جهته از ترانسفورماتورها (BERT) بر زمینه سازی جاسازی کلمات برای استخراج زمینه و معنایی کلمات متمرکز شده است. علاوه بر این، نسخههای پروتئینی خاص آنها مانند ProtBERT جاسازیهای توالی پروتئین پویا را ایجاد کردند که منجر به عملکرد بهتر برای چندین کار بیوانفورماتیکی شد. از سوی دیگر، اصلاح RNA 2'-O-متیلاسیون (Nm) پس از رونویسی و تعدادی از تغییرات مختلف پروتئین پس از ترجمه در وظایف سلولی برجسته هستند و به تعدادی از بیماری ها مربوط می شوند. تکنیکهای آزمایشی با کارایی بالا زمان بیشتری برای شناسایی این تغییرات و کاوش در این فرآیندهای عملکردی هزینه بر است. در اینجا، برای درک عمیق فرآیندهای بیولوژیکی مرتبط با سریعتر، به دو روش کارآمد میرسیم: روش اول BERT2OME برای استنباط مکانهای اصلاح RNA 2'-O-متیلاسیون از توالیهای RNA و روش دوم DEEPPTM برای پیشبینی مکانهای اصلاح پس از ترجمه پروتئین (PTM) از توالیهای پروتئینی به طور مؤثرتر. BERT2OME مدل مبتنی بر BERT را با شبکههای عصبی کانولوشنال (CNN) ترکیب میکند تا رابطه بین سایتهای اصلاح و محتوای توالی RNA را استنباط کند. برخلاف روشهای ارائهشده تاکنون، BERT2OME هر توالی RNA داده شده را به عنوان یک متن فرض میکند و بر بهبود عملکرد پیشبینی اصلاحات با ادغام مدل زبان مبتنی بر یادگیری عمیق BERT از پیش آموزشدیده تمرکز میکند. علاوه بر این، رویکرد مبتنی بر ترانسفورماتور ما میتواند مکانهای اصلاح را در چندین گونه استنباط کند. بر اساس اعتبارسنجی متقاطع 5 برابری، دقت انسان و موش به ترتیب 99.15٪ و 94.35٪ بود. به طور مشابه، نمرات ROC AUC 0.99 و 0.94 برای همان گونه بود. نتایج دقیق نشان میدهد که BERT2OME زمان مصرف شده در آزمایشهای بیولوژیکی را کاهش میدهد و از رویکردهای موجود در مجموعههای دادهها و گونههای مختلف بر اساس معیارهای متعدد بهتر عمل میکند. علاوه بر این، رویکردهای یادگیری عمیق مانند CNN های دوبعدی در یادگیری ویژگی های BERT نسبت به روش های معمولی یادگیری ماشینی امیدوارکننده تر هستند. متفاوت از روشهای فعلی، DEEPPTM عملکرد پیشبینی اصلاح را با ادغام جاسازیهای پروتئینی تخصصی مبتنی بر ProtBERT با ترانسفورماتورهای بینایی مبتنی بر توجه (ViT) افزایش میدهد و ارتباط بین انواع مختلف اصلاح و محتوای توالی پروتئین را نشان میدهد. علاوه بر این، می تواند چندین تغییر مختلف را در گونه های مختلف استنباط کند. AUCهای ROC انسان و موش برای پیشبینی تغییرات سوکسینیلاسیون به ترتیب 0.988 و 0.965 بود، پس از اعمال اعتبار متقاطع 10 برابری. به طور مشابه، ما امتیازهای 0.982، 0.955 و 0.953 ROC AUC را در استنباط مکانهای ubiquitination، کروتونیلاسیون و گلیکاسیون به دست آوردهایم. با توجه به آزمایشهای محاسباتی دقیق، DEEPPTM زمان صرف شده در آزمایشهای آزمایشگاهی را کاهش میدهد در حالی که از روشهای رقیب و همچنین خطوط پایه در استنباط هر 4 سایت اصلاح پیشی میگیرد. در مورد ما، روشهای یادگیری عمیق مبتنی بر توجه مانند ترانسفورماتورهای بینایی برای یادگیری از ویژگیهای ProtBERT نسبت به تکنیکهای یادگیری عمیق سنتی و یادگیری ماشینی مطلوبتر به نظر میرسند. علاوه بر این، مدل ProtBERT اختصاصی پروتئین نسبت به تعبیههای BERT اصلی برای کارهای پیشبینی PTM موثرتر است. اورنگین، ترانسفورماتورلر ده چیفت یونلو کدلائیسی گوستریملری (BERT)، کلیملرین باغلامینی و آنلامینی چیکارما کونوسونا اوداکلانمیشتیر. ProtBERT gibi proteine özgü versiyonlar da, çeşitli biyoinformatik çalışmalarında çok iyi sonuçlar elde etmiştir. Bu çalışmaların yanısıra, transkripsiyon sonrası 2'-O-metilasyon (Nm) RNA modifikasyonu ve bir dizi farklı protein translasyon sonrası modifikasyonu, sadece hücresel görevlerde öne çıkmakla kalmayıp, canlılardakılı hastirkılıp. Mevcut yüksek verimli deneysel tekniklerin bu değişiklikleri tespit etmesi hem uzun zaman almakta hem de çok fazla maaliyete gerektirmektedir. Bu alanlarda yapılacak ilgili biyolojik süreçleri daha hızlı hale getirmek ve ilgili konularda daha iyi sonuçlara ulaşmak için iki etkili model tasarladık; ilk olarak, RNA dizilerinden 2'-O-metilasyon RNA modifikasyon bölgelerini çıkarmak için kullanılacak olan BERT2OME ve ikinci olarak da protein dizilerinden protein translasyon sonrası modifikasyon (PTM) bölgelerini daha verimli için TMEEşeketekde BERT2OME، modifikasyon bölgeleri ile RNA dizisi içeriği arasındaki ilişkiyi ortaya çıkarmak için BERT tabanlı modeli evrişimli sinir ağlarıyla (CNN) birleştirir. Şu ana kadar önerilen yöntemlerden farklı olarak BERT2OME، verilen her RNA dizisini bir metin olarak kabul eder ve önceden eğitilmiş derin öğrenme tabanlı dil modeli BERT'i entegre ederek modifikasyon tahmin performansınıye iyakile. Transformatör tabanlı bu yaklaşımımız, birden fazla türün modifikasyon bölgelerini de ortaya çıkarabilmektedir. 5 کاتمانلی چاپاز دوغرولامایا گوره انسان و فرلرده دوغرو تهمینلمه خوباریسی سیراسییلا 99.15% و 94.35% اولارک اولچولدو. Benzer şekilde ROC AUC skorları da aynı tür için 0.99 ve 0.94 olarak bulundu. Ayrıntılı sonuçlar, BERT2OME'nin biyolojik deneylerde harcanan süreyi azalttığını و birden fazla ölçüm üzerinden farklı veri kumeleri ve türler genelinde mevcut yaklaşımlardan daha iyiini performans göster. ایک اولارک، 2 بویوتلو سی ان ان لر گیبی درین اوغرنمه یاکلاسیملاری، BERT اوزللیکلرینین اوغرنیلمسینده داها گلنکسل ماکینه اوغرنمه یونتملرینه گوره داها اوموت وریسیدیر. Bir diğer modelimiz DEEPPTM, mevcut yöntemlerden farklı olarak, ProtBERT tabanlı protein yerleştirmelerini dikkat tabanlı görüntü transformatörleri (ViT) ile entegre ederek modifikasyon tahmin performansını arttırızıni modifikıp, farklıi arasındaki ilişkileri ortaya çıkarmıştır. Süksinilasyon modifikasyonlarını tahmin etmek için insan ve fare ROC AUC'leri, 10 katmanlı çapraz doğrulama uygulandığında sırasıyla 0.988 ve 0.965 sonuçlarını vermiştir. Benzer şekilde، ubikuitinasyon، krotonilasyon ve glikasyon bölgelerinin çıkarılmasında sırasıyla 0.982، 0.955 ve 0.953 ROC AUC skorları elde edilmiştir. DEEPPTM modelinin geliştirilmesinde, görüntü transformatörleri gibi dikkat odaklı derin öğrenme yöntemleri, ProtBERT özelliklerini öğrenme konusunda daha etkili olmuş ve daha geleneksel derin ömakineünöğrenme performans sergilemiştir. Ek olarak proteine özgü ProtBERT modeli، PTM tahminlemesinde BERT modelinden daha etkili olmuştur. |
