BERT2OME: پیش بینی تغییرات 2'-O-متیلاسیون از توالی RNA توسط معماری ترانسفورماتور بر اساس BERT

عنوان BERT2OME: پیش بینی تغییرات 2'-O-متیلاسیون از توالی RNA توسط معماری ترانسفورماتور بر اساس BERT
نویسنده سویلو، نکلا نیسا، سفر، امره
تاریخ انتشار: 2023-06
محل انتشار - IEEE
موضوع 2'-O-methylation، BERT، مدل‌سازی سیستم بیولوژیکی، نرخ خطای بیت، شبکه عصبی کانولوشنال، شبکه‌های عصبی کانولوشن، مدل‌های پیش‌بینی، RNA، RNA، تجزیه و تحلیل وظایف، ترانسفورماتورها، ترانسفورماتورها
نوع دوره ای
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه: دانشگاه اوزیغین
شناسه دارایی کتابخانه 1545-5963
شماره ثبت 5a1a4c82-0463-4fca-bee1-d4bc0addcaa6
محل کتابخانه علوم کامپیوتر
تاریخ 2023-06
متن نمونه کار اخیر بر روی مدل‌های زبان منجر به عملکرد پیشرفته‌ای در کارهای مختلف زبانی شده است. در این میان، بازنمایی رمزگذار دوطرفه از ترانسفورماتورها (BERT) بر زمینه سازی جاسازی کلمات برای استخراج زمینه و معنایی کلمات متمرکز شده است. از سوی دیگر، اصلاح RNA 2'-O-متیلاسیون (Nm) پس از رونویسی در وظایف مختلف سلولی و مرتبط با تعدادی از بیماری ها مهم است. تکنیک‌های آزمایشی با کارایی بالا زمان بیشتری برای شناسایی این تغییرات و کاوش در این فرآیندهای عملکردی هزینه بر است. در اینجا، برای درک عمیق فرآیندهای بیولوژیکی مرتبط با سریع‌تر، ما با یک روش کارآمد B2O برای استنتاج مکان‌های اصلاح RNA 2'-O-متیلاسیون از توالی‌های RNA می‌آییم. B2O مدل مبتنی بر BERT را با شبکه‌های عصبی کانولوشنال (CNN) ترکیب می‌کند تا رابطه بین سایت‌های اصلاح و محتوای توالی RNA را استنباط کند. برخلاف روش‌هایی که تاکنون پیشنهاد شده‌اند، B2O هر دنباله RNA داده شده را به عنوان یک متن فرض می‌کند و بر بهبود عملکرد پیش‌بینی اصلاحات با ادغام مدل زبان مبتنی بر یادگیری عمیق BERT تمرکز می‌کند. علاوه بر این، رویکرد مبتنی بر ترانسفورماتور ما می‌تواند مکان‌های اصلاح را در چندین گونه استنباط کند. با توجه به اعتبارسنجی متقاطع 5 برابری، دقت انسان و موش به ترتیب بود. به طور مشابه، نمرات ROC AUC 0.99، 0.94 برای همان گونه بود. نتایج دقیق نشان می‌دهد که B2O زمان مصرف شده در آزمایش‌های بیولوژیکی را کاهش می‌دهد و از روش‌های موجود در مجموعه‌های داده‌ها و گونه‌های مختلف در معیارهای متعدد بهتر عمل می‌کند. علاوه بر این، رویکردهای یادگیری عمیق مانند CNN های دوبعدی در یادگیری ویژگی های BERT نسبت به روش های معمولی یادگیری ماشینی امیدوارکننده تر هستند. کد و مجموعه داده های ما را می توانید در پیدا کنید.
DOI 10.1109/TCBB.2023.3237769
Cilt 20
مشاهده در منبع دانشگاه اوزیغین دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات دانشگاه اوزیغین

BERT2OME: پیش بینی تغییرات 2'-O-متیلاسیون از توالی RNA توسط معماری ترانسفورماتور بر اساس BERT

نویسنده سویلو، نکلا نیسا، سفر، امره
تاریخ انتشار 2023-06
محل انتشار - IEEE
موضوع 2'-O-methylation، BERT، مدل‌سازی سیستم بیولوژیکی، نرخ خطای بیت، شبکه عصبی کانولوشنال، شبکه‌های عصبی کانولوشن، مدل‌های پیش‌بینی، RNA، RNA، تجزیه و تحلیل وظایف، ترانسفورماتورها، ترانسفورماتورها
نوع دوره ای
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه دانشگاه اوزیغین
شناسه دارایی کتابخانه 1545-5963
شماره ثبت 5a1a4c82-0463-4fca-bee1-d4bc0addcaa6
محل کتابخانه علوم کامپیوتر
تاریخ 2023-06
متن نمونه کار اخیر بر روی مدل‌های زبان منجر به عملکرد پیشرفته‌ای در کارهای مختلف زبانی شده است. در این میان، بازنمایی رمزگذار دوطرفه از ترانسفورماتورها (BERT) بر زمینه سازی جاسازی کلمات برای استخراج زمینه و معنایی کلمات متمرکز شده است. از سوی دیگر، اصلاح RNA 2'-O-متیلاسیون (Nm) پس از رونویسی در وظایف مختلف سلولی و مرتبط با تعدادی از بیماری ها مهم است. تکنیک‌های آزمایشی با کارایی بالا زمان بیشتری برای شناسایی این تغییرات و کاوش در این فرآیندهای عملکردی هزینه بر است. در اینجا، برای درک عمیق فرآیندهای بیولوژیکی مرتبط با سریع‌تر، ما با یک روش کارآمد B2O برای استنتاج مکان‌های اصلاح RNA 2'-O-متیلاسیون از توالی‌های RNA می‌آییم. B2O مدل مبتنی بر BERT را با شبکه‌های عصبی کانولوشنال (CNN) ترکیب می‌کند تا رابطه بین سایت‌های اصلاح و محتوای توالی RNA را استنباط کند. برخلاف روش‌هایی که تاکنون پیشنهاد شده‌اند، B2O هر دنباله RNA داده شده را به عنوان یک متن فرض می‌کند و بر بهبود عملکرد پیش‌بینی اصلاحات با ادغام مدل زبان مبتنی بر یادگیری عمیق BERT تمرکز می‌کند. علاوه بر این، رویکرد مبتنی بر ترانسفورماتور ما می‌تواند مکان‌های اصلاح را در چندین گونه استنباط کند. با توجه به اعتبارسنجی متقاطع 5 برابری، دقت انسان و موش به ترتیب بود. به طور مشابه، نمرات ROC AUC 0.99، 0.94 برای همان گونه بود. نتایج دقیق نشان می‌دهد که B2O زمان مصرف شده در آزمایش‌های بیولوژیکی را کاهش می‌دهد و از روش‌های موجود در مجموعه‌های داده‌ها و گونه‌های مختلف در معیارهای متعدد بهتر عمل می‌کند. علاوه بر این، رویکردهای یادگیری عمیق مانند CNN های دوبعدی در یادگیری ویژگی های BERT نسبت به روش های معمولی یادگیری ماشینی امیدوارکننده تر هستند. کد و مجموعه داده های ما را می توانید در پیدا کنید.
DOI 10.1109/TCBB.2023.3237769
Cilt 20
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین شما در حال هدایت مجدد هستید...

لطفاً صبر کنید