بازگشت به جستجو

Finsentiment: پیش‌بینی احساسات مالی و ریسک از طریق یادگیری انتقالی

عنوان	Finsentiment: پیش‌بینی احساسات مالی و ریسک از طریق یادگیری انتقالی
نویسنده	ارگون، زهرا اروا
تاریخ انتشار:	2024-08-30T15:34:48Z
موضوع	مالی، مدل‌های ریاضی، هوش مصنوعی، کاربردهای مالی، ارزیابی ریسک، تحلیل احساسات، داده‌کاوی، یادگیری عمیق (یادگیری ماشین)، یادگیری ماشین
نوع	سند
زبان	انگلیسی
دیجیتال	بله
نسخه خطی	خیر
کتابخانه:	دانشگاه اوزیغین
شماره ثبت	2fe5668c-765f-4113-95e9-bd4fce458bac
محل کتابخانه	گروه علوم کامپیوتر
تاریخ	2024-08-30T15:34:48Z
متن نمونه	علاقه فزاینده ای به وظایف متن کاوی مالی وجود دارد. پیشرفت قابل توجهی با استفاده از مدل‌های مبتنی بر یادگیری عمیق در مجموعه عمومی حاصل شده است، که نتایج معقولی را در وظایف متن کاوی مالی مانند تجزیه و تحلیل احساسات مالی نشان می‌دهد. با این حال، تجزیه و تحلیل احساسات مالی به دلیل ناکافی بودن داده‌های برچسب‌گذاری‌شده برای حوزه مالی و زبان تخصصی آن، هنوز یک کار سخت‌گیرانه است. روش های یادگیری عمیق همه منظوره عمدتاً به دلیل زبان تخصصی مورد استفاده در زمینه مالی چندان مؤثر نیستند. در این مطالعه، ما بر افزایش عملکرد وظایف متن کاوی مالی با بهبود مدل‌های زبان از پیش آموزش‌دیده موجود از طریق یادگیری انتقال NLP تمرکز می‌کنیم. مدل‌های زبانی از پیش آموزش‌دیده، به مقدار کمی از نمونه‌های برچسب‌گذاری‌شده نیاز دارند، و به جای آن، می‌توان آن‌ها را با آموزش آن‌ها بر روی مجموعه‌های خاص دامنه، به میزان بیشتری افزایش داد. ما یک مدل پیشرفته FinSentiment را پیشنهاد می کنیم که نسخه های پیشرفته تعدادی از مدل های از پیش آموزش داده شده اخیراً پیشنهاد شده مانند BERT، XLNet، RoBERTa را برای عملکرد بهتر در سراسر وظایف NLP در حوزه مالی با آموزش این مدل ها در مجموعه های حوزه مالی ترکیب می کند. مدل های مربوط به امور مالی در FinSentiment به ترتیب Fin-BERT، Fin-XLNet و Fin-RoBERTa نامیده می شوند. ما همچنین انواعی از این مدل‌ها را پیشنهاد می‌کنیم که به طور مشترک در حوزه مالی و شرکت‌های عمومی آموزش داده شده‌اند. مدل‌های FinSentiment ویژه مالی ما به طور کلی بهترین عملکرد را در میان 3 مجموعه داده تحلیل احساسات مالی نشان می‌دهند، حتی زمانی که تنها بخشی از این مدل‌ها با مجموعه آموزشی کوچک‌تر تنظیم شده باشند. نتایج ما برای هر معیار عملکرد آزمایش‌شده در نتایج موجود برای این مجموعه داده‌ها، بهبودهایی را نشان می‌دهد. نتایج تجربی گسترده، اثربخشی و استحکام RoBERTa را که از قبل بر روی شرکت‌های مالی آموزش داده شده است، نشان می‌دهد. به طور کلی، ما نشان می‌دهیم که تکنیک‌های یادگیری انتقال NLP راه‌حل‌های مطلوبی برای وظایف تحلیل احساسات مالی هستند. ریسک مالی به طور تجربی بر حسب نوسانات بازده دارایی، که درجه انحراف از بازده مورد انتظار دارایی است، اندازه‌گیری می‌شود. تحت مدیریت ریسک در امور مالی، پیش‌بینی نوسانات دارایی به دلیل نقش مهمی که در تصمیم‌گیری سرمایه‌گذاری دارد، یکی از مهم‌ترین مشکلات است. حتی اگر تعدادی از مطالعات قبلی نقش دانش زبان طبیعی را در افزایش کیفیت پیش‌بینی‌های نوسانات بررسی کرده‌اند، تخمین نوسان همچنان می‌تواند از طریق تکنیک‌های یادگیری عمیق اخیر افزایش یابد. به طور خاص، استخراج دانش مالی در متن از طریق رویکردهای یادگیری انتقالی مانند BERT در پیش‌بینی ریسک استفاده نشده است. در اینجا، ما با RiskBERT، اولین روش یادگیری انتقال مبتنی بر BERT برای پیش‌بینی نوسانات دارایی‌ها با در نظر گرفتن همزمان مجموعه وسیعی از ویژگی‌های مالی و احساسات مالی مواجه می‌شویم. از نظر مجموعه داده زبان، ما از رونوشت‌های سالانه 10-K پرونده شرکت‌های تجاری عمومی برای آموزش مدل خود استفاده می‌کنیم. مدل پیشنهادی ما، RiskBERT از مکانیسم توجه برای مدل‌سازی بافت کلامی استفاده می‌کند و به طور قابل‌توجهی بهتر از روش‌های پیشرفته و خطوط پایه مانند نوسانات تاریخی عمل می‌کند. ما حتی زمانی که RiskBERT با مجموعه آموزشی کوچکتر تنظیم شده است، چنین عملکرد بهتری را مشاهده می کنیم. ما دریافتیم که RiskBERT در پیش‌بینی ریسک پس از تصویب قانون Sarbanes-Oxley در سال 2002 مؤثرتر است زیرا چنین قانونی گزارش‌های سالانه را مؤثرتر کرده است. به طور کلی، ما نشان می‌دهیم که تکنیک‌های یادگیری انتقال NLP راه‌حل‌های مطلوبی برای پیش‌بینی ریسک مالی هستند. مدل‌های از پیش آموزش‌دیده و کد منبع ما پس از پایان بازبینی در دسترس عموم قرار خواهند گرفت. دیرین اوگرنمی دایالی مدللرله ژنل کورپوسلاردا یاپیلان چالیشمالاردا هایلی یول کاتدیلدی کی بو مدللرله فاینانسال متین مادنجیلیگی ایشی اولان فاینانسال دویگو آنالیزینده د مانتیکلی سونوچلار الده ادیلدی. Ancak, finansal duygu analizi, finans alanında etiketlenmiş veri eksiliğinden ve özelleşmiş bir dili olmasına bağlı olarak hala zahmetli bir iştir. Finans kapsamındaki bu özelleşmiş dilden dolayı genel amaçlı derin öğrenme metotları çok verimli çalışmıyor. Bu çalışmada، halihazırda bulunan dil modellerini انتقال öğrenmesi ile geliştirerek finansal metin madenciliği problemlerindeki performansı iyileştirmeye odaklandık. ¨ Onceden eğitilmiş dil modelleri daha az miktarda etiketlenmiş veri örneklemi talep eder ve alana özel bir korpora ile eğitildiğinde daha da büyük çapta performansa sahip olur. Biz, son dönemlerde üzerine çalışılmış olan BERT, XLNet ve RoBERTa modellerini içeren, iyileştirilmiş bir model olan FinSentiment 'i sunuyoruz. Bu modeller de doğal dil işleme problemlerinde daha iyi bir performans göstermeleri için finans alanında bir korpora ile eğitildiler. Sırasıyla finans alanı özelinde eğitilmiş FinSentiment مدل: FinBERT، Fin-XLNet و Fin-RoBERTa. Bu FinSentiment modelleri genel olarak 3 finansal duygu analizi verisetlerinde en iyi performansı gösterdiler ki bu modellerin bir parçası küçük bir set ile eğitilmişti. Test edilen veri setleri için baz aldığımız performans kriterine göre olan sonuçlarımızda iyileşme gözlemlendi. Daha detaylı sonuçlarda ise özellikle finans korporası ile eğitilmiş RoBERTa modelinin verimliliğini gösterdi. Nihayetinde، انتقال öğrenmesi teknikleri duygu analizi çalışmalarında elverişli çözümler sunduğunu göstermiş olduk. ریسک مالی ampirik olarak, varlık getirisi volatilitesi üzerinden ölçülür. Varlık getirisi volatilitesi, varlığın beklenen getirisinden ne kadar sapma olduğunun bir ölçütüdür. Finans'ta risk yönetimi altında، yatırım kararı vermekteki önemine binaen varlık volatilitesi tahmini en muhim problemlerden biridir. دوغال دیل ایشلمه یونتملرینی کولانارک ولاتیلیته تهمینلمسینده ویرمللیغ آرتیرمایا یونلیک بیرچوک چالیشما اولماسینا راغمن، درین اوغرنمه تکنیکلرییل ولاتیلیته تهمینلمسی داها دا ایییله اشیریلبیلر. özellikle, risk tahminlemesinde BERT gibi transfer öğrenmesi yaklaşımını kullanarak metinlerden finansal anlam çıkaran yöntemler kullanılmamıştır. C， alışmamızda öncelikle، BERT'e dayalı transfer öğrenmesi metodu ile varlık volatilitesi tahminlemesi yapan RiskBERT 'i sunuyoruz. دیل ورسیتی اولاراک مدلیمیزی ایغیترکن هالکا آچیک شرکتلرین ییلیک یایینلانان 10-کولرینی کولندیک. RiskBERT modeli, sözcüklere dayalı bağlamı modellerken bir "توجه mekanizması" kullanır ve modern yöntemler ile dayanak noktası olan geçmiş volatilite değerine göre dikkate değer bir performans göstermiştir. Bu dikkate değer performans, çok kuçük bir veri setiyle eğitilerek göstermiştir. özellikle 2002 yılında geçen Sarbanes-Oxley yasası sonrası raporların daha etkili bir şekilde yazılması zorunlu tutulduğundan, RiskBERT de bu yasa sonrası daha iyi bir performans sergilemiştir. Özetle، ریسک tahminlemesinde de transfer öğrenmesi teknikleri olumlu sonuçlar vermiştir.

مشاهده در منبع دانشگاه اوزیغین دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات

دانشگاه اوزیغین

Finsentiment: پیش‌بینی احساسات مالی و ریسک از طریق یادگیری انتقالی

نویسنده ارگون، زهرا اروا

تاریخ انتشار 2024-08-30T15:34:48Z

موضوع مالی، مدل‌های ریاضی، هوش مصنوعی، کاربردهای مالی، ارزیابی ریسک، تحلیل احساسات، داده‌کاوی، یادگیری عمیق (یادگیری ماشین)، یادگیری ماشین

نوع سند

زبان انگلیسی

دیجیتال بله

نسخه خطی خیر

کتابخانه دانشگاه اوزیغین

شماره ثبت 2fe5668c-765f-4113-95e9-bd4fce458bac

محل کتابخانه گروه علوم کامپیوتر

تاریخ 2024-08-30T15:34:48Z

متن نمونه علاقه فزاینده ای به وظایف متن کاوی مالی وجود دارد. پیشرفت قابل توجهی با استفاده از مدل‌های مبتنی بر یادگیری عمیق در مجموعه عمومی حاصل شده است، که نتایج معقولی را در وظایف متن کاوی مالی مانند تجزیه و تحلیل احساسات مالی نشان می‌دهد. با این حال، تجزیه و تحلیل احساسات مالی به دلیل ناکافی بودن داده‌های برچسب‌گذاری‌شده برای حوزه مالی و زبان تخصصی آن، هنوز یک کار سخت‌گیرانه است. روش های یادگیری عمیق همه منظوره عمدتاً به دلیل زبان تخصصی مورد استفاده در زمینه مالی چندان مؤثر نیستند. در این مطالعه، ما بر افزایش عملکرد وظایف متن کاوی مالی با بهبود مدل‌های زبان از پیش آموزش‌دیده موجود از طریق یادگیری انتقال NLP تمرکز می‌کنیم. مدل‌های زبانی از پیش آموزش‌دیده، به مقدار کمی از نمونه‌های برچسب‌گذاری‌شده نیاز دارند، و به جای آن، می‌توان آن‌ها را با آموزش آن‌ها بر روی مجموعه‌های خاص دامنه، به میزان بیشتری افزایش داد. ما یک مدل پیشرفته FinSentiment را پیشنهاد می کنیم که نسخه های پیشرفته تعدادی از مدل های از پیش آموزش داده شده اخیراً پیشنهاد شده مانند BERT، XLNet، RoBERTa را برای عملکرد بهتر در سراسر وظایف NLP در حوزه مالی با آموزش این مدل ها در مجموعه های حوزه مالی ترکیب می کند. مدل های مربوط به امور مالی در FinSentiment به ترتیب Fin-BERT، Fin-XLNet و Fin-RoBERTa نامیده می شوند. ما همچنین انواعی از این مدل‌ها را پیشنهاد می‌کنیم که به طور مشترک در حوزه مالی و شرکت‌های عمومی آموزش داده شده‌اند. مدل‌های FinSentiment ویژه مالی ما به طور کلی بهترین عملکرد را در میان 3 مجموعه داده تحلیل احساسات مالی نشان می‌دهند، حتی زمانی که تنها بخشی از این مدل‌ها با مجموعه آموزشی کوچک‌تر تنظیم شده باشند. نتایج ما برای هر معیار عملکرد آزمایش‌شده در نتایج موجود برای این مجموعه داده‌ها، بهبودهایی را نشان می‌دهد. نتایج تجربی گسترده، اثربخشی و استحکام RoBERTa را که از قبل بر روی شرکت‌های مالی آموزش داده شده است، نشان می‌دهد. به طور کلی، ما نشان می‌دهیم که تکنیک‌های یادگیری انتقال NLP راه‌حل‌های مطلوبی برای وظایف تحلیل احساسات مالی هستند. ریسک مالی به طور تجربی بر حسب نوسانات بازده دارایی، که درجه انحراف از بازده مورد انتظار دارایی است، اندازه‌گیری می‌شود. تحت مدیریت ریسک در امور مالی، پیش‌بینی نوسانات دارایی به دلیل نقش مهمی که در تصمیم‌گیری سرمایه‌گذاری دارد، یکی از مهم‌ترین مشکلات است. حتی اگر تعدادی از مطالعات قبلی نقش دانش زبان طبیعی را در افزایش کیفیت پیش‌بینی‌های نوسانات بررسی کرده‌اند، تخمین نوسان همچنان می‌تواند از طریق تکنیک‌های یادگیری عمیق اخیر افزایش یابد. به طور خاص، استخراج دانش مالی در متن از طریق رویکردهای یادگیری انتقالی مانند BERT در پیش‌بینی ریسک استفاده نشده است. در اینجا، ما با RiskBERT، اولین روش یادگیری انتقال مبتنی بر BERT برای پیش‌بینی نوسانات دارایی‌ها با در نظر گرفتن همزمان مجموعه وسیعی از ویژگی‌های مالی و احساسات مالی مواجه می‌شویم. از نظر مجموعه داده زبان، ما از رونوشت‌های سالانه 10-K پرونده شرکت‌های تجاری عمومی برای آموزش مدل خود استفاده می‌کنیم. مدل پیشنهادی ما، RiskBERT از مکانیسم توجه برای مدل‌سازی بافت کلامی استفاده می‌کند و به طور قابل‌توجهی بهتر از روش‌های پیشرفته و خطوط پایه مانند نوسانات تاریخی عمل می‌کند. ما حتی زمانی که RiskBERT با مجموعه آموزشی کوچکتر تنظیم شده است، چنین عملکرد بهتری را مشاهده می کنیم. ما دریافتیم که RiskBERT در پیش‌بینی ریسک پس از تصویب قانون Sarbanes-Oxley در سال 2002 مؤثرتر است زیرا چنین قانونی گزارش‌های سالانه را مؤثرتر کرده است. به طور کلی، ما نشان می‌دهیم که تکنیک‌های یادگیری انتقال NLP راه‌حل‌های مطلوبی برای پیش‌بینی ریسک مالی هستند. مدل‌های از پیش آموزش‌دیده و کد منبع ما پس از پایان بازبینی در دسترس عموم قرار خواهند گرفت. دیرین اوگرنمی دایالی مدللرله ژنل کورپوسلاردا یاپیلان چالیشمالاردا هایلی یول کاتدیلدی کی بو مدللرله فاینانسال متین مادنجیلیگی ایشی اولان فاینانسال دویگو آنالیزینده د مانتیکلی سونوچلار الده ادیلدی. Ancak, finansal duygu analizi, finans alanında etiketlenmiş veri eksiliğinden ve özelleşmiş bir dili olmasına bağlı olarak hala zahmetli bir iştir. Finans kapsamındaki bu özelleşmiş dilden dolayı genel amaçlı derin öğrenme metotları çok verimli çalışmıyor. Bu çalışmada، halihazırda bulunan dil modellerini انتقال öğrenmesi ile geliştirerek finansal metin madenciliği problemlerindeki performansı iyileştirmeye odaklandık. ¨ Onceden eğitilmiş dil modelleri daha az miktarda etiketlenmiş veri örneklemi talep eder ve alana özel bir korpora ile eğitildiğinde daha da büyük çapta performansa sahip olur. Biz, son dönemlerde üzerine çalışılmış olan BERT, XLNet ve RoBERTa modellerini içeren, iyileştirilmiş bir model olan FinSentiment 'i sunuyoruz. Bu modeller de doğal dil işleme problemlerinde daha iyi bir performans göstermeleri için finans alanında bir korpora ile eğitildiler. Sırasıyla finans alanı özelinde eğitilmiş FinSentiment مدل: FinBERT، Fin-XLNet و Fin-RoBERTa. Bu FinSentiment modelleri genel olarak 3 finansal duygu analizi verisetlerinde en iyi performansı gösterdiler ki bu modellerin bir parçası küçük bir set ile eğitilmişti. Test edilen veri setleri için baz aldığımız performans kriterine göre olan sonuçlarımızda iyileşme gözlemlendi. Daha detaylı sonuçlarda ise özellikle finans korporası ile eğitilmiş RoBERTa modelinin verimliliğini gösterdi. Nihayetinde، انتقال öğrenmesi teknikleri duygu analizi çalışmalarında elverişli çözümler sunduğunu göstermiş olduk. ریسک مالی ampirik olarak, varlık getirisi volatilitesi üzerinden ölçülür. Varlık getirisi volatilitesi, varlığın beklenen getirisinden ne kadar sapma olduğunun bir ölçütüdür. Finans'ta risk yönetimi altında، yatırım kararı vermekteki önemine binaen varlık volatilitesi tahmini en muhim problemlerden biridir. دوغال دیل ایشلمه یونتملرینی کولانارک ولاتیلیته تهمینلمسینده ویرمللیغ آرتیرمایا یونلیک بیرچوک چالیشما اولماسینا راغمن، درین اوغرنمه تکنیکلرییل ولاتیلیته تهمینلمسی داها دا ایییله اشیریلبیلر. özellikle, risk tahminlemesinde BERT gibi transfer öğrenmesi yaklaşımını kullanarak metinlerden finansal anlam çıkaran yöntemler kullanılmamıştır. C， alışmamızda öncelikle، BERT'e dayalı transfer öğrenmesi metodu ile varlık volatilitesi tahminlemesi yapan RiskBERT 'i sunuyoruz. دیل ورسیتی اولاراک مدلیمیزی ایغیترکن هالکا آچیک شرکتلرین ییلیک یایینلانان 10-کولرینی کولندیک. RiskBERT modeli, sözcüklere dayalı bağlamı modellerken bir "توجه mekanizması" kullanır ve modern yöntemler ile dayanak noktası olan geçmiş volatilite değerine göre dikkate değer bir performans göstermiştir. Bu dikkate değer performans, çok kuçük bir veri setiyle eğitilerek göstermiştir. özellikle 2002 yılında geçen Sarbanes-Oxley yasası sonrası raporların daha etkili bir şekilde yazılması zorunlu tutulduğundan, RiskBERT de bu yasa sonrası daha iyi bir performans sergilemiştir. Özetle، ریسک tahminlemesinde de transfer öğrenmesi teknikleri olumlu sonuçlar vermiştir.