تفسیرپذیری مدل های یادگیری عمیق: بررسی نتایج

عنوان تفسیرپذیری مدل های یادگیری عمیق: بررسی نتایج
نویسنده چاکرابورتی، اس.، تامست، آر.، راگاوندرا، آر.، هاربورن، دی.، آلزانتوت، ام.، جروتی، اف.، سریواستاوا، م.، پریس، آ.، جولیر، اس.، رائو، آر. ام.، کلی، تی. دی.، برینز، دی.، ج.
تاریخ انتشار: 2018-06-26
محل انتشار - IEEE
نوع سند
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه: دانشگاه اوزیغین
شناسه دارایی کتابخانه 978-1-5386-0435-9
شماره ثبت 5498f403-ca05-4a9d-92f2-60da905ae5b4
محل کتابخانه علوم کامپیوتر
تاریخ 2018-06-26
یادداشت‌ها وزارت دفاع ایالات متحده آمریکا آزمایشگاه تحقیقاتی ارتش ایالات متحده (ARL) ; وزارت دفاع انگلستان
متن نمونه شبکه‌های عصبی عمیق به سطوح دقت نزدیک به انسان در انواع مختلف وظایف طبقه‌بندی و پیش‌بینی از جمله تصاویر، متن، گفتار و داده‌های ویدیویی دست یافته‌اند. با این حال، شبکه‌ها همچنان عمدتاً به‌عنوان تقریب‌کننده تابع جعبه سیاه در نظر گرفته می‌شوند که یک ورودی داده‌شده را به یک خروجی طبقه‌بندی نگاشت می‌کنند. گام بعدی در این فرآیند تکاملی انسان-ماشین - الحاق این شبکه‌ها به فرآیندهای حیاتی مأموریت مانند تشخیص پزشکی، برنامه‌ریزی و کنترل - نیازمند سطحی از ارتباط اعتماد با خروجی ماشین است. به طور معمول، معیارهای آماری برای تعیین کمیت عدم قطعیت یک خروجی استفاده می شود. با این حال، مفهوم اعتماد همچنین به دیدی که یک انسان در کار ماشین دارد بستگی دارد. به عبارت دیگر، شبکه عصبی باید توجیهات قابل درک برای انسان برای خروجی خود ارائه دهد که منجر به بینش هایی در مورد عملکرد درونی می شود. ما چنین مدل هایی را شبکه های عمیق قابل تفسیر می نامیم. تفسیرپذیری یک مفهوم یکپارچه نیست. در واقع، سوبژکتیویته یک تفسیر، به دلیل سطوح مختلف درک انسان، حاکی از آن است که باید ابعاد متعددی وجود داشته باشد که در مجموع تفسیرپذیری را تشکیل می دهند. علاوه بر این، خود تفسیر را می توان از نظر پارامترهای شبکه سطح پایین یا از نظر ویژگی های ورودی مورد استفاده مدل ارائه کرد. در این مقاله، ما برخی از ابعادی را که برای تفسیرپذیری مدل مفید هستند، بیان می‌کنیم و کارهای قبلی را در امتداد آن ابعاد دسته‌بندی می‌کنیم. در این فرآیند، ما یک تجزیه و تحلیل شکاف از آنچه باید برای بهبود تفسیرپذیری مدل انجام شود، انجام می دهیم.
DOI 10.1109/UIC-ATC.2017.8397411
مشاهده در منبع دانشگاه اوزیغین دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات دانشگاه اوزیغین

تفسیرپذیری مدل های یادگیری عمیق: بررسی نتایج

نویسنده چاکرابورتی، اس.، تامست، آر.، راگاوندرا، آر.، هاربورن، دی.، آلزانتوت، ام.، جروتی، اف.، سریواستاوا، م.، پریس، آ.، جولیر، اس.، رائو، آر. ام.، کلی، تی. دی.، برینز، دی.، ج.
تاریخ انتشار 2018-06-26
محل انتشار - IEEE
نوع سند
زبان انگلیسی
دیجیتال بله
نسخه خطی خیر
کتابخانه دانشگاه اوزیغین
شناسه دارایی کتابخانه 978-1-5386-0435-9
شماره ثبت 5498f403-ca05-4a9d-92f2-60da905ae5b4
محل کتابخانه علوم کامپیوتر
تاریخ 2018-06-26
یادداشت‌ها وزارت دفاع ایالات متحده آمریکا آزمایشگاه تحقیقاتی ارتش ایالات متحده (ARL) ; وزارت دفاع انگلستان
متن نمونه شبکه‌های عصبی عمیق به سطوح دقت نزدیک به انسان در انواع مختلف وظایف طبقه‌بندی و پیش‌بینی از جمله تصاویر، متن، گفتار و داده‌های ویدیویی دست یافته‌اند. با این حال، شبکه‌ها همچنان عمدتاً به‌عنوان تقریب‌کننده تابع جعبه سیاه در نظر گرفته می‌شوند که یک ورودی داده‌شده را به یک خروجی طبقه‌بندی نگاشت می‌کنند. گام بعدی در این فرآیند تکاملی انسان-ماشین - الحاق این شبکه‌ها به فرآیندهای حیاتی مأموریت مانند تشخیص پزشکی، برنامه‌ریزی و کنترل - نیازمند سطحی از ارتباط اعتماد با خروجی ماشین است. به طور معمول، معیارهای آماری برای تعیین کمیت عدم قطعیت یک خروجی استفاده می شود. با این حال، مفهوم اعتماد همچنین به دیدی که یک انسان در کار ماشین دارد بستگی دارد. به عبارت دیگر، شبکه عصبی باید توجیهات قابل درک برای انسان برای خروجی خود ارائه دهد که منجر به بینش هایی در مورد عملکرد درونی می شود. ما چنین مدل هایی را شبکه های عمیق قابل تفسیر می نامیم. تفسیرپذیری یک مفهوم یکپارچه نیست. در واقع، سوبژکتیویته یک تفسیر، به دلیل سطوح مختلف درک انسان، حاکی از آن است که باید ابعاد متعددی وجود داشته باشد که در مجموع تفسیرپذیری را تشکیل می دهند. علاوه بر این، خود تفسیر را می توان از نظر پارامترهای شبکه سطح پایین یا از نظر ویژگی های ورودی مورد استفاده مدل ارائه کرد. در این مقاله، ما برخی از ابعادی را که برای تفسیرپذیری مدل مفید هستند، بیان می‌کنیم و کارهای قبلی را در امتداد آن ابعاد دسته‌بندی می‌کنیم. در این فرآیند، ما یک تجزیه و تحلیل شکاف از آنچه باید برای بهبود تفسیرپذیری مدل انجام شود، انجام می دهیم.
DOI 10.1109/UIC-ATC.2017.8397411
دانشگاه اوزیغین - موتور جستجوی آثار تاریخی، آرشیوها و نشریات
دانشگاه اوزیغین شما در حال هدایت مجدد هستید...

لطفاً صبر کنید