المؤلف
Chakraborty, S., Tomsett, R., Raghavendra, R., Harborne, D., Alzantot, M., Jerutti, F., Srivastava, M., Preece, A., Julier, S., Rao, R. M., Kelley, T. D., Braines, D., Shensoy, Murat, C. Willis, J. P. Willis.
تاريخ النشر
2018-06-26
مكان النشر
-
IEEE
النوع
وثيقة
اللغة
الإنجليزية
رقمي
نعم
مخطوط
لا
المكتبة
جامعة اوزيجين
معرف أصل المكتبة
978-1-5386-0435-9
رقم السجل
5498f403-ca05-4a9d-92f2-60da905ae5b4
موقع المكتبة
علوم الكمبيوتر
التاريخ
2018-06-26
ملاحظات
وزارة الدفاع الأمريكية مختبر أبحاث الجيش الأمريكي (ARL) ؛ وزارة الدفاع البريطانية
نص عينة
حققت الشبكات العصبية العميقة مستويات دقة قريبة من الدقة البشرية في أنواع مختلفة من مهام التصنيف والتنبؤ بما في ذلك بيانات الصور والنصوص والكلام والفيديو. ومع ذلك، لا يزال يتم التعامل مع الشبكات في الغالب على أنها أدوات تقريبية لوظائف الصندوق الأسود، حيث تقوم بتعيين مدخلات معينة إلى مخرجات التصنيف. الخطوة التالية في هذه العملية التطورية بين الإنسان والآلة - دمج هذه الشبكات في العمليات الحيوية للمهام مثل التشخيص الطبي والتخطيط والتحكم - تتطلب مستوى من الثقة مع مخرجات الآلة. عادة، يتم استخدام المقاييس الإحصائية لقياس عدم اليقين في الناتج. ومع ذلك، فإن مفهوم الثقة يعتمد أيضًا على رؤية الإنسان لعمل الآلة. بمعنى آخر، يجب أن توفر الشبكة العصبية مبررات مفهومة للإنسان لمخرجاتها مما يؤدي إلى رؤى حول الأعمال الداخلية. نحن نسمي هذه النماذج بالشبكات العميقة القابلة للتفسير. إن قابلية التفسير ليست فكرة متجانسة. في الواقع، فإن ذاتية التفسير، بسبب اختلاف مستويات الفهم البشري، تعني أنه يجب أن يكون هناك العديد من الأبعاد التي تشكل معًا قابلية التفسير. بالإضافة إلى ذلك، يمكن توفير التفسير نفسه إما من حيث معلمات الشبكة ذات المستوى المنخفض، أو من حيث ميزات الإدخال التي يستخدمها النموذج. في هذه الورقة، نحدد بعض الأبعاد المفيدة لقابلية تفسير النموذج، ونصنف العمل السابق على طول تلك الأبعاد. في هذه العملية، نقوم بإجراء تحليل الفجوات لما يجب القيام به لتحسين إمكانية تفسير النموذج.
DOI
10.1109/UIC-ATC.2017.8397411
