التشتت المرتبط بالوقت من أجل التعلم الفيدرالي الفعال في مجال الاتصالات

العنوان التشتت المرتبط بالوقت من أجل التعلم الفيدرالي الفعال في مجال الاتصالات
المؤلف أوزفاتورا، إي.، أوزفاتورا، أحمد كيرم، غوندوز، د.
تاريخ النشر: 2021
مكان النشر - IEEE
النوع وثيقة
اللغة الإنجليزية
رقمي نعم
مخطوط لا
المكتبة: جامعة اوزيجين
معرف أصل المكتبة 978-153868209-8
رقم السجل 61750359-461f-4a47-a58f-c465853dc910
التاريخ 2021
ملاحظات مجلس أبحاث العلوم الهندسية والفيزيائية ; مجلس البحوث الأوروبي
نص عينة يتيح التعلم الموحد (FL) للعديد من العملاء تدريب نموذج مشترك بشكل تعاوني، بمساعدة خادم المعلمات (PS)، دون الكشف عن مجموعات البيانات المحلية الخاصة بهم. ومع ذلك، نظرًا للحجم المتزايد للنماذج المدربة، غالبًا ما يصبح عبء الاتصال الناتج عن التبادلات التكرارية بين العملاء وPS بمثابة عنق الزجاجة في الأداء. غالبًا ما يتم استخدام الاتصالات المتفرقة لتقليل حمل الاتصال، حيث يتم إرسال مجموعة فرعية صغيرة فقط من تحديثات النموذج من العملاء إلى PS. في هذه الورقة، نقدم مخططًا جديدًا للتشتت المرتبط بالوقت (TCS)، والذي يعتمد على فكرة أن إطار الاتصال المتناثر يمكن اعتباره بمثابة تحديد العناصر الأكثر أهمية في النموذج الأساسي. وبالتالي، يستغل TCS الارتباط بين التمثيلات المتناثرة في التكرارات المتتالية في فلوريدا، بحيث يمكن تقليل الحمل الناتج عن تشفير التمثيل المتناثر بشكل كبير دون المساس بدقة الاختبار. من خلال عمليات المحاكاة المكثفة على مجموعة بيانات CIFAR-10، نظهر أن TCS يمكنها تحقيق دقة تدريب مركزية مع تشتت يصل إلى 100 مرة، وتخفيض يصل إلى 2000 مرة في حمل الاتصال عند استخدامه مع القياس الكمي.
DOI 10.1109/ISIT45174.2021.9518221
عرض في المصدر جامعة اوزيجين جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات
جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات جامعة اوزيجين

التشتت المرتبط بالوقت من أجل التعلم الفيدرالي الفعال في مجال الاتصالات

المؤلف أوزفاتورا، إي.، أوزفاتورا، أحمد كيرم، غوندوز، د.
تاريخ النشر 2021
مكان النشر - IEEE
النوع وثيقة
اللغة الإنجليزية
رقمي نعم
مخطوط لا
المكتبة جامعة اوزيجين
معرف أصل المكتبة 978-153868209-8
رقم السجل 61750359-461f-4a47-a58f-c465853dc910
التاريخ 2021
ملاحظات مجلس أبحاث العلوم الهندسية والفيزيائية ; مجلس البحوث الأوروبي
نص عينة يتيح التعلم الموحد (FL) للعديد من العملاء تدريب نموذج مشترك بشكل تعاوني، بمساعدة خادم المعلمات (PS)، دون الكشف عن مجموعات البيانات المحلية الخاصة بهم. ومع ذلك، نظرًا للحجم المتزايد للنماذج المدربة، غالبًا ما يصبح عبء الاتصال الناتج عن التبادلات التكرارية بين العملاء وPS بمثابة عنق الزجاجة في الأداء. غالبًا ما يتم استخدام الاتصالات المتفرقة لتقليل حمل الاتصال، حيث يتم إرسال مجموعة فرعية صغيرة فقط من تحديثات النموذج من العملاء إلى PS. في هذه الورقة، نقدم مخططًا جديدًا للتشتت المرتبط بالوقت (TCS)، والذي يعتمد على فكرة أن إطار الاتصال المتناثر يمكن اعتباره بمثابة تحديد العناصر الأكثر أهمية في النموذج الأساسي. وبالتالي، يستغل TCS الارتباط بين التمثيلات المتناثرة في التكرارات المتتالية في فلوريدا، بحيث يمكن تقليل الحمل الناتج عن تشفير التمثيل المتناثر بشكل كبير دون المساس بدقة الاختبار. من خلال عمليات المحاكاة المكثفة على مجموعة بيانات CIFAR-10، نظهر أن TCS يمكنها تحقيق دقة تدريب مركزية مع تشتت يصل إلى 100 مرة، وتخفيض يصل إلى 2000 مرة في حمل الاتصال عند استخدامه مع القياس الكمي.
DOI 10.1109/ISIT45174.2021.9518221
جامعة اوزيجين - محرك بحث الآثار التاريخية والأرشيفات والدوريات
جامعة اوزيجين يتم إعادة توجيهك...

يرجى الانتظار