تقنية UC-RAMP تقلص زمن معالجة الرموز في نماذج MoE بنسبة تصل إلى 22.3% وفق دراسة أولية

قلصت تقنية UC-RAMP الوقت المقاس لكل رمز مُخرج بنسبة تراوحت بين 20.2% و22.3% في اختبار أُجري على معالج A100 منفرد عند نسبة تقليم بلغت 25%، وفقاً لدراسة أولية نُشرت على خادم arXiv في 20 أكتوبر.

وتكتسب الدراسة الأولية الصادرة في 20 أكتوبر، والتي أعدها زوكانغ شو، وشينبي غاو، وشينغ هو، وتشه جيانغ، وداوي يانغ، أهمية خاصة لنماذج «خليط الخبراء» (MoE)، نظراً لأن UC-RAMP تفوقت أيضاً على الأساليب الخاضعة للتقييم في متوسط الدقة عبر 10 مهام في خمسة من أصل ستة إعدادات اختبار.

ويعني الخفض بنحو 20% تقليصاً يقارب الخُمس في زمن فك التشفير المقاس مقارنة بالنموذج غير المُقلم، وفقاً لحسابات Atlas360. ومع ذلك، فإن نطاق الأجهزة المستخدمة يظل محدوداً، إذ استندت نتائج التشغيل إلى مسرّع واحد من طراز A100، وليس إلى عنقود حوسبي أكبر معلن عنه.

وتعمل نماذج «خليط الخبراء» (MoE) على توجيه العمليات الحسابية عبر وحدات خبراء مختارة بدلاً من استخدام جميع المعلمات لكل رمز. وتؤدي عملية التقليم إلى إزالة أجزاء من النموذج لتقليل الاحتياجات الحوسبية، بيد أن الباحثين أشاروا إلى أن خفض مستوى حيرة نمذجة اللغة — وهو مقياس لخطأ التنبؤ — لا يضمن دائماً الحفاظ على أداء المهام.

ويصف المؤلفون UC-RAMP بأنه إطار عمل للتقليم ما بعد التدريب يتألف من مرحلتين، ما يعني تطبيقه بعد اكتمال تدريب النموذج بالفعل. وفي صيغتهم المنهجية، يحدد القرار الأول كيفية توزيع السعة المتبقية عبر الخبراء، بينما يختار القرار الثاني القنوات التي ستبقى ضمن تلك السعة.

وجاء في الدراسة الأولية: «إن دقة التقليم الأكثر تفصيلاً وحدها لا تضمن الحفاظ على القدرات اللاحقة، إذ يمكن لمستويات متقاربة من حيرة نمذجة اللغة أن تقترن باختلافات جوهرية في أداء المهام». ويمثل ذلك الادعاء المحوري وراء الفصل بين تخصيص عرض الخبراء واختيار القنوات.

وعند نسبة تقليم بلغت 50% لقنوات الخبراء الموجهين، تفوقت UC-RAMP على أقوى خط أساس تم تقييمه بفارق 8.19 و3.96 و6.14 نقطة مئوية عبر نماذج MoE الثلاثة على التوالي، بحسب الدراسة الأولية. وسجلت التقنية أعلى متوسط دقة عبر 10 مهام بين أساليب التقليم الخاضعة للتقييم في خمسة من أصل ستة إعدادات، عند نسبتي تقليم بلغت 25% و50%.

وفي تصميم الباحثين، يعيد مكون CAPE تخصيص العرض المتبقي لكل خبير بالاعتماد على أدلة المعايرة عبر المجالات مع فرض ميزانية دقيقة لكل طبقة. وبعد ذلك، يقوم مكون RAMP بضبط خيارات القنوات عند تلك العروض الثابتة عبر عمليات استبدال أحادية مسترشدة ببديل حسابي لتفاعلات القنوات.

وتعد نتائج التشغيل أضيق نطاقاً من اختبار الدقة؛ إذ قاس المؤلفون أداء الاستدلال على معالج A100 منفرد عند نسبة تقليم بلغت 25%، وسجلوا انخفاضاً بنسبة 19.7% إلى 23.9% في زمن إصدار أول رمز — وهو زمن التأخير قبل بدء التوليد — مقارنة بالنموذج غير المُقلم.

وتظل هذه الأدلة أولية؛ فالورقة البحثية تمثل النسخة الأولى على خادم arXiv، وتقع في 14 صفحة متضمنة ثلاثة أشكال بيانية، كما أن الدراسات الأولية على arXiv لا تخضع لمراجعة الأقران.

وتشير صفحة خادم arXiv إلى أن الباحثين أتاحوا الكود البرمجي عبر مستودع GitHub مرتبط بالورقة البحثية.

المصدر: دراسة أولية على arXiv، قسم arXiv cs.AI، تاريخ 20 أكتوبر 2026