تعديلات وكلاء الذكاء الاصطناعي تغير 17% من نتائج المهام في اختبار للمنصات

أفاد الباحثان دي وانغ وبنغ تشي في دراسة تمهيدية نُشرت على موقع arXiv في 21 أكتوبر بأن التعديلات المؤقتة على وكيل ذكاء اصطناعي أدت إلى تغيير 17% من نتائج المهام متجاوزة نسبة التباين الطبيعي المعتاد بين جولات التشغيل.

وتكتسب هذه النتيجة أهمية بالغة لأن المؤلفين يرون أن التطوير الذاتي غير الخاضع للرقابة يجب أن يعتمد على ضمانتين خاضعتين للقياس، وذلك بعد أن فشل مقيّم يعتمد على النماذج اللغوية الكبيرة بصمت في 9 من أصل 37 حالة جرى اختبارها.

وتتناول الورقة منصات الوكلاء القادرة على فحص سجلات التنفيذ، واستنباط تعديلات برمجية، وطلب الموافقة الآلية، ونشر التحديثات دون وجود مطور بشري. ويقترح المؤلفان استخدام قوة أداة التحقق وقابلية الاسترداد لتحديد التوقيت الذي يمكن فيه تشغيل تلك الحلقة ذاتياً.

وتقيس قوة أداة التحقق، المشار إليها بالرمز σ في الورقة، مدى توافق أداة التحقق المتاحة مع أداة تحقق مرجعية موثوقة. بينما تقيس قابلية الاسترداد التكلفة والمشقة المطلوبة لإلغاء تعديل سيئ، بما في ذلك ما إذا كان التراجع يتطلب موافقة جديدة ومقدار السلوك السابق الذي تم استرجاعه.

وكتب المؤلفان في الملخص: "يجب ألا تُنفذ أي خطوة دون رقابة إلا إذا كان كلا المعيارين ملائمين". وذكرا أنه وفقاً لمنصتهما، سمحت هذه القاعدة بتشغيل تعديلات الأوامر التوجيهية والأدوات والمهارات دون تدخل بشري، بينما ظلت تحديثات أوزان النماذج تتطلب موافقة بشرية رسمية.

وقال الباحثون إنهم صمموا منصة تطبق هذه القاعدة واختبروها في بيئتين: بوابة الموافقة الخاصة بالمنصة نفسها وتجارب خاضعة للرقابة على مؤشر تقييم الوكلاء τ2-bench. وتبين أن أداة التقييم القائمة على النماذج اللغوية الكبيرة، وهي نموذج لغوي كبير يُستخدم لتقييم التعديلات المقترحة، كانت تُعيد أحياناً النتيجة ذاتها بغض النظر عما يُعرض عليها.

ووفقاً للملخص، حدث هذا الفشل في 9 من أصل 37 بيئة اختبار ولم يسفر عن أي تقرير بوجود خطأ. وكتب المؤلفان أن "أداة التحقق قد تبدو سليمة في حين أنها توافق على أي شيء"، مشيرين إلى أن اختبارين بسيطين تمكنا من رصد هذا الفشل.

وتشير نتائج قابلية الاسترداد إلى قيد منفصل؛ إذ أعادت استعادة نسخة محفوظة الوكيل إلى سلوكه الأصلي، في حين فشلت عملية التراجع المُعاد توليدها في تحقيق ذلك، وفقاً للورقة التمهيدية. وأوضح المؤلفان أن هذا يعني أن التعديلات التي يُحتفظ بنسختها القديمة فقط هي التي يمكن التراجع عنها دون تدخل بشري.

وتظل حدود الورقة البحثية ملموسة؛ فالمنشور على arXiv يُعد مسودة أولية، ويصف الملخص نتائج مستمدة من منصة المؤلفين وتجارب المقارنة المعيارية الخاصة بهما بدلاً من كونه تطبيقاً واسع النطاق على مستوى القطاع.

وتفيد صفحة المصدر بأن الورقة المكونة من ست صفحات بالإضافة إلى الملحق قد قُبلت في ورشة عمل NeurIPS 2026 حول أنظمة التشغيل القائمة على الوكلاء (AgenticOS)، وتُدرج مجالات البحث تحت الذكاء الاصطناعي، والحوسبة واللغة، وهندسة البرمجيات.

المصدر: ورقة بحثية أولية على arXiv cs.AI، بتاريخ 21 أكتوبر 2026