أنظمة الذكاء الاصطناعي التفاعلية تواجه 20 نمطاً من الفشل في الاختبارات

حدد سارات شيكيزهار و14 مؤلفاً مشاركاً 20 نمطاً من أنماط الفشل في أنظمة الذكاء الاصطناعي التفاعلية "من وكيل إلى وكيل" (A2A)، وذلك في دراسة أولية في علوم الحاسوب نُشرت على منصة "arXiv" في 17 أكتوبر، استناداً إلى أكثر من 2,500 جولة تشغيل مسجلة.

ويستهدف هذا العمل تسليط الضوء على المخاطر المؤسسية في وقت تدفع فيه الشركات المزودة بالوكلاء نحو التفاوض وإجراءات سير العمل الداخلي؛ حيث غطت مجموعة الاختبارات 488 سيناريو عبر ثماني فئات، في حين افترضت دراسات الفشل السابقة وجود تحكم مشترك، وفقاً لما ذكره المؤلفون.

وتتضمن أنظمة "من وكيل إلى وكيل" وكلاء ذكاء اصطناعي يعملون نيابة عن جهات تفويض منفصلة، أي الأشخاص أو المؤسسات التي يمثلونها. وتقدم الورقة مثالاً على تفاعل الوكيل الشخصي للمشتري مع وكيل المبيعات التابع لإحدى الشركات.

وأوضح المؤلفون أن كل وكيل قد يعمل استناداً إلى معلومات خاصة وصلاحيات منفصلة، في حين يمكن أن تكون العلاقة بين الوكلاء تعاونية، أو متوافقة جزئياً، أو تنافسية. وشملت السيناريوهات أمثلة في المجالات القانونية، وإدارة علاقات العملاء، والأمن، والتجارة، وفقاً للدراسة الأولية.

ويتعلق التحذير الأقوى بجانب التحقق؛ حيث كتب المؤلفون أنه "لا يوجد وكيل يتحقق من الادعاءات الواقعية لنظيره بمبادرة ذاتية منه"، مضيفين أن الموثوقية تعتمد على المشارك الأضعف ما لم يفرض بروتوكول أو آلية معينة فحصاً للتحقق.

ويصنف هذا التقسيم أنماط الفشل العشرين ضمن أربعة مجالات: الاستكشاف والتفويض، والتأصيل وتناسق السجلات، والتحقق، والسلوك والأمانة في التمثيل. ومن الناحية العملية، تغطي هذه الفئات ما إذا كان الوكلاء يعثرون على النظير المناسب، ويحافظون على اتساق السجلات، ويفحصون الادعاءات، ويتصرفون بما يتماشى مع مصالح الجهة الموكلة.

وأظهرت الدراسة الأولية ثبوت ثلاث نتائج عبر جميع منصات الاختبار والنماذج والسيناريوهات التي درسها المؤلفون؛ إذ حددت صياغة المهمة، وليس مجرد توفر وكلاء آخرين، ما إذا كان الوكلاء يكتشفون نظراءهم ويتفاعلون معهم. كما ذكر المؤلفون أن درجات النتائج الإجمالية قد تكافئ إنجاز المهمة مع إغفال مشكلات التنسيق والتحقق والسلوك الكامنة خلفها.

ويكتسب ذلك أهمية خاصة بالنسبة للشركات التي تقيم أداء الوكلاء كأطراف فاعلة في الأعمال التجارية وليس مجرد روبوتات محادثة معزولة؛ إذ يمكن للنظام أن يبدو ناجحاً على مستوى المهمة النهائية في حين يفشل أحد المشاركين في التنسيق، أو يقبل بياناً دون تدقيق، أو يتصرف بطريقة تتعارض مع أهداف الجهة التي يمثلها.

وتعد الورقة البحثية المنشورة على "arXiv" مسودة أولية لم تخضع بعد لمراجعة الأقران من قبل دورية علمية.

وقد نشر المؤلفون سجلات التشغيل التي استند إليها التصنيف على منصة "Hugging Face". وقُدمت الورقة في 14 أكتوبر، وجرى تنقيحها في 15 أكتوبر، وأدرجتها "arXiv" كنسخة ثانية.

المصدر: دراسة أولية في علوم الحاسوب على منصة arXiv، 17 أكتوبر.