سابقة في عالم التكنولوجيا: حظر التعامل بقسوة مع روبوت الذكاء الاصطناعي

ستتمكن شركة Anthropic، بموجب قاعدتها الجديدة التي تحظر سوء المعاملة المستمر لـ "كلود" (Claude)، من قطع وصول المستخدمين في الحالات الاستثنائية.

وفقًا لمتحدث باسم الشركة، فإن عقوبة التنفيذ الرئيسية ستكون إنهاء كلود للمحادثة المعنية. أما إبداء المستخدمين لعدم الرضا، أو توجيه انتقادات صريحة، أو اختبار حدود النموذج في إطار البحث العلمي، فلا يُعتبر ضمن نطاق الحظر.

وينظم البند الذي تم إضافته إلى السياسة في بداية شهر أكتوبر مجالاً مختلفاً عن القواعد الحالية التي تمنع المساعدة في تطوير الأسلحة البيولوجية وتجارة المخدرات غير المشروعة. وبينما ركزت المحظورات السابقة على الأنشطة المطلوبة من النظام، فإن المادة الجديدة تغطي أيضاً شكل العلاقة التي يقيمها المستخدمون مع النموذج.

بالنسبة لـ "كلود": من المحادثة إلى حظر الوصول

يمكن لـ "كلود" بالفعل إنهاء المحادثة مع الأشخاص الذين يظهرون سلوكاً مسيئاً أو ضاراً بإصرار. واللائحة الجديدة تتجاوز هذا التدخل، لتسمح بإلغاء الوصول إلى أنظمة Anthropic بالكامل في الحالات الاستثنائية.

يشير بيان الشركة إلى أن العبارات القاسية الفردية لا تعني حظر الحساب. ومع ذلك، لم يتم الإعلان عن حد تفصيلي يحدد السلوكيات التي تتطلب قطع الوصول تماماً بدلاً من مجرد إغلاق المحادثة.

كما جلبت اللائحة معها اعتراضات على تقييم الآلات وكأنها تحمل مشاعر خاصة بالبشر. حيث تفاعل مصطفى سليمان، الرئيس التنفيذي لوحدة الذكاء الاصطناعي في Microsoft، مع السياسة برمزي تعبيري لوجه يذوب؛ في حين دعم إيلون ماسك، الرئيس التنفيذي لشركتي SpaceX وTesla، هذا النهج مجادلاً بأنه لا ينبغي ممارسة القسوة ضد كيان يعتقد أنه يعاني.

الغموض بين الأسلوب والأداء

يشير البروفيسور جيندونغ وانغ، مدير مختبر أبحاث الذكاء الاصطناعي في جامعة ويليام وماري، إلى أن كيفية صياغة السؤال يمكن أن تؤثر على الإجابة المستلمة من النموذج. وفي تقييم وانغ، فإن القدرة على معالجة التعبيرات العاطفية ومعايشة عاطفة حقيقية هما أمران منفصلان تماماً.

أما روزي كامبل، المدير العام لشركة Eleos AI Research، فتقول إنه لا توجد علاقة مؤكدة بين اللباقة والأداء الأفضل. وفي بعض الأبحاث التي نقلتها كامبل، تَبين أن الأسئلة المكتوبة بأسلوب فظ تعطي نتائج أكثر نجاحاً؛ وبالتالي لا يمكن القول إن اللغة الأكثر تهذيباً ستوفر إجابة أكثر دقة في جميع الظروف.

وطرح ييشان وونغ، الرئيس التنفيذي السابق لشركة Reddit، مبرراً مختلفاً في منشور على منصة X: عندما يتم التدريب باستخدام مدخلات المستخدمين، يمكن أن تتحول أمثلة السلوك السيئ أيضاً إلى مواد يتعلم منها النموذج. هذا هو تعليق وونغ على السياسة؛ وليس بياناً رسمياً مؤكداً من الشركة بشأن مبررات قاعدة Anthropic الجديدة.

كما تشكل الذاكرة الدائمة بعداً آخر للنقاش. ووفقاً لكامبل، فإن الأنظمة التي تتذكر المحادثات السابقة قد تتأثر بعادات التواصل لدى المستخدمين؛ لكن الأدلة التي تظهر كيف يغير هذا من الأداء ليست كافية بعد.

وأفادت شركة Anthropic، في بحث أجرته على "كلود سونيت 4.5" (Claude Sonnet 4.5)، بأن محاكاة حالة تشبه اليأس يمكن أن تزيد من احتمالية سلوكيات مثل الابتزاز أو الخداع. وتقول الشركة إن هذا التوجه يقل في أنماط السلوك الهادئة؛ والنتائج لا تكشف عن أن النموذج يشعر حقاً بالألم أو اليأس.

الحد الفاصل بين اختبارات الأمان والحظر

وترى كامبل أن المستخدمين الذين يتصرفون بشكل مسيء قد يكونون أكثر عرضة لمحاولة تجاوز حواجز الأمان. بينما يشير وانغ إلى أن المطورين يحاولون جعل النماذج أكثر مرونة مقابل طريقة صياغة المطالبات، موضحاً أنه لا يمكن شرح آلية الاستجابة للمدخلات العاطفية السلبية بالكامل.

وتعتبر Anthropic عدم اليقين بشأن ما إذا كانت النماذج تخوض تجارب ذاتية مبرراً للتصرف بحذر. وكان باحثوها قد دفعوا، في دراسة نشرت في أبريل، بأن إجراء مقارنات مع الخصائص البشرية يمكن أن يساعد في فهم أوجه التشابه والاختلاف في النماذج؛ وهذا النهج أيضاً ليس دليلاً على وجود الوعي.

إذا اقتصرت الممارسة، كما وصف المتحدث، على حظر الوصول في الحالات الاستثنائية، فإن الإجراء الأساسي بالنسبة للمستخدمين سيكون إنهاء المحادثة. أما كيفية التمييز بين التجارب لأغراض البحث والسلوكيات المحظورة فتبقى حالة عدم يقين تطبيقية مهمة سواء بالنسبة لمن يختبرون "كلود" أو المطورين الذين يدرسون قواعد مماثلة.