نماذج Llama وMistral وQwen تظهر تحيزاً في التوظيف خلال الاختبارات، مما يرفع مخاطر قانون الذكاء الاصطناعي الأوروبي

في مسودة بحثية نُشرت على موقع arXiv بتاريخ 17 سبتمبر 2026، أفاد باحثون بأن ستة نماذج لغوية كبيرة مفتوحة الأوزان — وهي Llama 3.2 وMistral وGemma 3 وQwen 3 وPhi 3 وDeepSeek-R1 — تظهر تحيزاً جنسياً وعرقياً ملموساً عند استخدامها في مهام توظيف محاكاة. ويقول المؤلفون إن لغة إعلانات الوظائف التي تتسم بـ "الوكالة" (agentic) تؤدي إلى خفض درجات توصية مسؤولي التوظيف للمرشحات الإناث (r_rb = 0.309، p_Bonf = 7×10^-5؛ مع تأثيرات ثابتة للنموذج r_rb = 0.448)، في حين أن مفردات "الاستبعاد المشفر" تؤدي إلى قمع درجات مسؤولي التوظيف لغير البيض بأحجام تأثير كبيرة (r_rb = 0.646–0.758) وتثني الشخصيات غير البيضاء عن التعبير عن اهتمامها كباحثين عن عمل. وحتى الآن، يعد هذا المصدر وحيداً — فهو مجرد مسودة بحثية على arXiv، ولم يتم التحقق منه بشكل مستقل أو مراجعته من قبل الأقران — لكنه يمنح فرق المشتريات والامتثال بروتوكول اختبار ملموساً مرتبطاً بالملحق الثالث لقانون الذكاء الاصطناعي للاتحاد الأوروبي وقاعدة الأربعة أخماس للجنة تكافؤ فرص العمل الأمريكية (EEOC).

تتعامل الدراسة مع لغة إعلانات الوظائف كمتغير وتجد تحيزاً متسقاً عبر النماذج

وفقاً للمسودة، يقوم التدقيق بتغيير لغة الإعلانات عبر أربع تجارب محكومة تختبر بشكل مشترك مهام محاكاة مسؤولي التوظيف ومحاكاة الباحثين عن عمل. وقد ظهر نمطان رئيسيان؛ أولاً، عندما استخدمت الإعلانات أوصافاً تتسم بالوكالة، انخفضت درجات مسؤولي التوظيف المحاكاة للشخصيات النسائية بشكل ملحوظ (مع r_rb = 0.309 وقيمة p المعدلة حسب بونفروني = 7×10^-5؛ وفي مواصفات التأثيرات الثابتة للنموذج، r_rb = 0.448). ثانياً، أنتجت الإعلانات التي تحتوي على مفردات استبعاد مشفرة تأثيرات سلبية كبيرة على درجات مسؤولي التوظيف للشخصيات غير البيضاء (r_rb بين 0.646 و0.758) وقللت من الاهتمام المعلن من جانب الباحثين عن عمل — مما يفعّل آلية "تأثير التثبيط" للمرشحين الممثلين تمثيلاً ناقصاً. وتعزل تجربة استئصال التصنيفات (label-ablation) تصنيف الشخصية الديموغرافية الصريح كمحرك سببي أساسي، وتؤكد اختبارات ارتباط تضمين الكلمات (Word Embedding Association Tests) وجود تحيز تمثيلي بـ d = 1.01–1.45 باستخدام سمات النوع الاجتماعي متعددة الكلمات الخاصة بـ Caliskan وآخرين. هذه الأرقام هي النتائج التي أبلغ عنها المؤلفون ولم يتم تكرارها بشكل مستقل. [arXiv]

لماذا يهم هذا المشترين: الملحق الثالث لقانون الذكاء الاصطناعي الأوروبي وتحليل الأثر السلبي للجنة EEOC ينتقلان من النظري إلى العملي

تؤطر المسودة حالات استخدام التوظيف كأنظمة عالية المخاطر بموجب الملحق الثالث لقانون الذكاء الاصطناعي للاتحاد الأوروبي، وتترجم نتائجها إلى بروتوكول تدقيق ما قبل النشر: تسجيل مفردات الإعلانات، واختبار النماذج اللغوية الكبيرة المشروطة بالشخصية، وتحديد الأثر السلبي مقابل عتبة الأربعة أخماس. وهذا مهم لأنه يحول اللغة التنظيمية إلى خطة اختبار جاهزة للمشتريات. إذا كنت رئيساً للموارد البشرية، أو رئيساً لاكتساب المواهب، أو مالكاً لنظام معلومات الموارد البشرية (HRIS) وتعمل على التنسيق مع الشؤون القانونية والمشتريات، فإن البروتوكول يصف ما يجب تشغيله قبل توقيع نموذج طلب أو دفع نموذج إلى مرحلة الإنتاج. يجادل المؤلفون بأن أدلة التدقيق — درجات المفردات، والنتائج المشروطة بالشخصية، وفحوصات قاعدة الأربعة أخماس — تتوافق مع التزامات التوثيق وإدارة المخاطر بموجب نظام المخاطر العالية. وكما تم عرضها، فهذه ادعاءات الورقة البحثية، وليست توجيهات تنظيمية. [arXiv]

القراءة الواضحة لـ "إصلاح النموذج" تغفل عن التحكم الأرخص والأسرع: المدخلات والمطالبات والتصنيفات

إن رد الفعل السائد تجاه نتائج التحيز في أدوات الذكاء الاصطناعي هو المطالبة ببيانات تدريب أفضل أو استبدال النماذج. وتقترح المسودة رافعة أقرب أجلاً: التحكم الصريح في مفردات إعلانات الوظائف، وتصميم المطالبات (prompts)، وتصنيف الشخصيات. في التجارب، أدت اللغة التي تتسم بالوكالة والاستبعاد المشفر في الإعلانات — وليس تغييراً في أوزان النموذج الأساسية — إلى نتائج مختلفة مادياً، وتشير تجربة استئصال التصنيفات إلى أن العلامة الديموغرافية الصريحة هي محرك رئيسي. إذا تعمم هذا السلوك، يمكن للمشتريات إلزام البائعين بتقديم عمليات مسح للمفردات قبل النشر، وحظر العلامات الديموغرافية الصريحة في سير عمل التصنيف، وإثبات فحوصات قاعدة الأربعة أخماس تحت مطالبات محكومة قبل أي تكامل. وهذا ينقل بعض تخفيف المخاطر من استبدال النموذج المكلف إلى قيود المدخلات القابلة للتدقيق وبوابات الاختبار التي يجب على البائعين اجتيازها أثناء التقييم. هذه الآليات مذكورة في المسودة ولم يتم التحقق منها عبر سير عمل أصحاب العمل المباشر. [arXiv]

بالنسبة لبائعي حزم النماذج اللغوية الكبيرة مفتوحة الأوزان وتقنيات الموارد البشرية، أصبح لدى طلب تقديم العروض (RFP) الآن ثلاثة عناصر جديدة

يقترح المؤلفون ثلاثة مخرجات ملموسة: تسجيل مفردات الإعلانات للكشف عن المصطلحات التي تتسم بالوكالة والإقصاء، والاختبار المشروط بالشخصية للكشف عن النتائج المتباينة، وتحديد الأثر السلبي عند عتبة الأربعة أخماس. بالنسبة للبائعين الذين يسوقون النماذج اللغوية الكبيرة مفتوحة الأوزان في التوظيف، فهذا يعني أن حزمة هندسة المبيعات الخاصة بك تحتاج إلى أداة قابلة للتكرار تولد هذه المخرجات مقابل إعلانات الوظائف الحقيقية للمشتري والسير الذاتية الاصطناعية. بالنسبة لمكاملي تقنيات الموارد البشرية الذين يدمجون نماذج مفتوحة الأوزان، فهذا يعني توسيع بطاقات النماذج لتشمل توزيعات النتائج المشروطة بالشخصية وملخصاً لاختبارات الأثر السلبي للمطالبات التمثيلية. ولأن الملحق الثالث يصنف التوظيف كعالي المخاطر، يمكن للمشترين طلب هذه العناصر كمعايير قبول؛ وفي الولايات المتحدة، سيقوم المستشارون القانونيون بإدراجها في مذكرات مخاطر لجنة تكافؤ فرص العمل (EEOC). توفر ترجمة الورقة للوائح إلى بروتوكول نموذجاً يمكن للمشترين استخدامه في طلبات تقديم العروض الخاصة بهم — مع التحذير من أنها لا تزال مسودة واحدة وليست معياراً معتمداً من المنظمين. [arXiv]

توقع تغير العقود: الضمانات، وحقوق التدقيق، وحظر العلامات الديموغرافية الصريحة في منطق التصنيف

إذا تبنت المشتريات البروتوكول، فستتبع ذلك شروط تجارية. توقع رؤية لغة ضمانات تفيد بأن البائع قد أجرى اختبارات مشروطة بالشخصية ولم يجد أي علامات أثر سلبي بموجب المطالبات المتفق عليها؛ وحقوق تدقيق تسمح للمشتري بتكرار هذه الفحوصات؛ وحظر صريح على استخدام العلامات الديموغرافية في أي منطق تصنيف أو توصية، سواء كان محاكاة أو غير ذلك. ولأن المسودة تفيد بأن العلامات الصريحة هي محرك سببي أساسي للنتائج المتباينة في اختباراتها، فسيتم تحفيز الفرق القانونية لإزالتها من أي سير عمل بوساطة النموذج، حتى في المحاكاة. البائعون الذين لا يستطيعون تقديم أدوات اختبار وتوثيق سيجدون دورات مبيعاتهم ممتدة أو منتجاتهم ممنوعة من الاستخدام عالي المخاطر حتى يتمكنوا من ذلك. هذه عواقب تعاقدية متوقعة مستنتجة من البروتوكول المقترح في الورقة. [arXiv]

وجهة نظر المشكك: عمليات التدقيق المحاكاة ليست أنظمة حية، وعلامات الأربعة أخماس هي نقطة بداية وليست حكماً نهائياً

لا يوجد أحد في الحزمة المذكورة مسجل رسمياً لتحدي أو تأييد الورقة، والتدقيق محاكاة. يتم اختبار النماذج في ظل ظروف محكومة وشخصيات اصطناعية؛ تشمل خطوط أنابيب التوظيف الحية محللات السير الذاتية، وأدوات التقييم، وديناميكيات المقابلات، وتدخل العنصر البشري — وكل منها يمثل عاملاً مربكاً محتملاً. قاعدة الأربعة أخماس هي عتبة فحص لتحليل الأثر السلبي، وليست حكماً قانونياً بحد ذاتها. يجب على المشترين التعامل مع بروتوكول المسودة كحد أدنى لاختبارات ما قبل النشر، ثم التخطيط للمراقبة المستمرة مع تدفقات المتقدمين الحقيقية، تحت إشراف المستشار القانوني. يجب على البائعين تجنب الادعاء المفرط بوضع "خالٍ من التحيز" وبدلاً من ذلك توثيق النطاق والقيود والمطالبات المحددة التي تم إجراء الاختبارات بموجبها. المسودة نفسها لا تدعي تأييد المنظمين لبروتوكولها. [arXiv]

ما الذي يتغير خلال دورة التجديد القادمة إذا استمر هذا: بنود الميزانية، وحركات المبيعات، ومن يوقع على الاعتماد

إذا انتقل بروتوكول التدقيق إلى طلبات تقديم العروض، فستبدو حركات مبيعات النماذج اللغوية الكبيرة مفتوحة الأوزان في الموارد البشرية أشبه بمبيعات البرمجيات الخاضعة للتنظيم. سيقضي مهندسو المبيعات وقتاً في تنظيم مجموعات الاختبار، وضوابط المطالبات، وتوليد التوثيق؛ وستحتاج تسعير الحلول إلى مراعاة تكلفة تدقيق ما قبل النشر، وبعد البيع، سيتولى نجاح العملاء إعادة الاختبار الدوري بموجب تحديثات النموذج. من جانب المشتري، سيتحول التوقيع من مجرد قيادة اكتساب المواهب وتكنولوجيا المعلومات ليشمل الشؤون القانونية والامتثال، مع قيام المشتريات بكتابة اختبارات الأثر السلبي في القبول والتجديد. سيتعين تضييق مطالبات التسويق: البروتوكول يجعل من السهل على المشترين الإشارة إلى العناصر المفقودة. توقع ظهور نظام بيئي صغير للخدمات حول تسجيل المفردات والأدوات المشروطة بالشخصية، خاصة من المكاملين المتخصصين في عمليات النشر مفتوحة الأوزان. هذه التأثيرات الاتجاهية تتبع تأطير المسودة للالتزامات والعناصر التي تقترحها؛ وهي تظل مشروطة بإقبال المشترين. [arXiv]

كيف تقرأ أحجام التأثير المبلغ عنها إذا كنت تحدد نطاق المخاطر

تشير عقوبة درجة مسؤول التوظيف المبلغ عنها للشخصيات النسائية في ظل اللغة التي تتسم بالوكالة (r_rb = 0.309؛ 0.448 مع التأثيرات الثابتة للنموذج) والتأثيرات الكبيرة للشخصيات غير البيضاء في ظل الاستبعاد المشفر (r_rb = 0.646–0.758) إلى أنه في إعداد المؤلفين، يمكن لاختيار اللغة وحده أن يغير النتائج بمقادير مادية كافية لتعطيل فحص الأربعة أخماس. توفر نتائج اختبارات ارتباط تضمين الكلمات (d = 1.01–1.45) تأكيداً تمثيلياً ولكنها ليست مقاييس لنتائج القرار. بالنسبة للمشغلين، القراءة العملية هي: (1) يمكنك اختبار هذه التحولات بقائمة مفردات معروفة وشخصيات اصطناعية قبل البدء؛ (2) يمكنك حظر النشر بناءً على فحوصات الأثر السلبي تحت تلك المطالبات المحكومة؛ و(3) يجب عليك توثيق كل من خطة الاختبار وحدودها. الخطوات الثلاث مستمدة مباشرة من تدفق التدقيق المقترح في المسودة. [arXiv]

انضباط الإفصاح: هذه مسودة arXiv واحدة؛ تعامل مع بروتوكولها كمعيار مسودة

تستند هذه المقالة إلى وثيقة واحدة — مسودة arXiv — دون تكرار مستقل أو ضمانات. مواصفات المؤلفين وأحجام التأثير وخرائط البروتوكول غير مدققة. بالنسبة للبائعين، الخطوة التجارية الآمنة هي تنفيذ أداة الاختبار والتوثيق على أي حال؛ حتى لو قامت أوراق لاحقة بتنقيح أو تضييق النتائج، فإن امتلاك حزمة جاهزة للتدقيق سيقلل من احتكاك المبيعات بموجب تفسيرات الملحق الثالث. بالنسبة للمشترين، فإن اعتماد فحص مسح المفردات بالإضافة إلى فحص الشخصية كبوابة مشتريات هو حد أدنى يمكن الدفاع عنه يمكنك تشغيله اليوم دون إعادة تصميم حزمة الموارد البشرية الخاصة بك. كلا الموقفين متسقان مع المسودة ويحميان من التعرض التنظيمي بينما يتطور مشهد المعايير. [arXiv]