كاليفورنيا تفرض معايير أخلاقية للذكاء الاصطناعي في العقود الحكومية

كاليفورنيا تضع معايير جديدة للذكاء الاصطناعي

 

أعلنت ولاية كاليفورنيا عن مجموعة من المتطلبات الجديدة لشركات الذكاء الاصطناعي التي تسعى للتعاقد معها، مركزة على السلامة العامة والمعايير الأخلاقية في عمليات الشراء. وقع الحاكم غافن نيوسوم أمرًا تنفيذيًا يوجه الولاية نحو صياغة سياسات رسمية للذكاء الاصطناعي خلال أربعة أشهر. يحدد هذا الأمر التوقعات بشأن كيفية إدارة البائعين للمخاطر المرتبطة بتطوير ونشر أنظمة الذكاء الاصطناعي المستخدمة في الأعمال الحكومية.

 

يتطلب الأمر التنفيذي من شركات الذكاء الاصطناعي الراغبة في الحصول على عقود حكومية إثبات وجود سياسات لديها تهدف إلى منع استخدام أدواتها في نشر مواد استغلال الأطفال جنسيًا أو المواد الإباحية العنيفة. كما يطالب الشركات بتوضيح كيفية تقليل التحيز الضار وتجنب التمييز غير القانوني المرتبط بنماذج الذكاء الاصطناعي الخاصة بها.

 

ضمانات ضد التمييز والمراقبة

 

بالإضافة إلى ذلك، يُطلب من البائعين معالجة الضمانات المتعلقة بالاحتجاز والمراقبة، مما يعكس المخاوف حول كيفية تطبيق الأنظمة الآلية في قطاعات عامة حساسة. يأتي هذا النهج من كاليفورنيا كاستجابة على مستوى الولاية لمخاوف السلامة العامة والآثار المجتمعية الأوسع المرتبطة بالذكاء الاصطناعي.

 

يشمل السياق الأوسع لهذه الإجراءات قضايا مثل إزاحة العمالة ونزاعات الملكية الفكرية. يوجه الأمر أيضًا بتطوير أفضل الممارسات لوضع علامات مائية على الصور ومقاطع الفيديو التي يتم إنشاؤها أو التلاعب بها بواسطة الذكاء الاصطناعي، بهدف دعم الأصالة وتقليل الالتباس حول المحتوى الحقيقي.

 

تأثير على الشركات والسياسات الفيدرالية

 

تأتي هذه الخطوة في خضم بيئة سياسية نشطة ومتشعبة في جميع أنحاء الولايات المتحدة. تم سن أكثر من 100 قانون على مستوى الولايات بهدف حماية الأطفال من روبوتات الدردشة والحد من انتهاك حقوق النشر من قبل شركات الذكاء الاصطناعي. تضيف متطلبات كاليفورنيا، التي تركز على المشتريات، طبقة أخرى إلى هذا النسيج من خلال ربط توقعات الامتثال بالوصول إلى العقود الحكومية، وهي أداة يمكن أن تؤثر على سلوك البائعين دون الاعتماد فقط على الحظر القانوني الواسع.

 

يسلط الأمر التنفيذي الضوء أيضًا على التباين السياسي حول مدى صرامة تنظيم الذكاء الاصطناعي. يتناقض هذا مع دعوة الرئيس السابق دونالد ترامب إلى الحد الأدنى من التنظيم لصناعة الذكاء الاصطناعي. على المستوى الفيدرالي، أصدر البيت الأبيض إطارًا سياسيًا وطنيًا في ديسمبر يشجع على عدم تنظيم الذكاء الاصطناعي على مستوى الولايات وأنشأ فرقة عمل للتقاضي بشأن الذكاء الاصطناعي بهدف تحدي مثل هذه الإجراءات.

 

تحديات التنفيذ والامتثال

 

لا تزال هناك شكوك حول كيفية ترجمة الولاية للأمر التنفيذي إلى معايير مشتريات قابلة للتنفيذ وكيف ستوثق الشركات الامتثال عمليًا. سؤال آخر مفتوح هو كيفية تفاعل إجراءات الولاية مع الجهود الفيدرالية التي تثبط القواعد على مستوى الولايات وتدعم الطعون القانونية. بالنسبة للقطاع العام، قد تضيف متطلبات كاليفورنيا خطوات امتثال تحتاج إلى التوفيق مع توقعات الولايات القضائية الأخرى، خاصة فيما يتعلق بضمانات المحتوى، ومخاطر التمييز، وأدوات الأصالة.