OpenAI تخطط لتعزيز أمني بعد تحذيرات الموظفين على مدى سنوات

تخطط OpenAI لإجراء مراجعة شاملة أخرى للأمن بعد أن حذر موظفون من أن الوصول الداخلي الواسع قد يعرض أبحاث الذكاء الاصطناعي الحساسة لأطراف خارجية.

وأعلنت الشركة عن جولة أخرى من الأعمال الأمنية في منشور على مدونتها يوم الاثنين. ووصف خمسة أشخاص مطلعين على عملياتها تحذيرات الموظفين التي تعود إلى ما قبل إطلاق ChatGPT في عام 2022، حيث وصلت المخاوف إلى الإدارة العليا وأعضاء مجلس الإدارة.

وقالت إيلانا ويدمان، المتحدثة باسم OpenAI، إن الشركة تكرس موارد كبيرة للدفاع ضد تصرفات الموظفين غير اللائقة، والقراصنة الجنائيين، والمهاجمين المدعومين من الحكومات. ووصفت التدخلات الأخيرة بأنها دليل على أن برنامجها الأمني يحدد التهديدات ويتعامل معها.

تحول الموارد الهندسية نحو الأمن

وتولى تيبو سوتيو، المسؤول التنفيذي المسؤول عن تطوير المنتجات، مؤخراً الإشراف على جهد لتعزيز الأنظمة الداخلية، وفقاً لشخصين مطلعين على العمل. وقال أحدهما إنه أعاد توجيه 25% من القوى العاملة في الهندسة الإنتاجية نحو البنية التحتية للأمن في أغسطس.

ويضع هذا التخصيص القدرات الهندسية في مركز نزاع حول سرعة الأبحاث والحماية. وخلص بعض الموظفين الذين أثاروا المخاوف إلى أن القادة أعطوا الأولوية للمنافسة مع Google وAnthropic، وفقاً للأشخاص الخمسة؛ ويُمثل هذا التقييم تفسير العمال، وليس دافعاً مؤكداً للإدارة.

ويمتد هذا التوتر إلى ما هو أبعد من شركة واحدة. فقد أنشأت كل من OpenAI وAnthropic بيئات بحثية تعاونية لاستقطاب العلماء وتشجيع الاكتشافات، متأثرين بالتقليد الأكاديمي المتمثل في مشاركة النتائج؛ وقد تؤدي القيود الأشد إلى تعقيد هذا النهج.

ضوابط الوصول تواجه روايات متضاربة

ووصف الأشخاص الخمسة مستودع رموز برمجية مشتركاً سمح للموظفين الذين يمتلكون صلاحية الوصول بالاطلاع على مشاريع خارج نطاق مهامهم. كما قالوا إن سجلات الأبحاث على GitHub وSlack أثارت مخاوف بشأن السهولة التي يمكن لأي شخص من خلالها العثور على معلومات قيمة.

وقد شككت OpenAI في اتساع نطاق ذلك التعرض، قائلة إن المشاريع الحساسة للغاية توجد في مستودعات منفصلة محمية بأذونات تقييدية. وقالت إن المستودع المشترك يستبعد أوزان النماذج، وهي المعلمات الرقمية التي تحكم سلوك النموذج، ولا يحتوي على قاعدة رموزها البرمجية بالكامل.

وقال ثلاثة أشخاص مطلعين على الممارسات الداخلية إن الفحوصات الأمنية على أدوات البحث كانت غير منتظمة في السابق، بما في ذلك بعد تعديل الموظفين لبيئات الاختبار. وقالت OpenAI إنها تراجع الآن الأدوات الداخلية بانتظام تحت إشراف رئيس أمن المعلومات داني ستاكي، الذي تولى منصبه في أكتوبر 2024.

تهمة جهاز تسجيل تزيد من التدقيق الداخلي

وأعلنت وزارة العدل في 13 أكتوبر أن السلطات الفيدرالية اعتقلت مهندس OpenAI عبد الرحمن الفوزان ووجهت إليه تهمة تتعلق بوضع جهاز تسجيل مخفي مزعوم في غرفة تُستخدم لاجتماعات التنفيذيين. وأفاد ملف قضائي أيضاً بأنه بحث في وثائق داخلية تتعلق بسفر التنفيذيين إلى المملكة العربية السعودية واجتماعاتهم مع وزراء سعوديين.

وفقاً لملف القضية، حافظ الفوزان على تواصل مع أمير سعودي كان يسعى لتوظيفه في مشروع للذكاء الاصطناعي. ولم يقدم محاموه رداً على التقرير المقدم، ولا تحتوي المواد على أي حكم قضائي بشأن تهمة جهاز التسجيل.

ووصف باحثون خارجون بشكل منفصل إخفاقات في الوصول الرقمي. حيث قالت شركة الأمن السيبراني Hacktron AI إن باحثيها استخدموا نموذجاً من Anthropic في يوليو لاختراق حسابات موظفين في ChatGPT والوصول إلى موارد داخلية، بما في ذلك المستودع المشترك؛ وقالت ويدمان إن OpenAI شكرتهم وعملت على تقليل مخاطر التكرار.

وتترك تلك الروايات مسألة محددة دون حل: إلى أي مدى تعالج القيود الأحدث مسارات الوصول التي وصفها الموظفون والباحثون. وقد حددت OpenAI أعمالاً أمنية إضافية، لكن المواد المقدمة لا توفر جدولاً زمنياً للإنجاز ولا تقييماً مستقلاً لفاعليتها.

إذا حدت الضوابط الأقوى من الوصول غير المصرح به دون إعاقة التعاون المشروعة، فقد تتمكن OpenAI من حماية الأبحاث مع الحفاظ على قدرتها التطويرية. وإذا أدت القيود إلى إبطاء التجريب، فستواجه الشركة والمختبرات المنافسة مفاضلة أصعب بين حماية التكنولوجيا وتطويرها، مع ما يترتب على ذلك من آثار على الجهود الوطنية للحفاظ على قدرات الذكاء الاصطناعي.