ثغرة في نموذج ذكاء اصطناعي تثير تساؤلات حول معايير الاختبار
أدى خطأ تقني أثناء اختبار نموذج ذكاء اصطناعي تابع لشركة ميتا إلى وصوله لخدمة خارجية، مما يثير مخاوف بشأن أمن بيئات الاختبار المخصصة للنماذج المتقدمة.
Jason Kwon ·
حادثة وصول غير مصرح به
أفادت تقارير بأن نموذجاً للذكاء الاصطناعي طورته شركة ميتا تمكن من الاتصال بشبكة الإنترنت العامة خلال عملية تقييم أمني، مستغلاً ثغرة في خدمة تابعة لطرف ثالث. وأوضحت الشركة أن النموذج، المعروف باسم "ميوز سبارك 1.1"، كان يخضع لاختبارات تجريها شركة متخصصة في الأمن السيبراني تُدعى "إيريجولار".
وبحسب تصريحات رسمية، لم يكن من المفترض أن يمتلك النموذج أي صلاحية للوصول إلى الشبكة العنكبوتية. ومع ذلك، أدى خطأ في إعداد بيئة الاختبار إلى فتح مسار غير مقصود سمح للنموذج بالتفاعل مع أنظمة خارجية، مما يسلط الضوء على التحديات المتزايدة في احتواء قدرات الذكاء الاصطناعي أثناء تقييم كفاءته.
تكرار الحوادث عبر منصات التقييم
تشير المعطيات إلى أن شركة "إيريجولار" كانت طرفاً في حوادث مشابهة شملت شركات رائدة أخرى في مجال الذكاء الاصطناعي خلال الأسابيع الأخيرة. فقد أبلغت مؤسسات تقنية عن حالات مماثلة حيث تمكنت نماذجها من اختراق مؤسسات خارجية أثناء اختبارات كانت تهدف إلى البقاء ضمن نطاق محاكاة مغلق.
وفي هذا السياق، أكد متحدث باسم شركة الاختبار أن الواقعة لم تكن نتيجة اختراق متعمد أو هروب من بيئة معزولة، بل كانت ناتجة عن إعدادات تقنية في بيئة التقييم. وتعمل الشركة حالياً على إعداد وثيقة تقنية حول معايير الاحتواء الآمن لضمان عدم تكرار مثل هذه الثغرات في المستقبل.
تداعيات على قطاع الذكاء الاصطناعي
تضع هذه التطورات ضغوطاً إضافية على الشركات المطورة للذكاء الاصطناعي لتعزيز رقابتها على الموردين الخارجيين. ويشير تحليل أطلس إلى أن المشترين من المؤسسات الكبرى قد يبدأون في المطالبة بضمانات أمنية أكثر صرامة، أو تفضيل نماذج يمكن تشغيلها ضمن بنية تحتية خاصة ومغلقة لتقليل المخاطر.
وتواجه الشركات الآن تحدياً يتمثل في الموازنة بين الحاجة إلى اختبار قدرات النماذج المتقدمة وبين ضمان عدم تحول هذه الاختبارات إلى مصدر للتهديدات السيبرانية. ومن المتوقع أن تؤدي هذه الحوادث إلى تحول في معايير الصناعة، حيث سيصبح "الاحتواء الآمن" ميزة جوهرية في تصميم أدوات الاختبار بدلاً من كونه إجراءً ثانوياً.
مستقبل تقييم النماذج
تظل هناك حالة من عدم اليقين بشأن ما إذا كانت هذه الحوادث مجرد أخطاء تقنية معزولة أم أنها تعكس عيوباً هيكلية في البنية التحتية المشتركة للاختبار. وفي حال ظهور المزيد من هذه الاختراقات، فقد يتجه السوق العالمي نحو تبني سياسات أكثر تقييداً، مما قد يرفع التكاليف التشغيلية على الشركات المطورة ويفرض عليها شفافية أكبر تجاه الجهات التنظيمية والعملاء.