تحذير من عالم خبير من سيناريو “تشيرنوبيل” في الذكاء الاصطناعي

حذر جيفري هينتون من أن الهجمات القائمة على الذكاء الاصطناعي قد تؤدي إلى انقطاعات واسعة النطاق في شبكات الكهرباء والنظام المالي.

تركز السيناريوهات التي طرحها عالم الكمبيوتر الحائز على جائزة نوبل على الأخطار التي قد تسببها التكنولوجيا في البنى التحتية التي تدعم الحياة اليومية. وعدّ هينتون هجوماً يعطل توليد الكهرباء وحدثاً يمنع النظام المالي من العمل لمدة أسبوع من بين الأمثلة المحتملة.

هذه التقييمات ليست تفسيراً لانقطاع حدث بالفعل، بل هي تحذيرات هينتون بشأن المستقبل. وأعرب العالم أيضاً عن اعتقاده بأن الذكاء الاصطناعي يمكن أن يؤدي إلى نتائج مفيدة، معرباً عن تردده بشأن تطوير التكنولوجيا بقوله: "ربما كان من الأفضل لو لم نطورها على الإطلاق".

البنية التحتية الحيوية في مركز تشبيه تشيرنوبيل

استخدم هينتون تشبيه تشيرنوبيل للإشارة إلى حدث قد يجعل الرأي العام يأخذ الخطر على محمل الجد. ولكنه أوضح أنه بهذا التشبيه لا يقصد حادثاً نووياً، بل انقطاعاً واسع النطاق في البنية التحتية مرتبطاً بالذكاء الاصطناعي.

وكان مثاله في جانب الكهرباء هجوماً مدعوماً بالذكاء الاصطناعي يستهدف نظام الإنتاج. أما في المجال المالي، فقد وصف جعل النظام غير قادر على العمل مؤقتاً؛ وبذلك لم يقتصر تحذيره على الإجابات التي تقدمها النماذج فحسب، بل وسّعه ليشمل استمرارية الخدمات.

تصف فترة الأسبوع التي ذكرها هينتون نطاق السيناريو المالي؛ ولا تشير إلى مدة حدث تم ملاحظته أو إلى احتمالية محسوبة. كما تم ذكر مثالي الكهرباء والمالية ليس كجلبتين لحدث واحد، بل كأشكال مختلفة محتملة للانقطاع.

هذا التمييز مهم من حيث كيفية قراءة التحذير: هينتون لا يقول إن شركة كهرباء معينة أو مؤسسة مالية محددة تعرضت للهجوم. وبدلاً من تقديم نتائج تقنية تربط عطلاً في النظام بالذكاء الاصطناعي، فإنه يصف المواقف الخطيرة التي يمكن استخدام التكنولوجيا فيها.

سباق النماذج في مركز انتقادات هينتون

انتقد هينتون أيضاً المنافسة بين شركات الذكاء الاصطناعي الكبرى التي تطرح نماذج أكثر قوة. ووفقاً لتقييمه، فإن السعي وراء التفوق والحصة السوقية يجب مراعاته جنباً إلى جنب مع نهج المخاطرة لدى مديري الشركات.

هذا الرأي بمثابة تقييم من هينتون لسلوك الشركات؛ وليس دليلاً على أن نموذجاً معيناً ألحق الضرر بالبنية التحتية للكهرباء أو المالية. وفي مركز انتقاده، توجد العلاقة بين الجهد المبذول لزيادة القدرة التكنولوجية والأخطار التي قد تخلقها هذه القدرة.

وكان هينتون، المعروف بأبحاثه في الشبكات العصبية الاصطناعية، قد استقال من منصبه في جوجل عام 2023. وأوضح أن سبب استقالته هو التمكن من التحدث بحرية أكبر عن مخاطر الذكاء الاصطناعي؛ وحذر من أن سلوكيات الأنظمة نحو اكتساب السيطرة قد تتحول إلى خطر.

ورغم ذلك، لا يزعم هينتون أن الذكاء الاصطناعي سينتج نتائج سلبية فقط. وصرح بأنه يعتقد أن التكنولوجيا يمكن أن توفر "مستقبلاً رائعاً"، مما يبرز التوتر الأساسي في تصريحاته: حيث تجتمع إمكانية الاستخدام المفيد مع مخاوف السيطرة والأمان في التقييم نفسه.

الحجم سيكون حاسماً في سيناريوهات الانقطاع

إذا حدث انقطاع في الكهرباء من النوع الذي وصفه هينتون، فإن التأثير المباشر سيكون على نظام الإنتاج المستهدف. أما العواقب الاقتصادية الأوسع فستعتمد على مدة الانقطاع، والمنطقة التي يشملها، والخدمات المتأثرة؛ وهذا المثال وحده لا يقدم حساباً للتأثير العالمي.

وينطبق التمييز نفسه على أي حدث يمنع النظام المالي من العمل: فالتعطل قصير المدى والتوقف لمدة أسبوع الذي وصفه هينتون ليس السيناريو نفسه. ولتقييم مدى تأثر شركة أو قطاع معين، يجب معرفة الهدف وطريقة الهجوم ونطاق الانقطاع.

النقطة الأساسية التي تظل مفتوحة في تحذير هينتون هي الشروط التقنية التي قد تؤدي إلى الأحداث الموصوفة. وتجسيد الخطر ملموساً يتوقف على تحديد الثغرات في أنظمة معينة وقدرة الهجوم وإجراءات الحماية، بدلاً من التشبيه العام بكارثة.