أنثروبيك تدعو لتباطؤ عالمي في تطوير الذكاء الاصطناعي

دعوة لتباطؤ عالمي في تطوير الذكاء الاصطناعي

أعربت شركة أنثروبيك، وهي شركة بارزة في مجال الذكاء الاصطناعي، عن قلقها البالغ إزاء التطورات المتسارعة في أنظمة الذكاء الاصطناعي. تدعو الشركة إلى تباطؤ عالمي في تطوير هذه التقنيات المتقدمة، محذرةً من قدرة الأنظمة على تحسين نفسها بشكل متكرر دون تدخل بشري، مما قد يؤدي إلى مخاطر مجتمعية كبيرة.

كشف منشور حديث للشركة عن بيانات داخلية تتعلق بنماذجها المتطورة، مشيرًا إلى أن إبطاء التقدم العالمي في الذكاء الاصطناعي قد يعود بالنفع على العالم. يرى الخبراء في أنثروبيك أن مسار "التحسين الذاتي المتكرر" لأنظمة الذكاء الاصطناعي يمثل نقطة تحول محتملة.

الحاجة إلى اتفاق عالمي

حث المنشور، الذي شارك في تأليفه مارينا فافارو وجاك كلارك، على النظر في وقف مؤقت لتطوير الذكاء الاصطناعي الرائد. يهدف هذا الإجراء إلى منح الهياكل المجتمعية وأبحاث المواءمة فرصة لمواكبة التطورات. اقترحوا التوصل إلى اتفاق عالمي لإبطاء وتيرة التطوير، يتضمن آليات للتحقق من الالتزام.

على الرغم من أن التحسين الذاتي المتكرر ليس واقعًا بعد، وليس حتميًا، إلا أن المنشور يشير إلى أنه قد يتحقق في وقت أقرب مما تتوقعه العديد من المؤسسات. هذه العتبة تمثل نقطة محتملة لتغيير مجتمعي كبير ومخاطر محتملة.

موقف الصناعة والجدل الدائر

أنهت أنثروبيك مؤخرًا جولة تمويلية، مما رفع قيمة الشركة إلى ما يقرب من تريليون دولار. كما قدمت الشركة طلبًا للاكتتاب العام الأولي، مما يضعها في طليعة الشركات الرائدة إلى جانب OpenAI في مشهد الذكاء الاصطناعي التنافسي. من المتوقع أن يصل معدل إيراداتها السنوية إلى 50 مليار دولار هذا الشهر، ارتفاعًا من 9 مليارات دولار في نهاية عام 2023.

تأسست أنثروبيك على مبادئ سلامة الذكاء الاصطناعي، لكنها واجهت بعض التشكيك. يشير منتقدون، مثل المستثمر ديفيد ساكس، إلى أن عملها في مجال السياسات يهدف إلى إبطاء تقدم المنافسين. وصف ساكس ذلك بأنه "أجندة احتكار تنظيمي"، قد تؤثر على نماذج الذكاء الاصطناعي مفتوحة المصدر.

يرى آخرون تحذيرات أنثروبيك كاستراتيجية تسويقية. ويشيرون إلى الإصدار المحدود لنموذجها القوي للأمن السيبراني "Mythos"، والذي يعرض قدرات المنتج مع تسليط الضوء على المخاطر المحتملة.

الآثار المستقبلية ووجهات نظر الخبراء

يؤكد قادة أنثروبيك التزامهم بالسلامة ويعملون على تعزيز النقاشات حول المخاطر. نصح إيثان موليك، أستاذ في كلية وارتون، بمراجعة منشور أنثروبيك، معترفًا بوجود عناصر تسويقية ومعتقدات صادقة بشأن مستقبل الذكاء الاصطناعي القريب.

لا تزال صناعة الذكاء الاصطناعي منقسمة حول مدى قرب النماذج من تحقيق إنجازات مثل الذكاء الاصطناعي العام (AGI) أو التحسين الذاتي المتكرر. يعتقد يان لوكون، كبير علماء الذكاء الاصطناعي السابق في ميتا، أن نماذج اللغة الكبيرة الحالية لن تصل إلى مستوى الذكاء البشري. ويرى الذكاء الاصطناعي كأداة قوية، مشبهًا إياه بذكاء القط، ويشكك في المخاوف الوجودية.

على النقيض من ذلك، حذر الرئيس التنفيذي لأنثروبيك، داريو أمودي، باستمرار من المخاطر المحتملة للذكاء الاصطناعي. وقد أشار إلى أن الذكاء الاصطناعي قد يزيد من عدم المساواة ويقضي على العديد من الوظائف المكتبية للمبتدئين. كما أعرب أمودي عن قلقه بشأن تطوير أنظمة الذكاء الاصطناعي القوية لاتجاهات مدمرة وغير متوقعة.