نموذج BERT يحقق دقة بلغت 81.3% في اختبار رصد انقطاعات التيار الكهربائي

أظهرت مسودة بحثية أعدها أولُوكونلي أوولابي ونُشرت على منصة أركايف (arXiv) في 28 مايو 2023، أن نموذج BERT حقق دقة بلغت 81.3% في مهمة رصد انقطاعات التيار الكهربائي بعد إجراء ضبط دقيق على 10% من بيانات التدريب المتاحة.

وتكتسب هذه المقارنة أهمية بالنسبة لشركات المرافق ومديري الطوارئ لأن البلاغات عن انقطاع التيار قد تسبق البيانات التشغيلية الرسمية. وفي المسودة البحثية المنشورة على أركايف بتاريخ 28 مايو 2023، ذكر أوولابي أن نموذج GPT حقق دقة بلغت 74.5% في ظل إعداد الضبط الدقيق ذاته بنسبة 10%.

واختبرت الورقة البحثية النماذج اللغوية على مجموعة بيانات منتقاة ومتوازنة لتغريدات على وسائل التواصل الاجتماعي تتعلق بانقطاعات التيار الكهربائي. ويعني التعلم دون أمثلة مسبقة (zero-shot) تطبيق النموذج دون تزويده بأمثلة خاصة بالمهمة؛ بينما يعني التعلم بأمثلة قليلة (few-shot) تكييفه باستخدام قدر ضئيل من بيانات المهمة المصنفة.

وأوضح الملخص أن نماذج التعلم الآلي الكلاسيكية تفوقت على النماذج اللغوية العاملة دون أمثلة مسبقة في التجارب. إلا أن الضبط الدقيق غيّر النتيجة؛ إذ اعتُبرت دقة BERT البالغة 81.3% تحسناً بنسبة 15.3%، بينما اعتُبرت دقة GPT البالغة 74.5% تحسناً بنسبة 8.5%.

وتطرح الورقة هذا العمل بوصفه وسيلة لرصد انقطاعات التيار وتحديد مواقعها عندما تكون البيانات المصنفة شحيحة. وذكر الملخص أن النتائج تنطوي على "آثار عملية لتحليل انقطاعات التيار وتحديد مواقعها في السيناريوهات ذات التوفر المحدود للبيانات".

ويبدو سياق البنية التحتية واضحاً، حتى وإن كانت الورقة تمثل نتيجة بحثية محدودة النطاق. وكانت أطلس 360 قد أفادت في 19 أكتوبر بأن مسؤولين أوكرانيين ذكروا أن هجمات صاروخية روسية قطعت الكهرباء عن 500,000 شخص، كما أفادت في أغسطس بأن العاصفة المدارية لالا تركت أكثر من 60,000 منزل دون كهرباء في هاواي.

ولا ينبغي قراءة هذه النتائج بوصفها دليلاً على وجود نظام مطبق فعلياً لمراقبة انقطاعات التيار.

وتترك النتيجة أيضاً معضلة موازنة عملية دون حل؛ إذ يمكن للإشارات الواردة عبر وسائل التواصل الاجتماعي أن تكون سريعة، لكن الملخص لم يوضح كيفية تعامل النماذج مع ندرة المنشورات، أو التقارير المضللة، أو المناطق التي لا يستخدم سكانها المنصات نفسها أثناء انقطاع الكهرباء.

وتتمثل مساهمة الورقة في تقديم نتيجة مرجعية توضح أن الضبط الدقيق المحدود حسّن أداء النماذج اللغوية في رصد انقطاعات التيار بناءً على التغريدات.

المصدر: مسودة بحثية على منصة arXiv، تصنيف arXiv cs.AI، بتاريخ 28 مايو 2023.