التعلم عبر الإنترنت
- قدّمه
- Rosenblatt, F.; Littlestone, N.; Shalev-Shwartz, S. (key contributors)
- السنة
- 1958–2000s
- النوع
- Learning paradigm (sequential model update)
- العائلة
- Machine learning
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
التعلم عبر الإنترنت هو نموذج تعلم آلي يتم فيه تحديث النموذج بشكل تدريجي مع وصول كل نقطة بيانات جديدة، بدلاً من تدريبه مرة واحدة على مجموعة بيانات ثابتة. وهو ضروري عندما تتدفق البيانات باستمرار، أو تكون مساحة التخزين محدودة، أو يتغير التوزيع الأساسي بمرور الوقت. يتم قياس الأداء النظري من خلال الخسارة التراكمية مقارنة بأفضل مُتنبئ ثابت في الماضي.
الفكرة الحدسية وراء الطريقة
في التعلم الدفعي الكلاسيكي، تجمع كل البيانات أولاً ثم تقوم بالتدريب. التعلم عبر الإنترنت يعكس هذا: يتلقى النموذج مثالاً واحداً في كل مرة، ويقوم بتنبؤ، ويرى النتيجة الحقيقية، ويقوم بتحديث نفسه فوراً. فكر في متداول يعدل استراتيجيته بعد كل صفقة بدلاً من الانتظار حتى نهاية العام. الضمان النظري الرئيسي هو انخفاض الخسارة - على مدار جولات عديدة، يكون إجمالي خسارة المتعلم عبر الإنترنت صغيراً بقدر إجمالي خسارة أفضل استراتيجية ثابتة تم اختيارها في الماضي.
التاريخ
يعود نموذج التعلم عبر الإنترنت إلى Perceptron لـ Rosenblatt (1958) وتمت صياغته نظرياً بواسطة Littlestone (نموذج حد الخطأ، 1988) و Freund & Schapire (Winnow، Hedge، 1990s). تم تطوير إطار تحسين التحدب عبر الإنترنت، الذي يوحد تحليل الخسارة عبر العديد من الخوارزميات، بواسطة Zinkevich (2003) وتمت مراجعته على نطاق واسع بواسطة Shalev-Shwartz (2011). تستخدم متغيرات FTRL و AdaGrad أنظمة صناعية واسعة النطاق في شركات مثل Google.
متى تُستخدم
استخدم التعلم عبر الإنترنت عندما تصل البيانات كتدفق مستمر ويكون إعادة التدريب من الصفر غير عملي؛ عندما يتغير توزيع البيانات بمرور الوقت (انحراف المفهوم) ويجب أن يتكيف النموذج دون إعادة تدريب كاملة؛ أو عندما تمنع قيود التخزين والذاكرة الاحتفاظ بمجموعة البيانات الكاملة. يناسب أنظمة التوصية، واكتشاف الاحتيال، وخطوط أنابيب معالجة اللغة الطبيعية، وتطبيقات بيانات المستشعرات. لا تستخدمه عندما تكون كمية البيانات صغيرة وثابتة (التعلم الدفعي أبسط وفعال بنفس القدر)، أو عندما يجب رؤية مجموعة البيانات الكاملة عدة مرات للتقارب (على سبيل المثال، الشبكات العصبية العميقة على مجموعات صغيرة)، أو عندما تكون قابلية التكرار وخطوط أنابيب التقييم دون اتصال بالإنترنت حاسمة ولا تتوفر البنية التحتية للتدفق.
الحدود والاعتبارات
- حساس لاختيار معدل التعلم والمعلمات الفائقة؛ المعدلات السيئة تسبب بطء التقارب أو عدم الاستقرار.
- يعتمد الأداء في أي خطوة معينة على ترتيب الأمثلة، مما يجعل النتائج حساسة للترتيب.
- مقاييس التقييم الدفعي (التحقق المتقاطع، مجموعات الاختبار المعزولة) لا تنطبق مباشرة؛ يلزم التقييم المسبق بدلاً من ذلك.
- يتطلب تدريب الشبكات العصبية العميقة عادةً عدة تمريرات عبر البيانات (epochs)، مما يتعارض مع إعدادات التعلم عبر الإنترنت الصارمة ذات التمريرة الواحدة.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يتعامل مع تدفقات البيانات غير المحدودة بذاكرة ثابتة، مما يجعله قابلاً للتوسع إلى مجموعات بيانات ضخمة أو لا نهائية.
- يتكيف تلقائياً مع انحراف المفهوم وتغير التوزيع دون الحاجة إلى محفزات إعادة تدريب صريحة.
- يوفر ضمانات نظرية قوية عبر حدود الخسارة، مما يحدد الأداء في أسوأ الحالات مقارنة بأي منافس ثابت.
- تحديثات زمن الاستجابة المنخفض تجعله مناسباً للتطبيقات في الوقت الفعلي والحساسة للوقت.
- العديد من الخوارزميات (SGD، AdaGrad، FTRL) لها خصائص تقارب وخسارة مفهومة جيداً.
التطبيقات
- التنبؤ بمعدل النقر في الوقت الفعلي والإعلانات عبر الإنترنت (FTRL-Proximal على نطاق Google).
- اكتشاف الاحتيال والشذوذ في تدفقات المعاملات المالية التي تتطلب تحديثات فورية للنموذج.
- خطوط أنابيب معالجة اللغة الطبيعية عبر موجزات الأخبار أو وسائل التواصل الاجتماعي مع مفردات متطورة.
- تصنيف بيانات المستشعرات وإنترنت الأشياء حيث يحول حجم البيانات دون التخزين الدفعي.
- أنظمة التوصية التي يجب أن تتكيف فوراً مع تحول تفضيلات المستخدم.
- تصفية البريد العشوائي التكيفية حيث يتطور تعريف البريد العشوائي باستمرار.
كيف يعمل
كيف يعمل
في كل خطوة زمنية t، يتلقى المتعلم متجهاً ميزات جديداً x_t من تدفق البيانات. تتم معالجة العينة فوراً ولا يتم تخزينها بشكل دائم، مما يجعل هذا النموذج فعالاً من حيث الذاكرة حتى مع تدفقات البيانات غير المحدودة.
النموذج الحالي f_t ينتج تنبؤاً لـ x_t قبل الكشف عن التسمية الحقيقية. قد يكون النموذج مصنفاً خطياً، أو شبكة عصبية صغيرة، أو قاعدة قرار، أو أي دالة بارامترية محفوظة في الذاكرة.
الصيغة
\hat{y}_t = f_t(x_t)بعد التنبؤ، يلاحظ المتعلم التسمية الحقيقية y_t ويحسب الخسارة. تشير إشارة التغذية الراجعة هذه إلى مدى خطأ التنبؤ الحالي وتدفع تحديث المعلمات اللاحق.
الصيغة
\ell_t = \ell(\hat{y}_t, y_t)يتم تحديث معلمات النموذج باستخدام تدرج الخسارة بالنسبة للمعلمات الحالية، مضروباً في معدل التعلم. تشمل الخوارزميات الشائعة Perceptron، و Stochastic Gradient Descent، و AdaGrad، و Follow-the-Regularized-Leader (FTRL).
الصيغة
w_{t+1} = w_t - \eta_t \nabla \ell_tيتم تقييم الأداء من خلال الخسارة التراكمية: الفرق بين إجمالي خسارة المتعلم عبر الإنترنت وإجمالي خسارة أفضل مُتنبئ ثابت معروف في الماضي. يضمن نمو الخسارة دون خطي (على سبيل المثال، O(sqrt(T))) تقارب المتعلم إلى سلوك شبه أمثل.
الصيغة
R_T = \sum_{t=1}^{T} \ell_t - \min_{f} \sum_{t=1}^{T} \ell(f(x_t), y_t)الأخطاء الشائعة
- استخدام معدل تعلم ثابت عندما يكون AdaGrad أو جدول متناقص مطلوباً - يسبب إما تعلمًا بطيئًا أو تباعدًا.
- تجاهل مراقبة انحراف المفهوم: حتى النماذج عبر الإنترنت يمكن أن تتخلف عن تغيرات التوزيع المفاجئة إذا لم يتم تتبعها بشكل صريح.
- الخلط بين "التعلم عبر الإنترنت" والتعلم عبر الويب (التعلم الإلكتروني)؛ معنى تعلم الآلة هو تحديث النموذج بشكل تدريجي صارم.
- تقييم التحقق المتقاطع الدفعي بدلاً من التقييم المسبق (الاختبار ثم التدريب)، والذي يبالغ في تقدير الأداء أو يقلل من تقديره.
- تطبيق التعلم عبر الإنترنت على مجموعات بيانات ثابتة صغيرة حيث تكون الطرق الدفعية الأبسط مع التحقق المتقاطع المناسب أكثر ملاءمة.
الأسئلة الشائعة
هل التعلم عبر الإنترنت هو نفسه الانحدار التدرجي العشوائي؟
SGD هو خوارزمية التحسين الأكثر شيوعاً المستخدمة في التعلم عبر الإنترنت، ولكنهما ليسا متطابقين. التعلم عبر الإنترنت هو نموذج (معالجة مثال واحد، تحديث، المتابعة)؛ SGD هي قاعدة تحديث. يمكن للتعلم عبر الإنترنت استخدام قواعد تحديث أخرى مثل Perceptron، AdaGrad، أو FTRL.
كيف أقوم بتقييم نموذج تم تدريبه بالتعلم عبر الإنترنت؟
استخدم التقييم المسبق (يسمى أيضاً الاختبار ثم التدريب): لكل مثال وارد، قم بالتنبؤ أولاً، وسجل الخطأ، ثم قم بالتحديث. يعطي المتوسط المتحرك للأخطاء تقديرًا غير متحيز للأداء في الوقت الفعلي دون الحاجة إلى مجموعة اختبار منفصلة.
كيف يتعامل التعلم عبر الإنترنت مع انحراف المفهوم؟
نظرًا لأنه يتم تحديث المعلمات بعد كل مثال، يتتبع النموذج بشكل طبيعي التحولات البطيئة في التوزيع. بالنسبة للانحراف المفاجئ، الذي يتم اكتشافه بشكل صريح عن طريق مراقبة معدلات الخطأ أو الاختبارات الإحصائية (مثل DDM، ADWIN)، قد تكون هناك حاجة إلى معدل تعلم أعلى أو إعادة تعيين النموذج.
ما هي الخسارة ولماذا هي مهمة؟
الخسارة هي الخسارة الإضافية التراكمية التي تكبدها الخوارزمية عبر الإنترنت مقارنة بأفضل مُتنبئ ثابت تم اختياره مع معرفة كاملة بالماضي. تضمن الخسارة دون الخطية (التي تنمو أبطأ من T) أن متوسط الخسارة لكل جولة يتقارب إلى الأمثل، مما يوفر شهادة أداء صارمة في أسوأ الحالات.
هل يمكن تدريب الشبكات العصبية العميقة بطريقة عبر الإنترنت؟
نعم، ولكن مع محاذير. تتطلب الشبكات العصبية العميقة عادةً عدة دورات تدريبية على البيانات للتقارب المستقر، مما يتعارض مع قيود التعلم عبر الإنترنت الصارمة ذات التمريرة الواحدة. في الممارسة العملية، يتم استخدام SGD المصغر الدفعي كحل وسط - معالجة الدفعات الأخيرة من بضعة أمثلة قبل تحديث الأوزان.
طرق ذات صلة
المصادر
Shalev-Shwartz, S. (2011). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.
افتح مرجع DOIتم النسخ.Cesa-Bianchi, N. & Lugosi, G. (2006). Prediction, Learning, and Games. Cambridge University Press.
ردمك: 978-0-521-84108-5تم النسخ.