سلسلة ماركوف مونت كارلو (MCMC) — متروبوليس-هاستينغز وأخذ عينات جيبس
- قدّمه
- Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
- السنة
- 1953 (Metropolis-Hastings); 1984 (Gibbs)
- النوع
- Simulation-based Bayesian inference / numerical integration
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
سلسلة ماركوف مونت كارلو (MCMC) هي عائلة من خوارزميات المحاكاة التي تنشئ سلسلة ماركوف يكون توزيعها الثابت هو التوزيع اللاحق المستهدف، مما يتيح الاستدلال البايزي وحساب التكاملات عالية الأبعاد التي قد تكون مستعصية تحليليًا. تم ريادتها بواسطة متروبوليس وزملاؤه في عام 1953 وتم توسيعها بواسطة هاستينغز في عام 1970، وتشكل MCMC أساس الإحصاء البايزي الحديث. النوعان الأكثر استخدامًا هما متروبوليس-هاستينغز، الذي يقترح تحركات من توزيع اقتراح عام، وأخذ عينات جيبس، الذي يسحب كل معلمة بالتناوب من توزيعها الشرطي الكامل.
الفكرة الحدسية وراء الطريقة
تخيل أنك تريد معرفة شكل سلسلة جبال مخفية تحت الضباب. لا يمكنك رؤيتها كلها مرة واحدة، ولكن يمكنك اتخاذ خطوة في اتجاه عشوائي وتحديد ما إذا كنت ستتحرك بناءً على ما إذا كانت الأرض أعلى أو أقل. من خلال المشي لفترة كافية وتسجيل الأماكن التي زرتها، فإن الأماكن التي زرتها أكثر من غيرها ترسم القمم - وهذا هو التوزيع اللاحق. تقوم MCMC بنفس الشيء في فضاء المعلمات عالي الأبعاد: فهي تبني سلسلة من العينات التي تتجول تدريجيًا في مناطق الاحتمالية العالية، بحيث يقرب الرسم البياني للقيم التي تمت زيارتها التوزيع المستهدف دون الحاجة إلى صيغة مغلقة له.
التاريخ
نُشرت خوارزمية متروبوليس الأساسية في عام 1953 بواسطة متروبوليس، روزنبلث، روزنبلث، تيلر، وتيلر لمحاكاة الجزيئات. قام هاستينغز (1970) بتعميمها على توزيعات اقتراح غير متماثلة، مما أنتج خوارزمية متروبوليس-هاستينغز. قدم جيمان وجيمان (1984) أخذ عينات جيبس في سياق استعادة الصور. أصبحت الخوارزمية أداة إحصائية رئيسية في أوائل التسعينيات بعد أن أظهر جيلفاند وسميث (1990) قابليتها للتطبيق الواسع للحساب البايزي، وقدم جلمان وروبن (1992) تشخيص التقارب R̂. أدى التطوير اللاحق لـ Hamiltonian Monte Carlo بواسطة Duane وآخرون (1987) ومتغيره التلقائي NUTS بواسطة هوفمان وجلمان (2014) إلى توسيع MCMC للمشاكل عالية الأبعاد. يعتبر كتاب Gelman et al. Bayesian Data Analysis (2013) و Handbook of Markov Chain Monte Carlo (Brooks et al., 2011) المراجع الشاملة القياسية.
متى تُستخدم
MCMC هي الأداة المناسبة عندما يتم تحديد نموذج بايزي ولا يمكن حساب التوزيع اللاحق تحليليًا - وهي الحالة الشائعة للنماذج التي تحتوي على أكثر من عدد قليل من المعلمات أو مع توزيعات مسبقة غير مترافقة. إنها أيضًا الطريقة القياسية لنماذج المتغيرات الكامنة، والنماذج الهرمية، وأي إعداد حيث يجب نشر عدم اليقين بالكامل عبر خط أنابيب معقد. لا توجد افتراضات توزيعية حول البيانات مطلوبة بخلاف مواصفات الاحتمالية. المتطلب العملي الرئيسي هو عدد كافٍ من التكرارات حتى تتقارب السلسلة: عادةً ما لا يوفر أقل من حوالي 1000 عينة بعد الاحتراق توصيفًا موثوقًا للتوزيع اللاحق، وفي الإعدادات عالية الأبعاد هناك حاجة إلى المزيد. عندما يكون فضاء المعلمات عالي الأبعاد للغاية، فإن Hamiltonian Monte Carlo (HMC) أو No-U-Turn Sampler (NUTS) - وهي امتدادات تلقائية لفكرة MCMC - تكون أكثر كفاءة بكثير من متروبوليس-هاستينغز الأساسية.
الحدود والاعتبارات
- التقارب غير مضمون في وقت محدود؛ قد تظل السلسلة التي يبدو أنها تقاربت عالقة في منطقة محلية من التوزيع اللاحق.
- الارتباط الذاتي بين العينات المتتالية يعني أن حجم العينة الفعال أصغر من العدد الخام للتكرارات، مما يتطلب تشغيلات أطول مما تحتاجه عينة مستقلة مكافئة.
- في فضاءات المعلمات عالية الأبعاد، يختلط متروبوليس-هاستينغز ذو المسار العشوائي بشكل سيء؛ هناك حاجة إلى Hamiltonian Monte Carlo أو NUTS للاستكشاف الفعال.
- يتطلب تحديد النموذج من المحلل اختيار توزيعات مسبقة بعناية، ويمكن أن تؤدي التوزيعات المسبقة المختارة بشكل سيء أو الاحتمالات المحددة بشكل خاطئ إلى تحيز التوزيع اللاحق بطرق يصعب اكتشافها.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- تمكن الاستدلال البايزي الدقيق (تقريبًا) للنماذج التي لا يحتوي فيها التوزيع اللاحق على شكل مغلق، مما يغطي النماذج الهرمية، ومشاكل البيانات المفقودة، والاحتمالات المعقدة.
- تنتج عينة توزيع لاحق مشترك كامل، لذلك يمكن حساب أي كمية مشتقة، أو تنبؤ، أو قرار مع نشر عدم اليقين بشكل صحيح.
- تنطبق على النتائج المستمرة، والثنائية، والعد، ولا تفرض أي افتراضات توزيعية على البيانات بخلاف الاحتمالية المحددة من قبل المصمم.
- يجعل تشغيل سلاسل متوازية متعددة التحقق من التقارب منهجيًا من خلال تشخيص Gelman-Rubin R̂.
التطبيقات
- تطبيق نماذج بايزية هرمية في علم النفس والتعليم والطب حيث يتم تجميع البيانات والرغبة في تجميع جزئي.
- تقدير معلمات نماذج الحجرة الوبائية (SIR، SEIR) من أعداد الحالات المرصودة، بما في ذلك قياس عدم اليقين.
- نمذجة المعادلات الهيكلية البايزية ونماذج المتغيرات الكامنة في أبحاث العلوم الاجتماعية.
- الاستدلال اللاحق لنماذج نظرية استجابة المفردات (IRT) في القياس التربوي.
- معايرة نماذج المحاكاة المعقدة مقابل البيانات المرصودة عندما يكون الاحتمال متاحًا ولكنه غير مترافق.
- نمذجة المخاطر المالية وتسعير الخيارات في ظل عدم اليقين في معلمات بايزي.
كيف يعمل
كيف يعمل
يحدد المحلل النموذج البايزي: دالة احتمالية تربط المعلمات بالبيانات المرصودة، وتوزيعات مسبقة تشفر المعتقدات حول كل معلمة قبل رؤية البيانات. معًا، تحدد هذه التوزيعات اللاحقة غير المعيارية التي ستستكشفها MCMC. يعتمد اختيار التوزيعات المسبقة وعائلة الاحتمالية على بنية السلسلة ويجب أن يستند إلى معرفة موضوعية.
يتم اختيار قيم البدء لجميع المعلمات، ويتم تحديد عدد السلاسل، وطول فترة الإحماء (الاحتراق)، والعدد الإجمالي للتكرارات بعد الاحتراق. يعد تشغيل سلاسل مستقلة متعددة - عادة أربعة - من نقاط بداية مختلفة ممارسة قياسية، حيث يسمح بتقييم التقارب من خلال مقارنة السلاسل بدلاً من الاعتماد على مسار واحد.
في كل تكرار، تقترح الخوارزمية حركة في فضاء المعلمات. في متروبوليس-هاستينغز، يتم سحب مرشح من توزيع اقتراح ويتم قبوله باحتمالية تعتمد على نسبة كثافات التوزيع اللاحق في المواضع المرشحة والحالية، مما يضمن أن التوزيع الثابت للسلسلة هو التوزيع اللاحق المستهدف. في أخذ عينات جيبس، يتم تحديث كل معلمة بالتناوب عن طريق السحب مباشرة من توزيعها الشرطي الكامل، مما يتجنب الحاجة إلى خطوة قبول صريحة. نظرًا لأن العينات المتتالية تشترك في المعلومات، فإن السلسلة تظهر ارتباطًا ذاتيًا؛ يمكن أن يؤدي التخفيف - الاحتفاظ فقط بكل سحب k - إلى تقليل ذلك بتكلفة عدد أقل من العينات المخزنة.
بعد التخلص من فترة الاحتراق، يتم تقييم التقارب. تقارن إحصائية Gelman-Rubin R̂ التباين داخل السلسلة بالتباين بين السلاسل عبر السلاسل المتعددة؛ تشير القيم الأقل من 1.05 إلى أن السلاسل قد اختلطت وتقاربت إلى نفس التوزيع. يتم أيضًا فحص الرسوم البيانية للمسار (تسلسل القيم المسحوبة عبر التكرارات) وحجم العينة الفعال. إذا كانت R̂ كبيرة أو أظهرت الرسوم البيانية للمسار اختلاطًا ضعيفًا، فيجب مراجعة النموذج أو التوزيعات المسبقة أو إعدادات أخذ العينات قبل المتابعة في الاستدلال.
تشكل مجموعة العينات بعد الاحتراق تقريبًا تجريبيًا للتوزيع اللاحق. يتم حساب تقديرات النقاط (المتوسط اللاحق أو الوسيط)، وفترات المصداقية، والتوزيعات التنبؤية اللاحقة مباشرة من العينة. نظرًا لأن العينات هي سحوبات من التوزيع اللاحق المشترك، يمكن تقدير أي كمية مشتقة - نسب، فروق، دوال غير خطية للمعلمات - عن طريق تطبيق نفس الدالة على كل عينة وتلخيص التوزيع الناتج.
الأخطاء الشائعة
- تخطي أو تقصير فترة الاحتراق يعني أن الجزء المبكر غير المستقر من السلسلة يلوث تقديرات التوزيع اللاحق - تخلص دائمًا من فترة إحماء سخية.
- تشغيل سلسلة واحدة فقط يجعل من المستحيل اكتشاف ما إذا كان أخذ العينات قد تقارب أم أنه محاصر في منطقة واحدة؛ قم دائمًا بتشغيل أربع سلاسل مستقلة على الأقل.
- معاملة عدد كبير من التكرارات الخام كدليل على التقارب دون حساب R̂ أو فحص الرسوم البيانية للمسار يمكن أن يعطي ثقة زائفة - مطلوب R̂ < 1.05، وليس مجرد تكرارات كثيرة.
- تجاهل الارتباط الذاتي والإبلاغ عن حجم العينة الفعال كما لو كان العدد الخام يبالغ في تقدير الدقة؛ قم بالإبلاغ عن حجم العينة الفعال جنبًا إلى جنب مع الأعداد الخام.
- تطبيق MCMC على نموذج يحتوي على أقل من حوالي 1000 تكرار بعد الاحتراق لن ينتج عنه بشكل عام توزيع لاحق موثوق به؛ إذا كانت ميزانية الحوسبة ضيقة جدًا، ففكر في طرق بايزية تحليلية أو نموذج مترافق.
الأسئلة الشائعة
كيف أعرف ما إذا كانت سلسلة MCMC الخاصة بي قد تقاربت؟
التشخيص الأساسي هو إحصائية Gelman-Rubin R̂، التي يتم حسابها عن طريق تشغيل أربع سلاسل مستقلة على الأقل من نقاط بداية مختلفة ومقارنة التباين داخل السلسلة بالتباين بين السلاسل. تعتبر قيم R̂ الأقل من 1.05 لجميع المعلمات هي العتبة التقليدية. يجب أن تظهر الرسوم البيانية للمسار أن السلاسل تتداخل وتستكشف نفس المنطقة؛ تشير المسارات القمعية أو المتدرجة إلى اختلاط ضعيف. يجب أيضًا التحقق من حجم العينة الفعال - حجم العينة الفعال الصغير جدًا بالنسبة للعدد الخام يشير إلى ارتباط ذاتي عالٍ والحاجة إلى مزيد من التكرارات أو أداة أخذ عينات أفضل.
ما هو الفرق بين متروبوليس-هاستينغز وأخذ عينات جيبس؟
يقترح متروبوليس-هاستينغز حركة لجميع المعلمات في وقت واحد (أو في كتل) من توزيع اقتراح محدد من قبل المستخدم ويقبل أو يرفض الاقتراح باحتمالية تحافظ على التوزيع اللاحق المستهدف كتوزيع ثابت. بدلاً من ذلك، يقوم أخذ عينات جيبس بتحديث كل معلمة على حدة عن طريق السحب مباشرة من توزيعها الشرطي الكامل - توزيع تلك المعلمة بالنظر إلى جميع المعلمات الأخرى والبيانات. يتطلب أخذ عينات جيبس أن تكون هذه التوزيعات الشرطية الكاملة متاحة في شكل مغلق، وهو ما ينطبق على العديد من النماذج المترافقة؛ عندما تكون متاحة، يكون جيبس فعالًا للغاية لأن كل اقتراح يتم قبوله. متروبوليس-هاستينغز أكثر قابلية للتطبيق على نطاق واسع ولكنه يتطلب ضبط الاقتراح لتحقيق معدلات قبول مقبولة.
متى يجب أن أستخدم Hamiltonian Monte Carlo بدلاً من متروبوليس-هاستينغز؟
يستخدم Hamiltonian Monte Carlo (HMC) ومتغيره التلقائي NUTS معلومات التدرج من اللوغاريتم اللاحق لاقتراح تحركات كبيرة ومستنيرة يتم قبولها باحتمالية عالية. هذا يجعلها أكثر كفاءة بكثير من متروبوليس-هاستينغز ذو المسار العشوائي في فضاءات المعلمات عالية الأبعاد، حيث يتم رفض الاقتراحات العشوائية دائمًا تقريبًا. كقاعدة عملية، إذا كان نموذجك يحتوي على أكثر من حوالي عشر معلمات أو إذا أظهرت سلاسل متروبوليس-هاستينغز اختلاطًا ضعيفًا وأحجام عينات فعالة منخفضة جدًا، فإن التحول إلى HMC أو NUTS مستحسن.
كم عدد التكرارات التي أحتاجها؟
لا توجد إجابة عالمية، ولكن نقطة انطلاق شائعة هي 1000 تكرار إحماء (احتراق) بالإضافة إلى 2000 تكرار أخذ عينات لكل سلسلة، عبر أربع سلاسل، مما يعطي 8000 رسم بعد الاحتراق. يعتمد مدى كفاية ذلك على الارتباط الذاتي للسلسلة وتعقيد التوزيع اللاحق. تكون السلسلة كافية عندما تكون R̂ < 1.05 لجميع المعلمات ويكون حجم العينة الفعال كبيرًا بما يكفي لوصف ملامح التوزيع اللاحق ذات الأهمية - عادةً ما لا يقل عن بضع مئات من العينات الفعالة للمتوسطات وبضعة آلاف للكميات الذيلية.
طرق ذات صلة
المصادر
Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.
افتح مرجع DOIتم النسخ.Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.
افتح مرجع DOIتم النسخ.