Skip to content
بازگشت به نتایج جست‌وجو

استنتاج آماری بیزی

معرفی‌شده توسط
Thomas Bayes
سال
1763
نوع
Method
خانواده
probabilistic-inference

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

استنتاج بیزی یک چارچوب آماری است که از قضیه بیز برای به‌روزرسانی باورها درباره پارامترها یا فرضیه‌ها با انباشت داده‌ها استفاده می‌کند. کار توماس بیز که به طور پس از مرگ در سال ۱۷۶۳ منتشر شد، تا قرن بیستم که پیشرفت‌های محاسباتی (نمونه‌گیری گیبس، مونت کارلو زنجیره مارکوف) روش‌های بیزی را عملی ساخت، مهجور ماند. برخلاف استنتاج فراوانی‌گرا (که پارامترها را مجهولات ثابت در نظر می‌گیرد)، تحلیل بیزی پارامترها را متغیرهای تصادفی با توزیع‌های احتمال در نظر می‌گیرد و امکان اظهارات مستقیم احتمال درباره پارامترها، گنجاندن دانش پیشین و به‌روزرسانی متوالی را فراهم می‌کند. این روش در پزشکی دقیق، کارآزمایی‌های تطبیقی، مدل‌های سلسله مراتبی پیچیده و هر زمینه‌ای که در آن اطلاعات پیشین استنتاج را غنی می‌سازد، ضروری است.

شهود پشت روش

استنتاج بیزی، باور پیشین درباره یک پارامتر (قبل از مشاهده داده‌ها) را با احتمال داده‌های مشاهده‌شده ترکیب می‌کند تا یک باور پسین (پس از مشاهده داده‌ها) تولید کند. دانش پیشین (از مطالعات قبلی، نظر متخصصان، استدلال نظری) به صورت یک توزیع احتمال کدگذاری می‌شود. با انباشت داده‌های جدید، پسین به سمت احتمال به‌روزرسانی می‌شود و به تدریج عدم قطعیت را اصلاح می‌کند. قضیه بیز: P(پارامتر|داده) = P(داده|پارامتر) × P(پارامتر) / P(داده). پسین مستقیماً به سوالاتی مانند 'احتمال اینکه اثر درمان از ۱۰٪ بیشتر باشد چقدر است؟' (بازه اعتبار) یا 'احتمال اینکه درمان A بهتر از درمان B باشد چقدر است؟' پاسخ می‌دهد. هر دو برای دست‌اندرکاران طبیعی هستند اما در استنتاج فراوانی‌گرا که مقادیر p و بازه‌های اطمینان را تولید می‌کند و نیاز به تفسیر دقیق دارد، غیرممکن هستند.

تاریخ

مقاله پس از مرگ توماس بیز در سال ۱۷۶۳ اساس را معرفی کرد: اگر پارامتر نامشخص باشد، چگونه شواهد باور را به‌روزرسانی می‌کند؟ لاپلاس به طور مستقل قضیه بیز را دوباره کشف کرد و آن را به مسائل احتمال معکوس گسترش داد. این چارچوب تا قرن بیستم مهجور ماند؛ روش‌های فراوانی‌گرا (نیمان، پیرسون) غالب بودند. الگوریتم‌های MCMC در دهه ۱۹۹۰ (نمونه‌گیری گیبس، متروپولیس-هستینگز، MC هامیلتونی) محاسبات بیزی را برای مدل‌های پیچیده عملی ساختند. رنسانس مدرن بیزی توسط بسته‌های Stan، JAGS و R هدایت می‌شود؛ پذیرش در پزشکی، یادگیری ماشین و سیاست‌گذاری در حال شتاب است.

چه زمانی استفاده شود

از روش‌های بیزی زمانی استفاده کنید که: (۱) اطلاعات پیشین وجود دارد و مرتبط است (مطالعات قبلی، قضاوت متخصصان، راهنمایی نظارتی)، (۲) تحلیل متوالی مورد نیاز است (کارآزمایی‌های تطبیقی، تحلیل‌های موقت)، (۳) مدل‌های پیچیده سلسله مراتبی یا متغیر پنهان مورد نیاز است (چندسطحی، مدل‌های ترکیبی)، (۴) اظهارات مستقیم احتمال درباره پارامترها مورد نظر است (پزشکی دقیق، ارزیابی ریسک)، (۵) حجم نمونه کوچک (پیشین‌های انقباض بیزی تخمین‌ها را پایدار می‌کنند). روش‌های بیزی به ویژه در تحقیقات بیماری‌های نادر، پزشکی دقیق (شخصی‌سازی درمان)، توسعه دارو (تصمیم‌گیری متوالی) و تصمیمات سیاستی که منابع شواهد متعدد را ادغام می‌کنند، ارزشمند هستند.

محدودیت‌ها و ملاحظات

  • مشخص کردن پیشین: انتخاب پیشین‌ها ذهنی است؛ افراد منطقی اختلاف نظر دارند. تحلیل حساسیت برای نشان دادن استحکام نتایج به انتخاب پیشین لازم است؛ پیشین‌های نادرست مشخص شده می‌توانند گمراه‌کننده باشند.
  • هزینه محاسباتی: نمونه‌گیری MCMC برای مجموعه داده‌های بزرگ یا مدل‌های پیچیده از نظر محاسباتی فشرده است؛ نیاز به تخصص در تشخیص همگرایی دارد.
  • فقدان اجماع: دست‌اندرکاران بیزی و فراوانی‌گرا در مورد تفسیر و روش‌شناسی اختلاف نظر دارند و موانعی برای انتشار و تأمین مالی در مجلات سنتی ایجاد می‌کنند.
  • پیشین‌های پیش‌فرض اغلب دلخواه هستند: انتخاب پیشین‌های 'کم‌اثر' عینی به نظر می‌رسد اما شامل مفروضات ضمنی است؛ نتایج ممکن است به انتخاب پیش‌فرض حساس باشند.
  • دشواری در مقایسه مدل: فاکتورهای بیز نیاز به محاسبه احتمال حاشیه‌ای دارند؛ از نظر محاسباتی گران و در مدل‌های پیچیده به مشخص کردن پیشین حساس هستند.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • گنجاندن پیشین: دانش موجود از آزمایش‌های قبلی، فراتحلیل‌ها یا نظر متخصصان به طور رسمی ادغام می‌شود و کارایی را بهبود می‌بخشد و اندازه نمونه مورد نیاز را کاهش می‌دهد.
  • اظهارات مستقیم احتمال: احتمال پسین فرضیه (P(اثر موجود است|داده‌ها)) مستقیماً به سوالات علمی پاسخ می‌دهد؛ نیازی به منطق غیرشهودی مقدار p ندارد.
  • تحلیل متوالی: داده‌ها به صورت انباشته تحلیل می‌شوند؛ کارآزمایی‌ها می‌توانند زودتر برای اثربخشی یا بی‌اثر بودن متوقف شوند بدون اینکه خطای نوع اول را افزایش دهند (برخلاف آزمون‌های مکرر فراوانی‌گرا).
  • انعطاف‌پذیر برای مدل‌های پیچیده: ساختارهای سلسله مراتبی، داده‌های گمشده و متغیرهای پنهان به طور طبیعی تطبیق داده می‌شوند؛ رگرسیون چندسطحی در چارچوب بیزی ساده است.
  • پیشین‌های انقباض تخمین‌ها را پایدار می‌کنند: به ویژه در نمونه‌های کوچک یا داده‌های با ابعاد بالا (متغیرهای زیاد، مشاهدات کم) قدرتمند هستند؛ ضرایب را به سمت صفر منظم می‌کنند.

کاربردها

  • کارآزمایی‌های بالینی و پزشکی دقیق: کارآزمایی‌های تطبیقی بیزی که تخصیص درمان را بر اساس داده‌های اثربخشی/ایمنی انباشته شده تنظیم می‌کنند؛ کاهش اندازه نمونه و پاسخ‌های سریع‌تر.
  • ژنتیک و داده‌های با ابعاد بالا: انتخاب متغیر بیزی با استفاده از پیشین‌های پراکنده، سیگنال‌های واقعی را در میان هزاران نشانگر ژنتیکی شناسایی می‌کند؛ تنظیم از بیش‌برازش جلوگیری می‌کند.
  • توسعه دارو و تأیید FDA: گنجاندن داده‌های تاریخی از آزمایش‌های قبلی از طریق پیشین‌ها، کاهش الزامات اندازه نمونه و تسریع تأیید.
  • نظارت اپیدمیولوژیک: تحلیل متوالی شیوع بیماری؛ به‌روزرسانی احتمال شیوع با گزارش موارد جدید؛ تشخیص زودهنگام همه‌گیری‌ها.
  • مدل‌سازی محیطی و زیست‌محیطی: مدل‌های سلسله مراتبی که خطای اندازه‌گیری، داده‌های گمشده و ساختار فضایی/زمانی را در سیستم‌های پیچیده در نظر می‌گیرند.

چگونه کار می‌کند

چگونه کار می‌کند

1

تحلیل بیزی را با مراحل زیر انجام دهید: (۱) مشخص کردن احتمال (مدل احتمال برای داده‌ها با توجه به پارامترها، به عنوان مثال، مدل نرمال برای نتایج پیوسته، دوجمله‌ای برای دودویی)، (۲) مشخص کردن پیشین‌ها (توزیع‌های احتمال بر روی پارامترها، نشان‌دهنده دانش پیشین یا تردید)، (۳) جمع‌آوری داده‌ها، (۴) محاسبه پسین (توزیع احتمال پارامترها با توجه به داده‌ها، از طریق قضیه بیز). پیشین‌ها می‌توانند: کم‌اثر (تأثیر اندک پیشین، اجازه دادن به داده‌ها برای غالب شدن)، اثرگذار (گنجاندن دانش پیشین واقعی از مطالعات قبلی)، تردیدآمیز (طرفداری از فرضیه صفر، نیاز به شواهد قوی برای تغییر باورها)، یا تجربی (استفاده از داده‌های آزمایشی) باشند. توجیه پیشین‌ها حیاتی است؛ تحلیل‌های حساسیت را برای آزمایش پیشین‌های جایگزین گزارش دهید تا استحکام را ارزیابی کنید.

2

پسین را از طریق قضیه بیز محاسبه کنید: P(θ|y) ∝ P(y|θ) × P(θ)، که در آن θ پارامتر(ها) و y داده‌ها است. برای مدل‌های ساده، پسین از نظر تحلیلی قابل ردیابی است (به عنوان مثال، احتمال نرمال با پیشین نرمال مزدوج). برای مدل‌های پیچیده، از مونت کارلو زنجیره مارکوف (MCMC) استفاده کنید: الگوریتم‌ها (نمونه‌گیری گیبس، متروپولیس-هستینگز، MC هامیلتونی) نمونه‌های پسین را تولید می‌کنند که از آن‌ها تخمین‌ها محاسبه می‌شوند. گزارش دهید: (۱) میانگین پسین و بازه‌های اعتبار (بازه اعتبار ۹۵٪: محدوده‌ای که ۹۵٪ احتمال پسین را در بر می‌گیرد؛ مستقیماً به عنوان عدم قطعیت پارامتر قابل تفسیر است)، (۲) احتمال پسین فرضیه‌ها (P(اثر > ۰ | داده‌ها))، (۳) فاکتور بیز در مقایسه مدل‌های رقیب: BF₁₀ = P(داده‌ها|مدل۱) / P(داده‌ها|مدل۲)؛ BF > ۳ شواهد متوسط برای مدل ۱، BF > ۱۰ شواهد قوی. (۴) توزیع پیش‌بینی پسین: پیش‌بینی برای مشاهدات جدید. (۵) تشخیص مدل: بررسی همگرایی MCMC (آماره Gelman-Rubin Rhat < ۱.۰۱)، اندازه نمونه مؤثر، نمودارهای ردیابی.

3

میانگین پسین تخمین نقطه‌ای پارامتر است؛ بازه اعتبار محدوده‌ای از مقادیر محتمل است. برخلاف بازه‌های اطمینان فراوانی‌گرا (که می‌گویند: اگر مطالعه را بی‌نهایت تکرار کنیم، ۹۵٪ بازه‌های اطمینان حاوی مقدار واقعی هستند)، بازه‌های اعتبار بیزی مستقیماً بیان می‌کنند: ۹۵٪ احتمال دارد که مقدار واقعی در این بازه قرار گیرد. این تفسیر شهودی یک مزیت کلیدی است. احتمال پسین فرضیه (مانند P(اثر > ۰|داده‌ها)) مستقیماً به این سوال پاسخ می‌دهد که آیا درمان مؤثر است؛ مقادیر p نیاز به منطق غیرشهودی دارند. فاکتور بیز شواهد یک مدل را بر دیگری کمی‌سازی می‌کند بدون اینکه آستانه معناداری مشخصی تعیین کند؛ مقیاس پیوسته شواهد را ارائه می‌دهد. شکل توزیع پسین (متقارن، کج) را برای درک عدم قطعیت پارامتر بررسی کنید. تحلیل حساسیت: مدل را با پیشین‌های مختلف دوباره برازش دهید؛ اگر نتایج پسین نسبت به انتخاب پیشین قوی باشند، استنتاج قابل اعتماد است.

دام‌های رایج

  • مشخص کردن دلخواه پیشین: عدم توجیه پیشین‌ها یا عدم انجام تحلیل حساسیت. پیشین‌ها باید صریح و توجیه‌شده باشند؛ همیشه استحکام را در برابر جایگزین‌ها آزمایش کنید.
  • نادیده گرفتن تشخیص‌های MCMC: عدم بررسی همگرایی (Rhat، نمودارهای ردیابی، اندازه نمونه مؤثر) می‌تواند منجر به استنتاج نامعتبر شود. همیشه بررسی کنید که زنجیره‌ها همگرا شده‌اند و اندازه نمونه مؤثر کافی است.
  • انتخاب مدل از طریق مقدار p پیش‌بینی پسین: شبیه مقادیر p فراوانی‌گرا به نظر می‌رسد اما تفسیر متفاوتی دارد؛ سوءاستفاده منجر به تورم خطای نوع اول می‌شود.
  • معادل P-hacking در بیز: انتخاب پس از واقعیت پیشین‌ها برای دستیابی به نتایج دلخواه (ناخودآگاه یا عمدی) اعتبار را تضعیف می‌کند. پیشین‌ها را از قبل مشخص کنید.
  • انقباض بیش از حد مطمئن: پیشین‌های قوی تخمین‌ها را به شدت به سمت میانگین پیشین منقبض می‌کنند؛ ممکن است اثرات واقعی را پنهان کنند اگر پیشین نادرست مشخص شده باشد. از پیشین‌های تردیدآمیز با احتیاط استفاده کنید؛ از تحلیل حساسیت اطمینان حاصل کنید.
  • تفسیر نادرست فاکتورهای بیز: BF = ۳ به این معنی نیست که ۷۵٪ احتمال دارد یک مدل صحیح باشد (این نیاز به مشخص کردن احتمالات پیشین مدل دارد). BF شواهد را کمی‌سازی می‌کند، نه احتمال مدل پسین.

پرسش‌های متداول

بازه اعتبار چیست و چه تفاوتی با بازه اطمینان دارد؟

بازه اعتبار بیزی (معمولاً ۹۵٪) محدوده‌ای است که ۹۵٪ احتمال پسین را در بر می‌گیرد؛ مستقیماً قابل تفسیر است به این صورت: '۹۵٪ احتمال دارد پارامتر واقعی در این بازه قرار گیرد.' بازه اطمینان فراوانی‌گرا (CI 95٪) محدوده‌ای است که به گونه‌ای ساخته شده است که اگر مطالعه بی‌نهایت تکرار شود، ۹۵٪ بازه‌های اطمینان ساخته شده حاوی پارامتر واقعی خواهند بود. اینها اساساً متفاوت هستند: بازه اعتبار درباره احتمال پارامتر است؛ بازه اطمینان درباره تکرارپذیری رویه است. در عمل، برای مسائل استاندارد، اغلب از نظر عددی همپوشانی دارند و باعث سردرگمی می‌شوند. همیشه مشخص کنید کدام را گزارش می‌دهید.

پیشین چیست و چگونه آن را انتخاب کنم؟

پیشین توزیع احتمال بر روی مقادیر پارامتر قبل از مشاهده داده‌ها است که دانش یا مفروضات پیشین را منعکس می‌کند. پیشین‌های کم‌اثر اطلاعات حداقلی (توزیع‌های مسطح) را ارائه می‌دهند؛ پیشین‌های اثرگذار دانش واقعی پیشین را (مانند اثر درمان < ۲۰٪ از آزمایش‌های قبلی) در بر می‌گیرند. پیشین‌های تردیدآمیز به شدت از صفر (عدم اثر) حمایت می‌کنند و برای تغییر نیاز به شواهد قوی داده دارند. پیشین‌ها را با انتخاب کنید: (۱) بررسی ادبیات قبلی، (۲) مشورت با متخصصان حوزه، (۳) مشخص کردن محدوده‌های مقادیر محتمل، (۴) آزمایش حساسیت به پیشین‌های جایگزین. همیشه پیشین‌ها را به صراحت گزارش دهید و آنها را توجیه کنید. اگر نتایج به طور چشمگیری با پیشین‌های معقول مختلف تغییر کند، استنتاج ضعیف است و به داده‌های بیشتری نیاز است.

فاکتور بیز چیست و چگونه آن را تفسیر کنم؟

فاکتور بیز (BF) شواهد یک مدل را بر دیگری کمی‌سازی می‌کند: BF₁₀ = P(داده‌ها|مدل ۱) / P(داده‌ها|مدل ۲). BF > ۱ به نفع مدل ۱ است. تفسیر: BF = ۳ = 'شواهد متوسط برای مدل ۱'؛ BF = ۱۰ = 'شواهد قوی'؛ BF > ۱۰۰ = 'شواهد قطعی.' برخلاف مقادیر p، BF نیازی به آستانه معناداری از پیش تعیین شده ندارد. BF می‌تواند به نفع صفر (BF < ۱) باشد و عدم وجود شواهد را تشخیص دهد. محدودیت: محاسبه BF نیاز به مشخص کردن احتمالات پیشین مدل دارد (کدام مدل از نظر پیشین محتمل است)؛ تخصیص‌های پیشین متفاوت، مقادیر BF متفاوتی تولید می‌کنند. از BF برای مقایسه مدل زمانی استفاده کنید که هر دو مدل انگیزه عملی واضحی دارند.

آیا تحلیل بیزی از مشکل مقایسه‌های چندگانه اجتناب می‌کند؟

تا حدی. استنتاج بیزی از مقادیر p یا آستانه‌های معناداری استفاده نمی‌کند، بنابراین تصحیح سنتی مقایسه‌های چندگانه (بونفرونی) غیرضروری است. با این حال، هنگام برازش مدل‌های زیاد و انتخاب بر اساس معیارهای پسین (DIC، WAIC)، شما در معرض خطر بیش‌برازش و سوگیری انتخاب مدل مشابه آزمون‌های چندگانه فراوانی‌گرا هستید. بهترین روش: مدل‌ها را بر اساس نظریه، نه اکتشاف داده‌ها، از قبل مشخص کنید. اگر اکتشافی است، از اعتبارسنجی متقابل برای ارزیابی تعمیم‌پذیری استفاده کنید. میانگین‌گیری مدل بیزی (ترکیب پیش‌بینی‌ها از چندین مدل وزن‌دهی شده با احتمالات پسین) راه‌حلی ظریف برای عدم قطعیت مدل است.

روش‌های مرتبط

منابع

  1. Bayes, T. (1763). An essay towards solving a problem in the doctrine of chances. Philosophical Transactions of the Royal Society, 53, 370–418.

    باز کردن مرجع انتشار
    کپی شد.
  2. Gelman, A., Carlin, J. B., Stern, H. S., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press.

    باز کردن مرجع DOI
    کپی شد.
  3. Kruschke, J. K. (2015). Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan (2nd ed.). Academic Press.

    باز کردن مرجع DOI
    کپی شد.