Inferenza Statistica Bayesiana
- Introdotto da
- Thomas Bayes
- Anno
- 1763
- Tipo
- Method
- Famiglia
- probabilistic-inference
Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese
A cosa serve?
L'inferenza bayesiana è un quadro statistico che utilizza il teorema di Bayes per aggiornare le credenze su parametri o ipotesi man mano che i dati si accumulano.
Pubblicato postumo nel 1763, il lavoro di Thomas Bayes rimase inattivo fino al XX secolo, quando i progressi computazionali (campionamento di Gibbs, Markov Chain Monte Carlo) resero pratici i metodi bayesiani. A differenza dell'inferenza frequentista (che tratta i parametri come incognite fisse), l'analisi bayesiana tratta i parametri come variabili casuali con distribuzioni di probabilità, consentendo dichiarazioni di probabilità dirette sui parametri, l'incorporazione di conoscenze pregresse e l'aggiornamento sequenziale. Essenziale nella medicina di precisione, negli studi adattivi, nei modelli gerarchici complessi e in qualsiasi contesto in cui le informazioni a priori arricchiscono l'inferenza.
L’intuizione alla base del metodo
L'inferenza bayesiana combina la credenza a priori su un parametro (prima di osservare i dati) con la verosimiglianza dei dati osservati per produrre una credenza a posteriori (dopo aver osservato i dati). La conoscenza a priori (da studi precedenti, opinioni di esperti, ragionamento teorico) è codificata come una distribuzione di probabilità. Man mano che nuovi dati si accumulano, la distribuzione a posteriori viene aggiornata verso la verosimiglianza, affinando gradualmente l'incertezza. Teorema di Bayes: P(parametro|dati) = P(dati|parametro) × P(parametro) / P(dati). La distribuzione a posteriori risponde direttamente a domande come 'Qual è la probabilità che l'effetto del trattamento superi il 10%?' (intervallo di credibilità) o 'Qual è la probabilità che il trattamento A sia migliore del trattamento B?' Entrambe naturali per i professionisti ma impossibili nell'inferenza frequentista, che produce p-value e intervalli di confidenza che richiedono un'attenta interpretazione.
Storia
Il documento postumo di Thomas Bayes del 1763 introdusse le basi: se un parametro è incerto, come le prove aggiornano la credenza? Laplace riscoprì indipendentemente il teorema di Bayes e lo estese ai problemi di probabilità inversa. Il quadro rimase inattivo fino al XX secolo; i metodi frequentisti (Neyman, Pearson) dominarono. Gli algoritmi MCMC negli anni '90 (campionamento di Gibbs, Metropolis-Hastings, Hamiltonian MC) resero il calcolo bayesiano pratico per modelli complessi. La moderna rinascita bayesiana è guidata da Stan, JAGS e pacchetti R; l'adozione sta accelerando in medicina, machine learning e politica.
Quando usarlo
Utilizzare i metodi bayesiani quando: (1) esistono informazioni a priori e sono rilevanti (studi precedenti, giudizio di esperti, linee guida normative), (2) è necessaria un'analisi sequenziale (studi adattivi, analisi intermedie), (3) sono richiesti modelli gerarchici complessi o con variabili latenti (modelli multilivello, modelli di miscela), (4) si desiderano dichiarazioni di probabilità dirette sui parametri (medicina di precisione, valutazione del rischio), (5) le dimensioni del campione sono piccole (le distribuzioni a priori bayesiane di shrinkage stabilizzano le stime). I metodi bayesiani sono particolarmente preziosi nella ricerca sulle malattie rare, nella medicina di precisione (individualizzazione del trattamento), nello sviluppo di farmaci (processo decisionale sequenziale) e nelle decisioni politiche che integrano molteplici fonti di evidenza.
Limiti e considerazioni
- Specificazione delle distribuzioni a priori: la scelta delle distribuzioni a priori è soggettiva; persone ragionevoli possono non essere d'accordo. È necessaria un'analisi di sensibilità per dimostrare che le conclusioni sono robuste alla scelta delle distribuzioni a priori; distribuzioni a priori mal specificate possono indurre in errore.
- Costo computazionale: il campionamento MCMC è computazionalmente intensivo per grandi set di dati o modelli complessi; richiede esperienza nella diagnosi della convergenza.
- Mancanza di consenso: i professionisti bayesiani e frequentisti non sono d'accordo sull'interpretazione e la metodologia, creando barriere alla pubblicazione e al finanziamento nelle riviste tradizionali.
- Le distribuzioni a priori predefinite sono spesso arbitrarie: la scelta di distribuzioni a priori 'debolmente informative' sembra obiettiva ma implica assunzioni implicite; i risultati possono essere sensibili alla scelta predefinita.
- Difficoltà con il confronto di modelli: i fattori di Bayes richiedono il calcolo della verosimiglianza marginale; computazionalmente costoso e sensibile alla specificazione delle distribuzioni a priori in modelli complessi.
Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.
Punti di forza
- Incorporazione delle distribuzioni a priori: la conoscenza esistente da studi precedenti, meta-analisi o opinioni di esperti è formalmente integrata, migliorando l'efficienza e riducendo la dimensione del campione richiesta.
- Dichiarazioni di probabilità dirette: la probabilità a posteriori di un'ipotesi (P(l'effetto esiste|dati)) risponde direttamente alle domande scientifiche; non richiede la logica controintuitiva del p-value.
- Analisi sequenziale: i dati vengono analizzati man mano che si accumulano; gli studi possono essere interrotti precocemente per efficacia o futilità senza gonfiare l'errore di Tipo I (a differenza dei test ripetuti frequentisti).
- Flessibile per modelli complessi: strutture gerarchiche, dati mancanti e variabili latenti sono naturalmente accomodati; la regressione multilivello nel quadro bayesiano è semplice.
- Le distribuzioni a priori di shrinkage stabilizzano le stime: particolarmente potenti in campioni piccoli o dati ad alta dimensionalità (molte variabili, poche osservazioni); regolarizzano i coefficienti verso lo zero.
Applicazioni
- Studi clinici e medicina di precisione: studi adattivi bayesiani che aggiustano le assegnazioni dei trattamenti in base ai dati di efficacia/sicurezza che si accumulano; dimensioni del campione ridotte e risposte più rapide.
- Genomica e dati ad alta dimensionalità: la selezione bayesiana delle variabili utilizzando distribuzioni a priori sparse identifica i veri segnali tra migliaia di marcatori genetici; la regolarizzazione previene l'overfitting.
- Sviluppo di farmaci e approvazione FDA: incorporazione di dati storici da studi precedenti tramite distribuzioni a priori, riducendo i requisiti di dimensione del campione e accelerando l'approvazione.
- Sorveglianza epidemiologica: analisi sequenziale delle epidemie; aggiornamento della probabilità di epidemia man mano che vengono segnalati nuovi casi; rilevamento precoce delle epidemie.
- Modellazione ambientale ed ecologica: modelli gerarchici che tengono conto dell'errore di misurazione, dei dati mancanti e della struttura spaziale/temporale in sistemi complessi.
Come funziona
Come funziona
L'analisi bayesiana si esegue: (1) specificando la verosimiglianza (modello di probabilità per i dati dati i parametri, ad esempio, modello normale per esiti continui, binomiale per binari), (2) specificando le distribuzioni a priori (distribuzioni di probabilità sui parametri, che rappresentano la conoscenza o lo scetticismo a priori), (3) raccogliendo i dati, (4) calcolando la distribuzione a posteriori (distribuzione di probabilità dei parametri dati i dati, tramite il teorema di Bayes). Le distribuzioni a priori possono essere: debolmente informative (minima influenza a priori, lasciando che i dati dominino), informative (incorporando una genuina conoscenza a priori da studi precedenti), scettiche (che favoriscono l'ipotesi nulla, richiedendo forti prove per spostare le credenze), o empiriche (utilizzando dati pilota). La giustificazione delle distribuzioni a priori è fondamentale; riportare analisi di sensibilità che testano distribuzioni a priori alternative per valutarne la robustezza.
Si calcola la distribuzione a posteriori tramite il teorema di Bayes: P(θ|y) ∝ P(y|θ) × P(θ), dove θ sono i parametri e y sono i dati. Per modelli semplici, la distribuzione a posteriori è analiticamente trattabile (ad esempio, verosimiglianza normale con distribuzione a priori normale coniugata). Per modelli complessi, si usa il metodo Markov Chain Monte Carlo (MCMC): algoritmi (campionamento di Gibbs, Metropolis-Hastings, Hamiltonian MC) generano campioni dalla distribuzione a posteriori, da cui vengono calcolate le stime. Si riportano: (1) Media a posteriori e intervalli di credibilità (IC al 95%: intervallo contenente il 95% della probabilità a posteriori; direttamente interpretabile come incertezza del parametro), (2) Probabilità a posteriori delle ipotesi (P(effetto > 0 | dati)), (3) Fattore di Bayes che confronta modelli concorrenti: BF₁₀ = P(dati|modello1) / P(dati|modello2); BF > 3 evidenza moderata per il modello 1, BF > 10 evidenza forte. (4) Distribuzione predittiva a posteriori: previsioni per nuove osservazioni. (5) Diagnostica del modello: controlli di convergenza MCMC (statistica di Gelman-Rubin Rhat < 1.01), dimensione effettiva del campione, trace plots.
La media a posteriori è la stima puntuale del parametro; l'intervallo di credibilità è l'intervallo di valori plausibili. A differenza degli intervalli di confidenza frequentisti (che affermano: se ripetessimo lo studio all'infinito, il 95% degli IC conterrebbe il valore vero), gli intervalli di credibilità bayesiani affermano direttamente: c'è una probabilità del 95% che il valore vero si trovi in questo intervallo. Questa interpretazione intuitiva è un vantaggio chiave. La probabilità a posteriori di un'ipotesi (ad esempio, P(effetto > 0|dati)) risponde direttamente se il trattamento funziona; i p-value richiedono una logica controintuitiva. Il fattore di Bayes quantifica l'evidenza per un modello rispetto a un altro senza specificare una soglia di significatività; fornisce una scala di evidenza continua. Esaminare la forma della distribuzione a posteriori (simmetrica, asimmetrica) per comprendere l'incertezza del parametro. Analisi di sensibilità: ricalibrare il modello con diverse distribuzioni a priori; se le conclusioni a posteriori sono robuste alla scelta della distribuzione a priori, l'inferenza è affidabile.
Errori comuni
- Specificazione arbitraria delle distribuzioni a priori: non giustificare le distribuzioni a priori o non condurre analisi di sensibilità. Le distribuzioni a priori dovrebbero essere esplicite e giustificate; testare sempre la robustezza rispetto ad alternative.
- Ignorare la diagnostica MCMC: non controllare la convergenza (Rhat, trace plots, dimensione effettiva del campione) può portare a inferenze non valide. Verificare sempre che le catene siano converge e che la dimensione effettiva del campione sia adeguata.
- Selezione del modello tramite p-value predittivo a posteriori: sembra simile ai p-value frequentisti ma ha un'interpretazione diversa; l'uso improprio porta a un'inflazione dell'errore di Tipo I.
- Equivalente del P-hacking in Bayes: la scelta delle distribuzioni a priori a posteriori per raggiungere le conclusioni desiderate (inconscia o intenzionale) mina la validità. Specificare le distribuzioni a priori a priori.
- Shrinkage eccessivamente fiducioso: distribuzioni a priori forti riducono pesantemente le stime verso la media a priori; possono nascondere effetti veri se la distribuzione a priori è mal specificata. Usare distribuzioni a priori scettiche con cautela; assicurarsi di eseguire un'analisi di sensibilità.
- Interpretazione errata dei fattori di Bayes: BF = 3 non significa che c'è una probabilità del 75% che un modello sia corretto (ciò richiede la specificazione delle probabilità a priori del modello). BF quantifica l'evidenza, non la probabilità a posteriori del modello.
Domande frequenti
Che cos'è un intervallo di credibilità e in che cosa differisce da un intervallo di confidenza?
Un intervallo di credibilità bayesiano (tipicamente al 95%) è l'intervallo che contiene il 95% della probabilità a posteriori; è direttamente interpretabile come: 'c'è una probabilità del 95% che il vero parametro si trovi in questo intervallo'. Un intervallo di confidenza frequentista (IC al 95%) è un intervallo costruito in modo tale che, se lo studio fosse ripetuto all'infinito, il 95% degli IC costruiti conterrebbe il vero parametro. Questi sono fondamentalmente diversi: l'intervallo di credibilità riguarda la probabilità del parametro; l'intervallo di confidenza riguarda la ripetibilità della procedura. In pratica, per problemi standard, spesso si sovrappongono numericamente, causando confusione. Specificare sempre quale si riporta.
Che cos'è una distribuzione a priori e come la scelgo?
Una distribuzione a priori è la distribuzione di probabilità sui valori dei parametri prima di osservare i dati, che riflette la conoscenza o le assunzioni a priori. Le distribuzioni a priori debolmente informative contribuiscono con informazioni minime (distribuzioni piatte); le distribuzioni a priori informative incorporano una genuina conoscenza a priori (ad esempio, effetto del trattamento < 20% da studi precedenti). Le distribuzioni a priori scettiche favoriscono fortemente l'ipotesi nulla (nessun effetto), richiedendo forti prove dai dati per spostarsi. Scegliere le distribuzioni a priori: (1) rivedendo la letteratura precedente, (2) consultando esperti del settore, (3) specificando intervalli di valori plausibili, (4) testando la sensibilità a distribuzioni a priori alternative. Riportare sempre esplicitamente le distribuzioni a priori e giustificarle. Se le conclusioni cambiano drasticamente con diverse distribuzioni a priori ragionevoli, l'inferenza è debole e sono necessari più dati.
Che cos'è un fattore di Bayes e come lo interpreto?
Un fattore di Bayes (BF) quantifica l'evidenza per un modello rispetto a un altro: BF₁₀ = P(dati|modello 1) / P(dati|modello 2). BF > 1 favorisce il modello 1. Interpretazione: BF = 3 = 'evidenza moderata per il modello 1'; BF = 10 = 'evidenza forte'; BF > 100 = 'evidenza decisiva'. A differenza dei p-value, il BF non richiede una soglia di significatività predefinita. Il BF può favorire l'ipotesi nulla (BF < 1), rilevando l'assenza di evidenza. Limitazione: il calcolo del BF richiede la specificazione delle probabilità a priori del modello (quale modello è a priori plausibile); diverse assegnazioni a priori producono diversi valori di BF. Utilizzare il BF per il confronto di modelli quando entrambi i modelli hanno una chiara motivazione pratica.
L'analisi bayesiana evita il problema dei confronti multipli?
Parzialmente. L'inferenza bayesiana non utilizza p-value o soglie di significatività, quindi la tradizionale correzione per confronti multipli (Bonferroni) è inutile. Tuttavia, quando si adattano molti modelli e si seleziona in base a criteri a posteriori (DIC, WAIC), si rischia l'overfitting e il bias di selezione del modello analogo ai test multipli frequentisti. La migliore pratica: specificare i modelli a priori basandosi sulla teoria, non sull'esplorazione dei dati. Se esplorativo, applicare la cross-validazione per valutare la generalizzazione. La mediazione bayesiana del modello (combinazione di previsioni da più modelli ponderate dalle probabilità a posteriori) è una soluzione elegante all'incertezza del modello.
Metodi correlati
Fonti
Bayes, T. (1763). An essay towards solving a problem in the doctrine of chances. Philosophical Transactions of the Royal Society, 53, 370–418.
Apri il riferimento della pubblicazioneCopiato.Gelman, A., Carlin, J. B., Stern, H. S., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press.
Apri il riferimento DOICopiato.Kruschke, J. K. (2015). Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan (2nd ed.). Academic Press.
Apri il riferimento DOICopiato.