Skip to content
Torna ai risultati

Approssimate Bayesian Computation — Inferenza "Likelihood-Free"

Anno
2002
Tipo
Simulation-based Bayesian inference

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

L'Approximate Bayesian Computation (ABC) è una famiglia di metodi di inferenza basati sulla simulazione che stimano le distribuzioni a posteriori senza richiedere una funzione di verosimiglianza analiticamente trattabile.

Introdotto da Beaumont, Zhang e Balding (2002) nel contesto della genetica delle popolazioni, l'ABC ha sostituito la verosimiglianza intrattabile con ripetute simulazioni del modello e un confronto delle statistiche riassuntive tra dati simulati e osservati.

L’intuizione alla base del metodo

L'inferenza bayesiana classica si chiede: dati i dati osservati, quanto sono probabili i parametri del modello? Rispondere a questa domanda richiede normalmente il calcolo della verosimiglianza — la probabilità dei dati sotto ogni impostazione dei parametri. Per molti modelli realistici in biologia, ecologia ed economia, tale calcolo è analiticamente impossibile o computazionalmente proibitivo. L'ABC lo aggira completamente: invece di calcolare la verosimiglianza, simula dati dal modello, li comprime in poche statistiche riassuntive e accetta una proposta di parametro solo quando tali riassunti simulati sono sufficientemente vicini ai riassunti osservati. Le proposte accettate si accumulano per formare una posteriore approssimata. L'approssimazione è esatta al limite quando la soglia di tolleranza si avvicina a zero, e migliora costantemente man mano che tale soglia si restringe — a costo di accettare meno proposte.

Storia

Le basi dell'inferenza "likelihood-free" risalgono alle idee di campionamento per rifiuto usate informalmente in genetica delle popolazioni, ma il metodo è stato formalizzato e nominato da Beaumont, Zhang e Balding nel loro fondamentale articolo del 2002 su Genetics sull'inferenza della storia demografica. Marjoram et al. (2003) hanno introdotto la variante ABC-MCMC per migliorare l'efficienza, e Sisson, Fan e Beaumont (2007) hanno sviluppato il framework Sequential Monte Carlo (SMC-ABC) che riduce adattivamente la tolleranza tra le popolazioni. L'Handbook of Approximate Bayesian Computation del 2018, curato da Sisson, Fan e Beaumont, consolida due decenni di sviluppo metodologico. Più recentemente, sono stati proposti stimatori neurali di densità e inferenza ammortizzata come modi per apprendere la posteriore direttamente dalle simulazioni, estendendo l'ABC nell'era del machine learning.

Quando usarlo

L'ABC è la scelta giusta quando il modello può essere simulato in avanti ma la sua funzione di verosimiglianza non può essere valutata analiticamente — una situazione che si presenta frequentemente in genetica delle popolazioni, epidemiologia, ecologia e modellazione economica basata su agenti. Gestisce variabili di risultato continue, binarie e di conteggio e non impone alcun requisito di normalità sui dati. Non esiste una dimensione minima del campione rigida, ma le statistiche riassuntive devono veicolare informazioni adeguate sui parametri. Quando il budget di simulazione è ampio e la tolleranza può essere impostata bassa, l'ABC approssima fedelmente la vera posteriore; quando le simulazioni sono costose, sono preferibili le varianti SMC-ABC o di stima neurale a posteriori. Se la verosimiglianza è trattabile, l'MCMC standard è più efficiente.

Limiti e considerazioni

  • L'ABC per rifiuto ingenuo richiede un numero enorme di simulazioni per raggiungere una soglia di tolleranza bassa e un tasso di accettazione significativo, rendendolo computazionalmente costoso per spazi di parametri ad alta dimensionalità.
  • La qualità dell'approssimazione a posteriori dipende criticamente dalla scelta delle statistiche riassuntive; statistiche mal scelte possono produrre una posteriore distorta o con elevata varianza.
  • Non esiste alcuna garanzia analitica che le statistiche riassuntive scelte siano sufficienti, quindi si perde generalmente informazione rispetto alla verosimiglianza completa.
  • Meno di circa 1 000 proposte accettate totali producono tipicamente un'approssimazione a posteriori inaffidabile; quando il budget di simulazione è limitato, si dovrebbe considerare l'MCMC standard.

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Opera senza una verosimiglianza in forma chiusa, aprendo l'inferenza bayesiana a modelli generativi complessi che sono facili da simulare ma difficili da valutare analiticamente.
  • Sufficientemente flessibile da gestire risultati continui, binari e di conteggio sotto qualsiasi modello strutturale che l'analista possa codificare come simulatore.
  • Varianti come SMC-ABC e ABC-MCMC riducono sostanzialmente il numero di simulazioni necessarie rispetto al campionamento per rifiuto ingenuo.
  • L'approssimazione a posteriori converge alla vera posteriore quando la soglia di tolleranza si avvicina a zero.

Applicazioni

  • Inferenza della dimensione della popolazione, migrazione e storia di divergenza in genetica delle popolazioni da dati di frequenza allelica.
  • Stima dei tassi di trasmissione e dei parametri di contatto in modelli epidemici in cui la verosimiglianza a livello individuale è intrattabile.
  • Calibrazione di modelli economici basati su agenti rispetto a statistiche macro-livello osservate senza una verosimiglianza di equilibrio in forma chiusa.
  • Adattamento di modelli ecologici stocastici — dinamiche predatore-preda, diffusione delle specie — a riassunti di osservazioni sul campo.
  • Stima dei parametri in modelli di biologia dei sistemi in cui le ODE meccanicistiche sono sostituite da simulazioni stocastiche.

Come funziona

Come funziona

1

L'analista specifica una distribuzione a priori sui parametri del modello, codificando ciò che è noto o assunto prima di osservare i dati. Questa a priori è la fonte da cui verranno estratti i valori dei parametri candidati durante l'algoritmo, quindi dovrebbe coprire l'intervallo plausibile dei parametri.

2

Una proposta di parametro viene estratta dalla distribuzione a priori (o, in varianti adattive, da una distribuzione di importanza). Il modello stocastico completo viene quindi eseguito in avanti utilizzando tale proposta per generare un set di dati sintetici. Questo passaggio di simulazione è il nucleo computazionale dell'ABC e può essere eseguito migliaia o milioni di volte.

3

Sia il set di dati sintetici che il set di dati osservati vengono compressi in un vettore di statistiche riassuntive — quantità scelte per veicolare quante più informazioni possibili sui parametri. Idealmente le statistiche riassuntive sono statistiche sufficienti, ma in pratica vengono scelte in base alla conoscenza del dominio e a controlli diagnostici.

4

La distanza tra le statistiche riassuntive simulate e le statistiche riassuntive osservate viene calcolata utilizzando una metrica scelta. Se tale distanza rientra in una soglia di tolleranza predefinita epsilon, la proposta di parametro viene accettata; altrimenti viene rifiutata. Valori di epsilon più piccoli producono un'approssimazione a posteriori più accurata ma un tasso di accettazione inferiore.

5

La raccolta delle proposte di parametri accettate forma un campione dalla distribuzione a posteriori approssimata. Questo campione può essere utilizzato per calcolare medie a posteriori, intervalli di credibilità e distribuzioni predittive esattamente allo stesso modo di un campione a posteriori bayesiano standard. In SMC-ABC, la tolleranza viene ridotta attraverso una sequenza di popolazioni per migliorare l'efficienza.

Errori comuni

  • Impostare la tolleranza epsilon troppo ampiamente produce un'approssimazione che può differire sostanzialmente dalla vera posteriore — verificare sempre che il restringimento di epsilon stabilizzi la posteriore.
  • Le statistiche riassuntive che non veicolano informazioni sufficienti sui parametri di interesse distorcono la posteriore verso la priori; validare le statistiche verificando se cambiano quando il vero parametro cambia.
  • L'esecuzione di meno di 1 000 simulazioni produce un campione a posteriori troppo scarso per essere affidabile; se il costo di simulazione impedisce di raggiungere questa soglia, passare a MCMC o SMC-ABC.
  • La priori deve coprire adeguatamente lo spazio dei parametri plausibile; una priori troppo stretta escluderà regioni della posteriore, mentre una troppo ampia spreca il budget di simulazione su regioni implausibili.

Domande frequenti

In cosa differisce l'ABC dall'MCMC standard?

Entrambi i metodi producono campioni da una distribuzione a posteriori, ma l'MCMC valuta la verosimiglianza per ogni valore di parametro proposto, mentre l'ABC sostituisce tale valutazione con una simulazione in avanti e un confronto di statistiche riassuntive. Usare l'ABC quando la verosimiglianza è intrattabile; usare l'MCMC quando può essere calcolata.

Come scelgo le statistiche riassuntive?

Le statistiche riassuntive dovrebbero catturare quante più informazioni possibili sui parametri di interesse. La pratica comune è utilizzare la conoscenza del dominio (ad esempio, media, varianza, frequenze alleliche) e validare le scelte verificando se le statistiche cambiano quando il vero parametro cambia. Le statistiche sufficienti esistono solo per i modelli della famiglia esponenziale; per altri modelli, una certa perdita di informazioni è inevitabile.

Quanto deve essere piccola la tolleranza epsilon?

Non esiste una regola universale. Un approccio pratico è quello di restringere epsilon in modo incrementale e verificare se la forma della posteriore si stabilizza. L'approssimazione a posteriori migliora al diminuire di epsilon, ma il tasso di accettazione diminuisce di conseguenza e sono necessarie più simulazioni. SMC-ABC automatizza questo compromesso riducendo adattivamente epsilon tra le popolazioni.

Quando dovrei usare SMC-ABC invece di ABC per rifiuto?

Quando la simulazione è costosa, l'ABC per rifiuto ingenuo spreca la maggior parte delle simulazioni perché il tasso di accettazione può essere estremamente basso con una tolleranza stretta. SMC-ABC utilizza una sequenza di soglie di tolleranza intermedie e popolazioni ponderate per importanza per concentrare le simulazioni vicino alla posteriore, rendendolo molto più efficiente per lo stesso epsilon finale.

Metodi correlati

Fonti

  1. Beaumont, M.A., Zhang, W. & Balding, D.J. (2002). Approximate Bayesian Computation in Population Genetics. Genetics, 162(4), 2025-2035.

    Apri il riferimento DOI
    Copiato.
  2. Sisson, S.A., Fan, Y. & Beaumont, M.A. (Eds.) (2018). Handbook of Approximate Bayesian Computation. Chapman & Hall/CRC.

    Apri il riferimento DOI
    Copiato.