Approximate Bayesian Computation — Likelihood-Free Inference
- Jahr
- 2002
- Typ
- Simulation-based Bayesian inference
Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen
Was leistet sie?
Approximate Bayesian Computation (ABC) ist eine Familie simulationsbasierter Inferenzmethoden, die Posterior-Verteilungen schätzen, ohne dass eine analytisch handhabbare Likelihood-Funktion erforderlich ist.
ABC wurde von Beaumont, Zhang und Balding (2002) im Kontext der Populationsgenetik eingeführt und ersetzte die unhandhabbare Likelihood durch wiederholte Modellsimulation und einen Vergleich von zusammenfassenden Statistiken zwischen simulierten und beobachteten Daten.
Die Intuition hinter der Methode
Die klassische Bayes'sche Inferenz fragt: Wie wahrscheinlich sind die Modellparameter angesichts der beobachteten Daten? Die Beantwortung dieser Frage erfordert normalerweise die Berechnung der Likelihood – der Wahrscheinlichkeit der Daten unter jeder Parametereinstellung. Für viele realistische Modelle in Biologie, Ökologie und Wirtschaft ist diese Berechnung entweder analytisch unmöglich oder rechnerisch unerschwinglich. ABC umgeht sie gänzlich: Anstatt die Likelihood zu berechnen, simuliert es Daten aus dem Modell, komprimiert sie in einige wenige zusammenfassende Statistiken und akzeptiert einen Parameter-Vorschlag nur dann, wenn diese simulierten Zusammenfassungen nahe genug an den beobachteten Zusammenfassungen liegen. Die akzeptierten Vorschläge sammeln sich an, um ein approximatives Posterior zu bilden. Die Approximation ist exakt im Grenzwert, wenn der Toleranzschwellenwert gegen Null geht, und sie verbessert sich stetig, wenn dieser Schwellenwert enger wird – auf Kosten der Akzeptanz weniger Vorschläge.
Geschichte
Die Grundlagen der Likelihood-freien Inferenz reichen bis zu Rejection-Sampling-Ideen zurück, die informell in der Populationsgenetik verwendet wurden, aber die Methode wurde von Beaumont, Zhang und Balding in ihrer wegweisenden Arbeit von 2002 in Genetics zur Inferenz der demografischen Geschichte formalisiert und benannt. Marjoram et al. (2003) führten die ABC-MCMC-Variante zur Verbesserung der Effizienz ein, und Sisson, Fan und Beaumont (2007) entwickelten das Framework der sequenziellen Monte-Carlo-Methoden (SMC-ABC), das die Toleranz adaptiv über Populationen hinweg reduziert. Das Handbuch der Approximate Bayesian Computation von 2018, herausgegeben von Sisson, Fan und Beaumont, fasst zwei Jahrzehnte methodischer Entwicklung zusammen. In jüngerer Zeit wurden neuronale Dichteschätzer und amortisierte Inferenz als Wege vorgeschlagen, das Posterior direkt aus Simulationen zu lernen, wodurch ABC in das Zeitalter des maschinellen Lernens erweitert wird.
Wann wird sie eingesetzt?
ABC ist die richtige Wahl, wenn das Modell vorwärts simuliert werden kann, aber seine Likelihood-Funktion nicht analytisch ausgewertet werden kann – eine Situation, die häufig in der Populationsgenetik, Epidemiologie, Ökologie und agentenbasierten Wirtschaftsmodellierung auftritt. Sie verarbeitet kontinuierliche, binäre und Zähl-Ergebnisvariablen und stellt keine Normalitätsanforderung an die Daten. Es gibt keine harte Mindeststichprobengröße, aber die zusammenfassenden Statistiken müssen ausreichende Informationen über die Parameter tragen. Wenn das Simulationsbudget groß ist und die Toleranz niedrig eingestellt werden kann, approximiert ABC das wahre Posterior eng; wenn Simulationen teuer sind, sind SMC-ABC oder neuronale Posterior-Schätzungs-Varianten vorzuziehen. Wenn die Likelihood handhabbar ist, ist Standard-MCMC effizienter.
Grenzen und Hinweise
- Naive Ablehnungs-ABC erfordert eine enorme Anzahl von Simulationen, um einen niedrigen Toleranzschwellenwert und eine sinnvolle Akzeptanzrate zu erreichen, was sie für hochdimensionale Parameter-Räume rechnerisch teuer macht.
- Die Qualität der Posterior-Approximation hängt entscheidend von der Wahl der zusammenfassenden Statistiken ab; schlecht gewählte Zusammenfassungen können ein verzerrtes oder hochvariantes Posterior erzeugen.
- Es gibt keine analytische Garantie, dass die gewählten zusammenfassenden Statistiken hinreichend sind, daher geht im Allgemeinen Information im Vergleich zur vollständigen Likelihood verloren.
- Weniger als etwa 1.000 insgesamt akzeptierte Vorschläge ergeben typischerweise eine unzuverlässige Posterior-Approximation; wenn das Simulationsbudget begrenzt ist, sollte Standard-MCMC in Betracht gezogen werden.
Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.
Stärken
- Operiert ohne eine geschlossene Likelihood-Form, was die Bayes'sche Inferenz für komplexe generative Modelle öffnet, die einfach zu simulieren, aber schwer analytisch auszuwerten sind.
- Flexibel genug, um kontinuierliche, binäre und Zähl-Ergebnisse unter jedem strukturellen Modell zu handhaben, das der Analytiker als Simulator kodieren kann.
- Varianten wie SMC-ABC und ABC-MCMC reduzieren die Anzahl der benötigten Simulationen im Vergleich zum naiven Rejection Sampling erheblich.
- Die Posterior-Approximation konvergiert gegen das wahre Posterior, wenn der Toleranzschwellenwert gegen Null geht.
Anwendungen
- Inferenz der Populationsgröße, Migration und Divergenzgeschichte in der Populationsgenetik aus Allelfrequenzdaten.
- Schätzung von Übertragungsraten und Kontaktparametern in epidemiologischen Modellen, bei denen die Likelihood auf individueller Ebene nicht handhabbar ist.
- Kalibrierung agentenbasierter Wirtschaftsmodelle anhand beobachteter makroökonomischer Statistiken ohne geschlossene Gleichgewichts-Likelihood.
- Anpassung stochastischer ökologischer Modelle – Räuber-Beute-Dynamik, Artenverbreitung – an Zusammenfassungen von Feldbeobachtungen.
- Parameterschätzung in Systembiologie-Modellen, bei denen mechanistische ODEs durch stochastische Simulationen ersetzt werden.
So funktioniert es
So funktioniert es
Der Analytiker spezifiziert eine Prior-Verteilung über die Modellparameter, die das Wissen oder die Annahmen vor dem Betrachten der Daten kodiert. Dieser Prior ist die Quelle, aus der Kandidaten-Parameterwerte während des gesamten Algorithmus gezogen werden, daher sollte er den plausiblen Bereich der Parameter abdecken.
Ein Parameter-Vorschlag wird aus dem Prior (oder, in adaptiven Varianten, aus einer Importance-Sampling-Verteilung) gezogen. Das vollständige stochastische Modell wird dann mit diesem Vorschlag vorwärts ausgeführt, um einen synthetischen Datensatz zu generieren. Dieser Simulationsschritt ist der rechnerische Kern von ABC und kann tausend- oder millionenfach ausgeführt werden.
Sowohl der synthetische Datensatz als auch der beobachtete Datensatz werden in einen Vektor von zusammenfassenden Statistiken komprimiert – Größen, die so gewählt werden, dass sie möglichst viele Informationen über die Parameter enthalten. Idealerweise sind die zusammenfassenden Statistiken hinreichende Statistiken, aber in der Praxis werden sie basierend auf Fachwissen und diagnostischen Überprüfungen ausgewählt.
Der Abstand zwischen den simulierten zusammenfassenden Statistiken und den beobachteten zusammenfassenden Statistiken wird unter einer gewählten Metrik berechnet. Wenn dieser Abstand innerhalb eines vordefinierten Toleranzschwellenwerts epsilon liegt, wird der Parameter-Vorschlag akzeptiert; andernfalls wird er abgelehnt. Kleinere epsilon-Werte ergeben eine genauere Posterior-Approximation, aber eine geringere Akzeptanzrate.
Die Sammlung der akzeptierten Parameter-Vorschläge bildet eine Stichprobe aus der approximativen Posterior-Verteilung. Diese Stichprobe kann verwendet werden, um Posterior-Mittelwerte, Glaubwürdigkeitsintervalle und prädiktive Verteilungen auf genau die gleiche Weise zu berechnen wie eine Standard-Bayes'sche Posterior-Stichprobe. In SMC-ABC wird die Toleranz über eine Sequenz von Populationen reduziert, um die Effizienz zu verbessern.
Häufige Fallstricke
- Das Setzen der Toleranz epsilon zu locker erzeugt eine Approximation, die erheblich vom wahren Posterior abweichen kann – verifizieren Sie immer, dass das Straffen von epsilon das Posterior stabilisiert.
- Zusammenfassende Statistiken, die nicht genügend Informationen über die interessierenden Parameter tragen, verzerren das Posterior in Richtung des Priors; validieren Sie Statistiken, indem Sie prüfen, ob sie sich ändern, wenn sich der wahre Parameter ändert.
- Weniger als 1.000 Simulationen durchzuführen, ergibt eine zu dünne Posterior-Stichprobe, um zuverlässig zu sein; wenn die Simulationskosten das Erreichen dieses Schwellenwerts verhindern, wechseln Sie zu MCMC oder SMC-ABC.
- Der Prior muss den plausiblen Parameterraum angemessen abdecken; ein zu enger Prior schließt Bereiche des Posteriors aus, während ein zu breiter Prior Simulationsbudget für unplausible Regionen verschwendet.
Häufig gestellte Fragen
Wie unterscheidet sich ABC von Standard-MCMC?
Beide Methoden erzeugen Stichproben aus einer Posterior-Verteilung, aber MCMC wertet die Likelihood bei jedem vorgeschlagenen Parameterwert aus, während ABC diese Auswertung durch eine Vorwärtssimulation und einen Vergleich von zusammenfassenden Statistiken ersetzt. Verwenden Sie ABC, wenn die Likelihood nicht handhabbar ist; verwenden Sie MCMC, wenn sie berechnet werden kann.
Wie wähle ich zusammenfassende Statistiken aus?
Zusammenfassende Statistiken sollten so viele Informationen wie möglich über die interessierenden Parameter erfassen. Üblich ist die Verwendung von Fachwissen (z. B. Mittelwert, Varianz, Allelfrequenzen) und die Validierung von Entscheidungen durch Überprüfung, ob sich die Statistiken ändern, wenn sich der wahre Parameter ändert. Hinreichende Statistiken existieren nur für Modelle der Exponentialfamilie; für andere Modelle ist ein gewisser Informationsverlust unvermeidlich.
Wie klein muss die Toleranz epsilon sein?
Es gibt keine universelle Regel. Ein praktischer Ansatz ist, epsilon inkrementell zu verengen und zu prüfen, ob sich die Posterior-Form stabilisiert. Die Posterior-Approximation verbessert sich mit abnehmendem epsilon, aber die Akzeptanzrate sinkt entsprechend und es werden mehr Simulationen benötigt. SMC-ABC automatisiert diesen Kompromiss, indem es epsilon adaptiv über Populationen hinweg reduziert.
Wann sollte ich SMC-ABC anstelle von Ablehnungs-ABC verwenden?
Wenn die Simulation teuer ist, verschwendet naive Ablehnungs-ABC die meisten Simulationen, da die Akzeptanzrate bei einer engen Toleranz extrem niedrig sein kann. SMC-ABC verwendet eine Sequenz von Zwischen-Toleranzschwellenwerten und gewichteten Populationen, um Simulationen in der Nähe des Posteriors zu konzentrieren, was es für dasselbe endgültige epsilon weitaus effizienter macht.
Verwandte Methoden
Quellen
Beaumont, M.A., Zhang, W. & Balding, D.J. (2002). Approximate Bayesian Computation in Population Genetics. Genetics, 162(4), 2025-2035.
DOI-Referenz öffnenKopiert.Sisson, S.A., Fan, Y. & Beaumont, M.A. (Eds.) (2018). Handbook of Approximate Bayesian Computation. Chapman & Hall/CRC.
DOI-Referenz öffnenKopiert.