Posterior predictive distribution

In der Bayesschen Statistik ist die Posterior predictive distribution eines statistischen Modells^[1] die bedingte Wahrscheinlichkeitsdichte neuer, unbeobachteter Werte ${\displaystyle {\tilde {x}}}$, gegeben alle bisherigen Beobachtungen ${\displaystyle \mathbf {x} }$. Man erhält sie durch Parameter-Integration der bedingten Dichte ${\displaystyle p({\tilde {x}}|\theta )}$ mit der Posterior-Dichte ${\displaystyle p(\theta |\mathbf {x} )}$.

Die Posterior predictive distribution ist definiert als

${\displaystyle p({\tilde {x}}|\mathbf {x} )=\int _{\Theta }p({\tilde {x}}|\theta )\,p(\theta |\mathbf {x} )\operatorname {d} \!\theta =\mathbb {E} _{\theta |\mathbf {x} }[p({\tilde {x}}|\theta )],}$

wobei ${\displaystyle \Theta }$ der Parameterraum und ${\displaystyle p(\theta |\mathbf {x} )}$ die Posterior-Dichte ist. Die Gleichheit lässt sich mit dem Gesetz der totalen Wahrscheinlichkeit direkt sehen.

Die Posterior predictive distribution spielt zum Beispiel im Rahmen der Gauß-Prozess-Regression eine wichtige Rolle.

Die Prior predictive distribution lässt die beobachteten Daten außer Acht: ${\displaystyle p({\tilde {x}})=\int _{\Theta }p({\tilde {x}}|\theta )\,p(\theta )\operatorname {d} \!\theta }$

Die Posterior predictive distribution kann durch Anwendung der Bootstrap predictive distribution ${\displaystyle p_{B}({\bar {x}}\mid X)=\int p({\bar {x}}\mid \theta _{MLE}({\tilde {X}})){\hat {p}}({\tilde {X}})d{\tilde {X}}}$ genähert werden, wobei ${\displaystyle {\tilde {X}}}$ per Bootstrapping-Verfahren aus der empirischen Verteilungsfunktion gezogene Stichproben sind.^[2][3]

• Gibbs-Sampling

1. ↑ Gaussian Process Regression Analysis for Functional Data. ISBN 978-1-4398-3774-0.
2. ↑ Tadayoshi Fushiki: Bayesian bootstrap prediction. „[…] the bootstrap predictive distribution is considered to be an approximation of the Bayesian predictive distribution […]“ doi:10.1016/j.jspi.2009.06.007.
3. ↑ Tadayoshi Fushiki, Fumiyasu Komaki, Kazuyuki Aihara: Nonparametric bootstrap prediction. 2005, doi:10.3150/bj/1116340296.