で,
たとえば共役な事前分布を使えば事後分布は解析的に導出できるので,
Gibbs sampler は簡単に作れる.
しかし久保例題のように二項分布 * 正規分布といった統計モデル
の事後分布が WinBUGS でサンプリングできるのはなぜ?
といった疑問をもつヒトもいたり
(当日もそういう質問があった).
とりあえずの回答例:
ご指摘のとおり,単純な Gibbs sampling では事後分布からサンプルは得られ
ません.そこで (例の質問の回答でもちょっとだけふれましたが) 数値的な
Gibbs sampling といった方法が使われます.要するに提案分布を使わずになん
とか事後分布からのサンプルを得たい,という発想ですね.アルゴリズムの名
前としては adaptive rejection sampler (ARS) とか slice sampler などあり
ます.
日本語で書かれた本でこのあたりにふれているのは
丹後俊郎. 2000. 統計モデル入門. 朝倉書店.
です.ARS などについて説明されています.英語本だといろいろあるのですが,
たとえば
Gilks, Richardson and Spiegelhalter. 1996. Markov chain Monte Carlo in
Practice. Chapman & Hall/CRC.
Gelman et al. 2004. Bayesian Data Analysis. Chapman & Hall/CRC.
は丁寧に説明されています.
当日も説明したんだけど,
WinBUGS は Gibbs sampler と呼ばれているが,
解析的に導出できる事後分布からの Gibbs sampling だけでなく,
じつは内部では上述の ARS や slice sampler による
いわば「数値的な」 Gibbs sampling さらに M-H 法も使われているそーで
(WinBUGS
user manual によると).
伊庭さんのうまい説明を借用すると,
WinBUGS は「外からみて」
Gibbs sampler であるかのように見えているだけ,
ということ.