C:/horabik/2006/MCMC lektura/Probnik Gibbsa prezentacja · 1. De nicja 2. Przykª ad 3. Wª...

Dwuwymiarowy próbnik GibbsaJoanna Horabik

Joanna Horabik Dwuwymiarowy próbnik Gibbsa

1. De�ni ja2. Przykªad3. Wªasno± i algorytmu (zbie»no±¢, ªa« u hy odwra alne iprzeplatane, dualno±¢)4. Rao-Bla kwelliza ja5. Próbnik Gibbsa a algorytm EM6. Wprowadzenie do wielowymiarowego próbnika GibbsaJoanna Horabik Dwuwymiarowy próbnik Gibbsa

De�ni jaDwuwymiarowy próbnik Gibbsa sªu»y do generowania z wektoralosowego (X ,Y ) odpowiedniej próby (X1,Y1), (X2,Y2), . . ., którab�dzie ªa« u hem Markowa o zadanym rozkªadzie sta jonarnymf (x , y).AlgorytmWybierz dowoln¡ warto±¢ po z¡tkow¡ X0 = x0.W kolejny h kroka h t = 1, 2, . . . losuj1. zmienn¡ Yt z g�sto± i fY |X (.|xt−1)2. zmienn¡ Xt z g�sto± i fX |Y (.|yt)… X

t-1 Yt-1

Xt

Y …tZakªadamy, »e potra�my generowa¢ zmienne losowe dla g�sto± iwarunkowy h fX |Y i fY |X .Joanna Horabik Dwuwymiarowy próbnik Gibbsa

◮ Pod i¡gi (Xt), (Yt) równie» s¡ ªa« u hami Markowa. Dla (Xt)j¡dro przej± ia ma posta¢K (x , x ′) =

∫ fY |X (y |x)fX |Y (x ′|y)dy◮ Dla obu pod i¡gów rozªadami sta jonarnymi s¡ odpowiednieg�sto± i brzegowe fX (oraz fY ):fX (x ′) =

∫ K (x , x ′)fX (x)dxModele brakuj¡ y h dany h: Je±li funk ja fX jest trudna dowygenerowania mo»na wprowadzi¢ zmienn¡ pomo ni z¡ (auxiliaryvariable) Y i generowa¢ odpowiednie g�sto± i warunkowe fX |Y (x |y)oraz fY |X (y |x). Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Przykªad - dane zgrupowaneintensywno±¢ 0 1 2 3 4 i wi� ejl. obserw. 139 128 55 25 13Obserwa je x1, . . . , xn po hodz¡ z rozkªadu Poissona P(λ)P(k) =λkk!

e−λCh emy wyzna zy¢ estymator Bayesa parametru λ.Funk ja wiarygodno± i:L(λ|x1, . . . , x5) ∝ e−347λλ139×0+128×1+55×2+25×3 1 − e−λ

3Xi=0 λii! !13Wprowadzaj¡ wektor y = (y1, . . . , y13) dla 13 'brakuj¡ y h' obserwa ji funk j�wiarygodno± i (peªny h dany h) mo»emy przedstawi¢ w prostszej posta i:LC (λ|x1, . . . , x5, y1, . . . , y13) ∝ e−360λλ313+P13i=1 yiJoanna Horabik Dwuwymiarowy próbnik Gibbsa

Przykªad ( d)Wybór rozkªadu a priori parametru λ: π(λ) = 1/λRozkªad a priori naturalnie sprz�»ony: Dla pewny h wyborów rozkªadu a priori,rozkªad a posteriori ma tak¡ sam¡ algebrai zn¡ posta¢ jak rozkªad a prioriniezale»nie od li zebno± i próby i warto± i obserwa ji.Twierdzenie. Je±li obserwa je x1, . . . , xn po hodz¡ z rozkªadu Poissona P(λ) irozkªad a priori parametru λ jest rozkªadem Gamma Ga(α, β) to rozkªad aposteriori parametru λ jest rozkªadem Gamma Ga(α +Pi xi , β + n).L(x1, . . . , xn|λ) ∝ λ

Pi xi e−nλ

π(λ) ∝ λα−1e−βλ

π(λ|x1, . . . , xn) ∝ L(x1, . . . , xn|λ) × π(λ) ∝ λα+Pi xi−1e−(β+n)λNiewªa± iwe rozkªady a priori: Dla α → 0, β → 0,

π(λ) ∝ 1/λJoanna Horabik Dwuwymiarowy próbnik Gibbsa

Przykªad ( d)Rozkªad a posteriori parametru λ:π(λ, y1, . . . , y13|x1, . . . , x5) ∝ e−360λλ313+P13i=1 yi−1AlgorytmDla warto± i λt−11. Wylosuj Y (t)i z rozkªadu P(λ(t−1)) dla y ≥ 4

(i = 1, . . . , 13)2. Wylosuj λ(t) z rozkªadu Ga(313 +∑13i=1 y (t)i , 360)


Przykªad ( d)Estymator 'Rao-Bla kwellizowany' (T = 1, 2, . . . , 500 itera ji):δrb =

1T T∑t=1 E

[

λ|x1, . . . , x5, y (t)1 , . . . , y (t)13 ]

= 1, 022410.9 0.95 1 1.05 1.1 1.15

10

20

30

40

λ

100 200 300 400 500

1.018

1.019

1.021

1.022

1.023

1.024

1.025

δrbJoanna Horabik Dwuwymiarowy próbnik Gibbsa

Wªasno± i algorytmu - Zbie»no±¢De�ni ja. Nie h (Y1,Y2, . . . ,Yp) b�dzie p-wym. wektorem og�sto± i ª¡ znej g(y1, y2, . . . , yp), a g (i) g�sto± i¡ brzegow¡zmiennej Yi . Je±li z faktu, »e g (i)(yi ) > 0 dla ka»dego i = 1, . . . , pwynika, »e g(y1, . . . , yp) > 0, to mówimy, »e g speªnia warunekdodatnio± i.Lemat. Ka»dy z i¡gów (X (t)) oraz (Y (t)) wygenerowany zapomo ¡ próbnika Gibbsa jest ªa« u hem Markowa o rozkªadziesta jonarnymfX (x) =

∫ f (x , y)dy fY (y) =

∫ f (x , y)dxJe±li f speªnia warunek dodatnio± i, oba ªa« u hy s¡nieprzywiedlne. Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Wªasno± i algorytmu - Zbie»no±¢Twierdzenie. Je±li f speªnia warunek dodatnio± i, a j¡dro przej± iaK ((x , y)(x ′ , y ′)) = fX |Y (x ′|y)fY |X (y ′|x ′)jest funk j¡ absolutnie i¡gª¡, to ªa« u h (X (t),Y (t)) jestpowra aj¡ y w sensie Harrisa i zbie»ny do swojego rozkªadusta jonarnego f (x , y).


�a« u hy odwra alne i 'przeplatane'De�ni ja. O dwó h ªa« u ha h Markowa powiemy, »e s¡ ze sob¡sprz�»one i 'przeplataj¡ si� ' wzajemnie (ang. interleaving) je±li:◮ dla ustalonego Y (t) zmienne X (t), X (t+1) s¡ warunkowoniezale»ne◮ dla ustalonego X (t) zmienne Y (t−1), Y (t) s¡ warunkowoniezale»ne◮ zmienne (X (t),Y (t−1)), (X (t),Y (t)) po hodz¡ z tego samegorozkªadu sta jonarnego.�a« u h (X (t),Y (t)) wygenerowany za pomo ¡ próbnika Gibbsaposiada e h� 'przeplatalno± i'.Oba ªa« u hy (X (t)),(Y (t)) s¡ odwra alne (ang. reversible),natomiast ªa« u h (X (t),Y (t)) nie musi by¢ odwra alny.Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Algorytm - odwra alny dwuwymiarowy próbnik GibbsaDla danej warto± i yt wylosuj1. zmienn¡ W z g�sto± i fX |Y (w |yt )2. zmienn¡ Yt+1 z g�sto± i fY |X (y |w)3. zmienn¡ Xt+1 z g�sto± i fX |Y (x |yt+1)… W W Y

t+1X

t+1W …Y

tX

t


Twierdzenie o dualno± i◮ (X (t)) - ªa« u h Markowa, (Y (t)) - dowolny i¡g zm. losowy h◮ Twierdzenie o dualno± i doty zy ªa« u hów generowany h wnast�puj¡ y sposób:X (t)|y (t) ∼ π(x |y (t)) Y (t+1)|x(t), y (t) ∼ f (y |x(t), y (t))◮ Je±li wiemy, »e i¡g (Y (t)) jest zbie»ny, to na mo ytwierdzenia o dualno± i i¡g (X (t)) równie» jest zbie»ny doswojego rozkªadu sta jonarnego.

Yt +1

X …t +1… Y

t -1X

t -1 XtY

t


Wªasno± i algorytmu - Dualno±¢W odniesieniu do próbnika Gibbsa za hodzi nast�puj¡ e twierdzenie:Twierdzenie. Dla dwó h przeplataj¡ y h si� wzajemnie ªa« u hówMarkowa (X (t)) i (Y (t)), je±li (X (t)) jest ergody zny to równie»(Y (t)) jest ergody zny.Nale»y pami�ta¢, »e dualno±¢ wymaga mo niejszy h zaªo»e« ni»podstawowa wersja dwuwymiarowego próbnika Gibbsa.


Rao-Bla kwelliza jaMaj¡ dany wektor (Y1,Y2) o ª¡ znej g�sto± i f (y1, y2), funk j�fY1(y1) mo»na zapisa¢fY1(y1) =

∫ fY1|Y2(y1|y2)fY2(y2)dy2 = EfY2 [fY1|Y2(Y1|y2)]Rao-Bla kwelliza ja polega na zast¡pieniu zwykªego estymatoraδ0 =

1T T∑t=1 h(y (t)1 )estymatorem

δrb =1T T

∑t=1 EfY2 [h(Y1|y (t)2 )]


Rao-Bla kwelliza ja d.◮ Oba estymatory s¡ zbie»ne do E [h(Y1)] i nieob i¡»one (dlarozkªadu sta jonarnego). Estymator δrb e huje mniejszawarian ja.◮ Ze wzgl�du na zale»no±¢var(U) = var(E(U|V )) + E(var(U|V )) za hodzivar (

E

[h (Y1) |Y (t)2 ])

≤ var (h (Y1))Nie wystar za to jednak aby mó stwierdzi¢, »e δrb ma zawszemniejsz¡ warian j� ni» δ0, poniewa» nierówno±¢ nie bierze poduwag� korela ji mi�dzy zmiennymi Y (t).◮ W przypadku dwuwymiarowego próbnika Gibbsa, o którymwiemy, »e jego dwa ªa« u hy wzajemnie si� przeplataj¡wykazano, »e kowarian ja pomi�dzy kolejnymi warto± iamizmiennej losowej Y (t) jest dodatnia i malej¡ a wraz z t.Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Rao-Bla kwelliza ja d.Twierdzenie. Dla dwó h przeplataj¡ y h si� wzajemnie ªa« u hówMarkowa (X (t)),(Y (t)) o rozkªada h sta jonarny h fX , fY ,estymator δrb dominuje pod wzgl�dem warian ji estymator δ0 dladowolnej funk ji h przy speªnionym zaªo»eniu o sko« zono± iwarian ji.500 1000 1500 2000

1.015

1.025

1.03

1.035PSfrag repla ements δrbδ0


Próbnik Gibbsa a algorytm EMAlgorytm o zekiwania-maksymaliza ji (ang. EM) mo»e by¢ widziany jakoprekursor próbnika Gibbsa w odniesieniu do modeli brakuj¡ y h dany h. Obaalgorytmy wykorzystuj¡ rozkªad warunkowy brakuj¡ y h zmienny h. Ozna zmyestymowany parametr rozkªadu θzmienne obserwowane X ∼ g(x |θ)zmienne brakuj¡ e z gdzie X , Z ∼ f (x , z |θ)Dla posiadany h dany h wyzna zamy odpowiednie funk je wiarygodno± i:peªny h dany h L (θ|x , z) = f (x , z |θ)niepeªny h dany h L(θ|x) = g(x |θ).Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Próbnik Gibbsa a algorytm EMAlgorytm EM równie» opiera si� na funk ji wiarygodno± i peªny hdany h L oraz rozkªadzie warunkowym k :

◮ Krok E: Obli z E [logL (θ|x , z)] wzgl�dem zmiennej losowej Zz rozkªadu k(z |x , θ) (przy ustalonym θ); sprowadza si� dowyzna zenia E [Z |x , θ]

◮ Krok M: Maksymalizuj E [logL (θ|x , z)] wzgl�dem θ. Przyjmijjako bie»¡ ¡ warto±¢ θ obli zony argumentJoanna Horabik Dwuwymiarowy próbnik Gibbsa

Przykªad - algorytm EMintensywno±¢ 0 1 2 3 4 i wi� ejl. obserw. 139 128 55 25 13Brakuj¡ y h 13 zmienny h Yj po hodzi z 'przesuni�tego' rozkªadu PoissonaYj ∼ P(λ)Iy≥4 (j = 1, . . . , 13)P(Yj = k) =λkk!e−λ1−e−λP3i=0 λii !Funk ja wiarygodno± i peªny h dany h:L (λ|x , y) = e−360λλ313+

Pj yj(0!)139(1!)128(2!)55(3!)25 Qj yj !

∂∂λ

logL (λ|x, y ) = −360 + (313 +Pj yj ) 1

λ= 0Itera je algorytmu EM:

E(Yj |λ̂(t)) =λ̂−e−λ̂

P3k=0 k λ̂kk!1−e−λ̂

P3i=0 λ̂ii ! λ̂(t+1) =313+Pj E(Yj |λ̂(t))360dla j = 1, . . . , 13 Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Próbnik Gibbsa a algorytm EM: Wyniki0 5 10 15 20 25

iteracja

0.5

0.6

0.7

0.8

0.9

1

1.1

PSfrag repla ementsδEM

algorytm EM: δEM = 1, 02237 (moda)próbnik Gibbsa: δRB = 1, 02241 (±rednia)Joanna Horabik Dwuwymiarowy próbnik Gibbsa

Wprowadzenie do wielowymiarowego próbnika Gibbsa◮ Symula ja bezpo±rednio z fY |X nie jest mo»liwa, ale

(X ,Y ) = (X , (Y1,Y2))◮ Dwuwymiarowy próbnik Gibbsa mo»na zastosowa¢ do funk jig�sto± i warunkowej fY |X : Ci¡g kolejny h symula ji zf (y1|x , y2) oraz f (y2|x , y1) zbiega do wyniku symula ji zfY |X (y1, y2|x).


C:/horabik/2006/MCMC lektura/Probnik Gibbsa prezentacja · 1. De nicja 2. Przykª ad 3. Wª...

Documents

Transcript of C:/horabik/2006/MCMC lektura/Probnik Gibbsa prezentacja · 1. De nicja 2. Przykª ad 3. Wª...