Space-time Models

MA5282 Topik dalam Statistika II 21 April 2015

Utriweni Mukhaiyar

Analisis Statistik

Stochastic Processes

Multivariate Analysis

Data Analysis

Non-parametric Analysis

Time Series Analysis

Spatial Analysis

Compound Poisson

Hidden Markov

Space-Time Analysis

+

=

Postulate General Class of Models

Parameter Estimation

Forecasting

Diagnostic Checking

Identify Model

Yes No

Krigging Variogram Estimation & Interpolation

Maximum Likelihood

Least Squares

Resampling

ACF, PACF,

diff

Stationarity

Modelling Adopted from Time Series Analysis

Box&Jenkins Procedure/Iteration

Box&Jenkins

Iteration

Weight matrix, STACF,

STPACF, diff

Kovariansi dan Korelasi pada deret-waktu Suatu proses stokastik dengan

• Fungsi Mean:

• Fungsi Autokovariansi:

• Fungsi Autokorelasi:

untuk

( ) ( )t E Z t

TttZ ),( ,...2,1,0T

22112121 ,, ttZttZEtZtZCovtt

21

2211

21

21

21

212121

,,

,,,,

tttt

tt

tZVartZVar

tZtZCovtZtZCorrtt

,...2,1,0, 21 tt

Kovariansi dan Korelasi pada deret-waktu

Kovariansi Korelasi

1

2

3

111, tZVartt 1, 11 tt

1221 ,, tttt 1221 ,, tttt

221121 ,,, tttttt 1, 21 tt

Mean dan Kovariansi pada Analisis Spasial Untuk suatu proses stokastik dengan

Fungsi Mean:

Kovariansi spasial:

Korelasi spasial:

( ),Z s s L 2 3, ,L R R R

( ) ( )s E Z s

2

,Cov Z s Z s h E Z s Z s h

E Z s Z s h C h

,

00 0

Cov Z s Z s h C h C hh

CC CVar Z s Var Z s h

, 0Var Z s Cov Z s Z s C

Kestasioneran

Kestasioneran Deret-waktu

Z(t)

Spasial/Geostatistik

Z(s)

Kuat

untuk sebarang n dan k.

untuk sebarang n dan h.

Lemah 1. Fungsi mean konstan untuk

semua waktu

2. untuk semua t

dan k.

1.

2.

Intrinsik - 1.

2.

1 2

1 2

( ), ( ),..., ( )

( ), ( ),..., ( )

n

n

F Z t Z t Z t

F Z t k Z t k Z t k

1 2

1 2

( ), ( ),..., ( )

( ), ( ),..., ( )

n

n

F Z s Z s Z s

F Z s h Z s h Z s h

kktt ,0,

( )E Z s

,Cov Z s Z s h C h

0E Z s h Z s

1

2Var Z s h Z s h

Semivariogram lag-h

2

2 0 0 2

0

Var Z s h Z s Var Z s h Var Z s Cov Z s h Z s

h C C C h

h C C h

Aplikasi Pemodelan Space Time

• Ekonomi (Nurhayati 2012)

• Pertanian & Perkebunan (Borovkova 2008, Mukhaiyar 2012)

• Transportasi (Garrido; 2000, Kamarianakis and Prastacos; 2005)

• Kriminologi (Liu and Brown; 1998)

• Sosial (Hernandez-Murillo and Owyang; 2004)

• Perminyakan (Ruchjana; 2002)

• Geologi dan Ekologi (Kyriakidis and Journel; 1999)

• Pertambangan

• Kedokteran

• Genetika

• …

Analisis Space Time

“Observasi di suatu lokasi pada satu waktu dipengaruhi oleh observasi-observasi di masa lampau di lokasi tersebut dan juga di lokasi sekitarnya.”

time

0 1 i … T … i-1

s1

s2

sj

sN sN-1 s0 s1

s2

sj

sN sN-1 s0 s1

s2

sj

sN sN-1 s0 s1

s2

sj

sN sN-1 s0

Model Space-Time

STMA (q1) :

q

s

s

q

s

s ststtt1

1

1

0 )()()()( WeeeZ

STARMA (p,q) : 1 0 1 0

s ssmp q( k ) ( k )

sk sk

s k s k

( t ) ( t s ) ( t ) ( t s )

Z W Z e W e

G-STAR ( ) : 1 2, ,..., pp 1 1 2 2

1 0

s( k ) ( k )pi i( k )

i sk i( k )s k iN N

w Z ( t s ) w Z ( t s )Z ( t ) e ( t )

... w Z ( t s )

1980

2002

2008

2010

STARMAG ( ) 1 2 1 2, ,..., , ,...,,

p pm m mp q

1 1 2 2

1 0

1 1 2 2

1 0

s

s

p( k ) ( k ) ( k ) ( k )

i sk i i iN N

s k

mq( k ) ( k ) ( k ) ( k )

sk i i iN N i

s k

Z ( t ) w Z ( t s ) w Z ( t s ) ... w Z ( t s )

w e ( t s ) w e ( t s ) ... w e ( t s ) e ( t )

Di Giacinto

Pfeifer & Deutsch

Syarat kestasioneran GSTAR(11)

(Nurani, dkk )

STAR (p1) : )()()()(1

1

1

0 tststtp

s

s

p

s

s eWZZZ

2006

Model GSTAR(1;1) untuk galat berkorelasi waktu

(Borovkova, et al.) Model GSTAR(1;1) untuk galat berkorelasi spasial

(Nurhayati) Kestasioneran Model GSTAR dengan IMAk (Mukhaiyar)

2012

Model VAR(1) • Jika banyaknya lokasi adalah N maka vektor observasi z(t) = (z1(t)

z2(t) ... zN(t))t yang mengikuti model VAR(1) akan memiliki bentuk:

• dengan e(t) adalah vektor galat acak. Dengan menggunakan operator backshift,

maka,

)()1()( ttt eZZ

)()( jttB j ZZ

)()( ttB eZI

Kestasioneran Model VAR(1)

• Wei (1990, 2006) menuliskan bahwa syarat kestasioneran untuk model VAR(1) adalah jika akar-akar dari B dari |I - B| = 0 berada di luar lingkaran satuan.

• Hal ini ekivalen dengan mengatakan bahwa syarat kestasioneran model VAR(1) adalah nilai eigen dari berada di dalam lingkaran satuan.

Operator Lag Spasial • Untuk mempermudah dalam mendeteksi lag spasial, diperlukan

pendefinisian dari operator lag spasial orde-l (L(l) ) berikut:

• dengan merupakan kumpulan bobot-bobot yang merupakan elemen dari matriks berukuran yang memenuhi,

)()()0( tZtZL ii

N

j

j

l

iji

l tZwtZL1

)()( )()(

)(l

ijw

11

)(

N

j

l

ijw

Kekhasan model space-time

Matriks Bobot dan Orde Spasial

Sistem radius

lainnya ,0

-ke orde pada anggaadalah tet ,1

1)( lij

dw l

ij

l

ij

1. Matriks Bobot Biner

Memiliki nilai 0 dan 1 di elemen selain diagonal utama.

2. Matriks Bobot Uniform

3. Matriks Bobot non-uniform

ct. matriks bobot euclidean

lainnya ,0

-ke orde pada anggaadalah tet ,1

)()( lijnw l

i

l

ij

0

0

0

)(

1111

221

112

ww

ww

ww

wN

N

ijW

Lag Spasial Sistem grid

• Tetangga Terdekat pada Lag Spasial 1 sampai 5 untuk Lokasi s0 .

• Angka-angka pada grid menunjukkan orde spasial titik tersebut yang ditentukan oleh jaraknya terhadap s0. Angka yang semakin kecil menunjukkan posisi yang semakin dekat terhadap s0.

5 4 3 4 5

4 2 1 2 4

3 1 s0 1 3

4 2 1 2 4

5 4 3 4 5

Model STARMA • Misalkan Z(t) merupakan vektor variabel acak dari suatu proses

STARMA di berbagai lokasi pada suatu waktu t.

• Model STARMA( ) dinyatakan dalam:

• dengan Z(t) merupakan vektor pengamatan (N1) dari N lokasi pada waktu t atau (Zi(t) ), W adalah matriks bobot (NN) pada lag spasial l, t menyatakan waktu pengamatan ,1,2,...,T dan e(t) adalah vektor galat berdistribusi normal.

qp mmqp ,...,,..., 11,

)()()()()()(1 1

)(

0

1 1

)(

0 trtrtststtq

r

m

l

l

rlr

p

s k

k

sks

rs

eeWeZWZZ

Model STARMA(1;1, 1;1)

)()1()1()1()1()( 11101110 tttttt eWeeWZZZ

Model STAR(1;1)

• Model STAR(1;1) yang merupakan kasus khusus dari model STARMA(1;1, 1;1), yaitu tidak melibatkan unsur galat di lokasi sekitarnya (yang terdekat) pada waktu sebelumnya, dapat direalisasikan sebagai berikut:

• Model STAR(1;1) ini juga dapat dinyatakan dalam bentuk model VAR (1) yaitu:

)()1()1()(1

1110 tttts

k

eWZZZ

)()1()( 1110 ttt eZWIZ

)()1()( ttt eΦZZ

Identifikasi Model Space Time (Pfeifer and Deustch, 1980)

Model space time diidentifikasi melalui fungsi space time autokorelasi

(STACF) dan fungsi space time parsial autokorelasi (STPACF).

sT

t sT

stts

1

)'()()(ˆ

ZZΓ

Matriks kovariansi antara lokasi dan waktu :

)(1

)(')()( str

Ns kl

lk ΓWWRata-rata kovariansi space time pd lag-s :

'sttEs ZZΓ

Fungsi autokorelasi space time (STACF) : 2/1

)0()0(

)()(

kkll

lklk

ss

p

p

p

pp

p

p

p

p

p

1

0

2

21

20

1

11

10

1010

1111011110

0010000100

0

10

00

0

10

00

0

10

00

021

201

111000

1

111000

111000

2

2

2

1

1

1

Fungsi parsial autokorelasi space time (STPACF), :

… lk

solusi persamaan Yule Walker :

Pola Teoritis STACF dan STPACF

Contoh

• Model yang mungkin: GSTAR(1;1), ... ???

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime P

art

ial A

uto

corr

ela

tion

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 3

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime P

art

ial A

uto

corr

ela

tion

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 2

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime P

art

ial A

uto

corr

ela

tion

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 1

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime P

art

ial A

uto

corr

ela

tion

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 0

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime A

uto

corr

ela

tion

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 3

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime A

uto

corr

ela

tion

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 2

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime A

uto

corr

ela

tion

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 1

0 2 4 6 8 10 12 14 16 18 20-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

Lag time

Spatial T

ime A

uto

corr

ela

tion

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 0

STACF plots

STPACF plots

Model GSTAR

1 2GSTAR ; , ,..., pp

Generalized space time autoregressive

Orde spasial = λ1, λ2,…, λp

Orde waktu = p

Nilai Zi (t) tergantung nilai satu periode sebelumnya yang

terjadi di i dan di lokasi yang langsung terkait dengan i

GSTAR (1,1)

Generalized space time autoregressive

Orde spasial =1

Orde waktu = 1

Pengamatan di lokasi i saat t

Model GSTAR(1;1)

• Model GSTAR(1;1) untuk setiap lokasi i = 1, 2, ..., N dan waktu t dinyatakan oleh:

• dan dalam notasi matriks dinyatakan sebagai:

• dengan

( ) ( )

10 111

( ) ( 1) ( 1) ( )N

i i

i i ij j ij

Z t Z t w Z t e t

)()1()( 10 ttt eZWΦΦZ

)(

)(

)(

)(2

1

tZ

tZ

tZ

t

N

Z

)(

)(

)(

)(2

1

te

te

te

t

N

e

0

0

0

21

221

112

NN

N

N

ww

ww

ww

W

• dengan dan

• Proses Z(t) diasumsikan terpusat, yaitu E[Z(t)]=0 untuk semua t.

• Perhatikan bahwa model STAR(1;1) merupakan kasus khusus dari model GSTAR(1;1) dengan dan .

11

N

j

ijw (1) ( )

1 1, , Ndiag Φ

IΦ 00 IΦ 11

( ) ( )

10 111

( ) ( 1) ( 1) ( )

N

i i

i i ij j ij

Z t Z t w Z t e t

Bentuk umum

Notasi matriks, dalam bentuk VAR(1)

Struktur model liner

)()1()( 10 ttt eZWΦΦZ

εXβY Penaksir Kuadrat

Terkecil

Bentuk VAR (1)

kestasioneran model GSTAR(11)

observasi pada waktu t, untuk setiap lokasi-i

Tβ̂

kekonsistenan

GSTAR orde 1

Kestasioneran GSTAR orde 1

• Jika solusi rs memenuhi persamaan,

terletak di dalam lingkaran satuan ( ), maka GSTAR(1;1) stasioner.

(Wei, 1990, 2006)

• Syarat cukup kestasioneran GSTAR(1;1), jika

(Ruchjana, 2002)

1)(

11

)(

10 ii 1)(

11

)(

10 ii dan

010 WΦΦIsr1sr

Kuadrat Terkecil GSTAR(1;1)

• for time t = 1,2,…,T and spatial i = 1,2,…,N

i i i i Y X ε

)(

)2(

)1(

)(

)2(

)1(

)1()1(00

)1()1(00

)0()0(00

00)1()1(

00)1()1(

00)0()0(

)(

)2(

)1(

)(

)2(

)1(

1

1

1

1

0

11

02

11

01

11

11

11

1

1

1

Te

e

e

Te

e

e

TZTZ

ZZ

ZZ

TVTZ

VZ

VZ

TZ

Z

Z

TZ

Z

Z

N

N

N

N

N

NN

NN

NN

N

N

N

N

j

jiji tZwtV1

)()(with

1 dan NY Y1 dan NX X

1 dan Nε ε

Kuadrat Terkecil GSTAR(11)

Y Xβ ε

01 11 0 1ˆ ( , ,..., , ) ' N NPenaksir :

ˆ' ' X X X Y

memenuhi,

Akibatnya,

1ˆ ' '

X X X Y

dimana, harus non singulir. 'X X

Latihan

• N=3

• Misalkan dipandang produksi perkebunan teh di 3 bulan berturut-turut di 3 lokasi sbb:

• Misalkan proses mengikuti model GSTAR(1;1). Lakukan penaksiran parameter model dengan metode LS. Gunakan matriks bobot seragam.

• Catatan: pusatkan data terlebih dahulu.

Produksi (ribu ton) Tahun 1992 Kebun 1 Kebun 2 Kebun 3

Januari 275 317 302 Februari 178 252 176

Maret 255 312 260

Nilai Zi (t) tergantung nilai dalam dua periode sebelumnya

yang terjadi di i dan di lokasi yang langsung terkait dengan i

Generalized space time autoregressive

Orde spasial untuk lag waktu 2 : λ2

Orde waktu = 2

GSTAR Orde 2 Pengamatan di lokasi i saat t

1 2Model GSTAR(2; , )

Orde spasial untuk lag waktu 1 : λ1

Lag spasial

(λ1, λ2)

1 2 …

1 GSTAR(2;1,1) GSTAR(2;1,2) …

2 GSTAR(2;2,1) GSTAR(2;2,2) …

1

l 2

d0 d0 d0

Model GSTAR orde 2 observasi pada waktu t, untuk setiap lokasi-i

• GSTAR(2;1,1)

• GSTAR(2;1,2)

• GSTAR(2;2,1)

• GSTAR(2;2,2)

1 1

10 11 20 21

1 1

( ) ( 1) ( 1) ( 2) ( 2) ( )N N

i i i i

i i ij j i ij j i

j j

Z t Z t w Z t Z t w Z t e t

1 1 2

10 11 20 21 22

1 1 1

( ) ( 1) ( 1) ( 2) ( 2) ( 2) ( )N N N

i i i i i

i i ij j i ij j ij j i

j j j

Z t Z t w Z t Z t w Z t w Z t e t

1 2 1

10 11 12 20 21

1 1 1

( ) ( 1) ( 1) ( 1) ( 2) ( 2) ( )N N N

i i i i i

i i ij j ij j i ij j i

j j j

Z t Z t w Z t w Z t Z t w Z t e t

1 2 1 2

10 11 12 20 21 22

1 1 1 1

( ) ( 1) ( 1) ( 1) ( 2) ( 2) ( 2) ( )N N N N

i i i i i i

i i ij j ij j i ij j ij j i

j j j j

Z t Z t w Z t w Z t Z t w Z t w Z t e t

Model GSTAR orde 2 notasi matriks, dalam bentuk VAR(1)

• GSTAR(211)

• GSTAR(212)

• GSTAR(221)

• GSTAR(222)

10 11 20 21( ) ( 1) ( )

( 1) ( 2)

t t t

t t

Z W W Z e

Z I 0 Z 0

(2)

10 11 20 21 22( ) ( 1) ( )

( 1) ( 2)

t t t

t t

Z Z eW W W

Z Z 0I 0

(2)

10 11 12 20 21( ) ( 1) ( )

( 1) ( 2)

t t t

t t

Z Z eW W W

Z Z 0I 0

(2) (2)

10 11 12 20 21 22( ) ( 1) ( )

( 1) ( 2)

t t t

t t

Z Z eW W W W

Z Z 0I 0

Model GSTAR orde 2 struktur model linier εXβY

1 2

1 2

2 2

1 1

1 1

11 1

1 11

1

1 1

1 1

1 1 0 0 0 0 0 0

22 2 1 1 0 0 0 0

3

1 1 2 2 0 0 0 0

2

3

N N

ij j ij j

j j

N N

ij j ij j

j j

N N

ij j ij j

j j

N

N

N

Z w Z Z w Z

ZZ w Z Z w Z

Z

Z TZ T w Z T Z T w Z T

Z

Z

Z T

1

1 1

1 1

1 1

1

10

1

1

1

20

2

1 1

1 1

1 1

0 0 0 0 1 1 0 1

0 0 0 0 2 1 1 1

0 0 0 0 1 1 2 1

N N

N ij j N ij j

j j

N N

N ij j N ij j

j j

N N

N ij j N ij j

j j

Z w Z Z w Z

Z w Z Z w Z

Z T w Z Z T w Z

2

1

2

1

1

11

10

1

20

2

2

3

2

3

N

N

N N

N

N

N

e

e

e T

e

e

e T

1 1 1 1

2 2 2 2

0 0

0 0

0 0

N N N N

' ' '

' ' '

' ' '

Y X ε

Y X ε

Y X ε

Kuadrat Terkecil GSTAR(1;1)

)1()12()2()1( NTNNNTNT εXY

NX

X

X

X

00

00

00

2

1

iNiiiii

iwwww

1,1,1 0

00100M

)1()1()0(' Tii ZZZMX

)1()1()0(' TZZZIMX

NM

M

M

M

00

00

00

2

1

dapat ditulis,

dengan

)'ˆ,ˆ,...,ˆ,ˆ(ˆ101101 NNT Penaksir :

)1()12()2()1( NTNNNTNT εXY

YXXX 'ˆ' T

memenuhi,

Akibatnya,

εXXX 'ˆ' T

XX'dimana, harus non singulir.

')'1()1(1

'MZZIMXX

T

t

tt

T

t

tt1

' )'()1( vec eZMεX

Y X ε

YXXX 'ˆ' T

memenuhi,

Akibatnya,

εXXX 'ˆ' T

XX'dimana, harus non singulir.

Penaksir β : 1 2 1 2

1 1 1 1

10 1 20 2 10 1 20 2

N N N N

Tˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ,..., , ,..., ,..., ,..., , ,..., '

p

T̂

Kuadrat Terkecil GSTAR(2;λ1, λ2)

Kekonvergenan Penaksir Parameter

?ˆ

T

Tˆ

T

t

tt1

)'1()1( ZZ

T

t

tt1

1 )'()( eZ

Menyelidiki sifat limit dari dapat dilihat dari perilaku:

dan

Referensi • Borovkova, S.A., Lopuhaä, H.P., & Nurani, B., Consistency and Asymptotic Normality of Least Squares Estimators in

Generalized Space-Time Models, Statistica Neerlandica, 62, pp. 482-508, 2008. • Box, G.E.P., Jenkins, G.M. & Reinsel, G., Time Series Analysis, Forecasting and Control, 3rd ed., Prentice Hall, New

Jersey, 1994. • Mukhaiyar, U. Kestasioneran Model Generalized STAR Melalui Metode Invers Matriks Autokovariansi, PhD

Dissertation, Mathematics, Institut Teknologi Bandung, 2012. • Mukhaiyar, U. Kekonsistenan Lemah Penaksir Kuadrat Terkecil Model Space-Time GSTAR(1;1) Melalui Proses Beda

Martingale: Studi Kasus pada Produksi Bulanan Perkebunan Teh di Wilayah Jawa Barat, Magister Thesis, Institut Teknologi Bandung, 2007.

• Pfeifer, P.E., & Deutsch, S.J., A Three-Stage Iterative Approach for Space-Time Modeling, Technometrics, 22(1), pp. 35-47, 1980.

• Ruchjana, B.N. Suatu Model Generalisasi Space-Time Autoregresi dan penerapannya pada Produksi Minyak Bumi. , PhD Dissertation, Mathematics, Institut Teknologi Bandung, 2002.

• Wei, W.W.S., Time Series Analysis: Univariate and Multivariate Methods 2nd. Ed., Pearson Addison Wesley, Boston, 2006.