Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria...

24
Processi Aleatori : Introduzione – Parte II Fulvio GINI Fulvio GINI Dipartimento di Ingegneria dell’Informazione: Elettronica, Informatica, Telecomunicazioni Università di Pisa E-mail: [email protected] Accademia Navale, Livorno

Transcript of Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria...

Page 1: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

Processi Aleatori :Introduzione – Parte II

Fulvio GINIFulvio GINI

Dipartimento di Ingegneria dell’Informazione:

Elettronica, Informatica, Telecomunicazioni

Università di Pisa

E-mail: [email protected]

Accademia Navale, Livorno

Page 2: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

2Processi aleatori Gaussiani

Un processo X(t) si dice Gaussiano se per ogni N e per ogni N-upla di istanti t1 , t2 , …, tN , il vettore delle N variabili aleatorie

X = [ X(t1) X(t2) … X(tN) ]T

è un vettore Gaussiano, ovvero le N v.a. sono congiuntamente Gaussiane

1

/ 2

1 1( ) exp ( ) ( )

2(2 ) det( )

TX X X XN

X

f

x x m C x m

C

1 2[ ]TNX X XX Vettore Gaussiano: N v.a. congiuntamente Gaussiane

ddp congiunta di ordine N

Page 3: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

3

 

1 2

1 2

1 2

( ) ( ) ( )

( ) ( ) ( )

T

X N

T

N

T

X X X N

E E X E X E X

E X t E X t E X t

t t t

m X

1 1 2 1

2 1 2

1

1 1

2

2

2

( )( )

N

N N

N N N N

X X X X X

X X XTX X X

X X

X X X X X

c c

cE

c

c c

C X m X m

La ddp congiunta di ordine N è univocamente determinata dalla conoscenza della funzione valor medio e della funzione di autocovarianza del processo:

Vettore valori medi[ statistica di ordine 1 ]

Matrice di covarianza[ statistica di ordine 2 ]

,[ ] ( ( ) ( ))( ( ) ( )) ( , )i jX i j X X i X i j X j X i jc E X t t X t t C t t C

Processi aleatori Gaussiani

Page 4: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

4Proprietà dei vettori Gaussiani

Proprietà 1Proprietà 1: la ddp congiunta di ordine N di un vettore aleatorio Gaussiano è completamente specificata dal vettore valori medi e dalla matrice di covarianza

Proprietà 2Proprietà 2: una trasformazione lineare di vettori Gaussiani preserva la Gaussianità:

Proprietà 3Proprietà 3: una qualsiasi r-upla di v.a. estratte da X è ancora un vettore aleatorio Gaussiano, in particolare ogni Xk è una v.a.

Gaussiana

y Ax bT

Y X Y X m Am b C AC A

1 2 1 1 1 2 1 1( ) ( , , , , , , , )kX k X k k k N k k Nf x f x x x x x x dx dx dx dx dx

1 1 1, , , , , 1 2 1 1 1 2 1 1( , , , , , , ) ( , , , , , , , )k k NX X X X k k N X k k k N kf x x x x x f x x x x x x dx

Page 5: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

5

• Se {Xi;i=1,2,3,4} sono v.a. Gaussiane:

1 2 3 4 1 3 2 4 1 4 2 3 1 2 3 4

4

1 2 3 4 41 2 3 4

1 ( )XX X X X X X X X X X X X X X X XE X X X X r r r r r r

j

Proprietà 4: Proprietà 4: Funzione caratteristica di un vettore Gaussiano

1 1( )1

1( ) ( , , ) e e exp

2

ΤN Nj X X j Τ Τ

X X N X XE E j

X m C

• Se {Xi;i=1,2, … , N} sono v.a. Gaussiane indipendenti:

2 2 2 2

1 1 1

1 1( ) exp exp

2 2i i i i

NN N

X X i X i X i X ii i i

j j

Proprietà dei vettori Gaussiani

i jX X i jr E X X

Page 6: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

6

Proprietà 5Proprietà 5: se N v.a. congiuntamente Gaussiane sono a due a due incorrelate, esse sono anche indipendenti

1

2

2

2

2

2

2

( )2

212 2

1 1 1

0 0

0 0 per

0

0 0

( ) 1( ) ( ) ( ) ( )

2

i j

N

i Xi

Xi i

i

i i

X

XX X X

X

xN NN

i XTX X X X X i

i i iX X

c i j

xf e f x

C

x m C x m x

• Se sono anche identicamente distribuite: , dove I è la matrice identità, e

2X XC I

[11 1]TX X X m 1

Proprietà dei vettori Gaussiani

Page 7: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

7

Proprietà 6Proprietà 6: la ddp di una qualsiasi r-upla di v.a. condizionata ad un qualsiasi sottogruppo di k v.a. (prese tra le rimanenti N-r) è Gaussiana

, 1 2

T

r k r k k k r kE E X E X E X m X X X X X

, , ,( )( )Tr k r r k r r k kE C X m X m X

1, , ,/ 2

,

1 1( ) exp ( ) ( )

2(2 ) det( )r k

Tr k r r k r k r r kr

r k

f

X X x x x m C x mC

vettore valori medi e matrice di covarianza condizionati

Proprietà dei vettori Gaussiani

Page 8: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

8

y

x

Densità di Probabilità (ddp) di due v.a. congiuntamente Gaussiane:

0 0

1 1

0

X Y

X Y

XY

Sistema di 2 v.a. congiuntamente Gaussiane

, 22

1 1( , ) exp ( , )

2 12 1X Y

XYX Y XY

f x y Q x y

, ( , ) ( ) ( )X Y X Yf x y f x f y

2 2

( , ) 2X X Y YXY

X X Y Y

x x y yQ x y

Page 9: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

9Generazione di V.A. cong. Gaussiane correlate

1

/ 2

1 1( ) exp ( ) ( )

2(2 ) det( )

TW W W WN

W

f

w w m C w m

C

z Aw b

Z W

TZ W

m Am b

C AC A

,W W m 0 C I ,Z Zm C

[ ( )]TZCholA C ( )Chol Decomposizione di Cholesky

matrice triangolare superioreoppure

TZ C V V

1/ 2 1/ 2 1/ 2 1/ 2( )( )T T TZ C V V V V AA

1/ 2 A V

Zb m

desiderati

?

Decomposizione spettrale

1/ 2Z z V w m

Z

TZ

m b

C AA

Page 10: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

10Campionamento di processi tempo-continui

Sia dato un processo tempo- continuo Y(t), stazionario almeno in senso lato, con funzione di autocorrelazione e densità spettrale di potenza date:

( ) ( ) ( ) ( )FT

a aY Y aR E Y t Y t S f

Campioniamo Y(t) negli istanti tn=nT, in modo da ottenere la

sequenza di v.a. Y[n]=Y(nT), ovvero il processo tempo-

discreto Y[n]1 2T B

La ACF di Y[n] è data dalla versione campionata di quella del processo tempo-continuo Y(t), infatti:

[ ] [ ] [ ] ( ) ( ) ( )aY YR m E Y n Y n m E Y nT Y nT mT R mT

filtro anti-aliasing

Page 11: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

11

2 2[ ] ( ) [ ]DTFT

a j f j mfY Y Y Y

m

R m R mT S e R m e

Campionamento di processi tempo-continui

Il legame tra la PSD di Y(t) e quella di Y[n] è noto dal Teorema del Campionamento: campionamento nel tempo comporta la

periodicizzazione nel dominio della frequenza:

2 1

a

j f aY Y a

k f f T

kS e S f

T T

1 2

2 2

1 2

Potenza media : [ ] [0] j fY Y YP E X n R S e df

fa è la frequenza analogica [Hz] - f è la frequenza discreta [Adimens.]

Page 12: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

12Processo bianco tempo-discreto

Un processo tempo-discreto Y[n] si definisce “bianco” quando è formato da una sequenza di v.a. incorrelate e a valor medio nullo,

ovvero quando la sua ACF ha la seguente forma:

22 , 0

[ ] [ ]0, 0

YY Y

mR m m

m

La PSD di Y[n] è quindi data da:

ovvero è costante per tutte le f, giustificando l’apellativo “bianco”

2 2 2 2[ ]j f j mfY Y Y

m

S e m e

1 22 2

1 2

j fY Y YP S e df

Nota bene: la potenza media è finita, a differenza dei processi

bianchi tempo-continui:

[ ] 0E Y n

Page 13: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

13

[ ]h n[ ]X n [ ] [ ] [ ]

[ ] [ ]k

Y n X n h n

h k X n k

Processi lineari tempo-discreti

2 2

Risposta in frequenza:

[ ]j f j mf

m

H e h k e

2

2 2

[ ] [ ]X X

j fX X

R m m

S e

Processo bianco

2

2 22 2 2 2 2

[ ] [ ] [ ] [ ] [ ] [ ]Y X X

j f j f j f j fY X X

R m R m h m h m h m h m

S e S e H e H e

Il processo in uscita è

“colorato” dal filtro

MATLAB: y=conv(x,h)

Page 14: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

14

[ ]h n[ ]X n1 0

[ ] [ ] [ ]QP

k kk k

Y n a Y n k b X n k

Processi Autoregressivi a Media Mobile ARMA(P,Q)

Eq. alle differenze ricorsiva

MATLAB: y=filter(b,a,x

)

1

1 0P

kk

k

a z

Poli del filtro

= soluzioni dell’Equazione Caratteristica

22

2 0 10

2 2

1 1

1

QQj fj kf

kkj f k k

P Pj kf j f

k kk k

e zb eH e k

a e e p

WGNWhite Gaussian Noisex=randn(N,1)

Filtro IIR

Page 15: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

15

[ ]h n[ ]X n1

[ ] [ ] [ ]P

kk

Y n a Y n k X n

Processi Autoregressivi AR(P)

Eq. alle differenze ricorsiva

MATLAB: y=filter(b,a,x

)1

1 0P

kk

k

a z

Poli del filtro

= soluzioni dell’Equazione Caratteristica

2 0

2 2

1 1

1

1

j fP P

j kf j fk k

k k

kH e

a e e p

WGNWhite Gaussian Noisex=randn(N,1)

Filtro IIR di ordine P

Page 16: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

16Spettro di un processo AR(1)

2 22

2 2

1( )

1 1 2 cos 2X

Y X j fS f

ae a a f

f

Page 17: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

17

[ ]h n[ ]X n0

[ ] [ ]Q

kk

Y n b X n k

Eq. alle differenze non ricorsiva

Risp. impulsiva:

MATLAB: y=filter(b,a,x

)0

0Q

kk

k

b z

Zeri del filtro

= soluzioni dell’equazione

2 2 20

0 1

QQj f j kf j f

k kk k

H e b e k e z

WGNWhite Gaussian Noisex=randn(N,1)

Filtro FIR di ordine Q

Processi a media mobile MA(Q)

0

[ ] [ ]Q

kk

h n b n k

Page 18: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

18ACF e spettro di un processo

MA(16)

Filtro a media mobile

0

1[ ] [ ]

N

k

Y n X n kN

1[ ] per 0,1,2, ,h n n N

N

2

222

2 2

[ ] 1

per 0, 1, 2, ,

sinc( )

sinc

XY

j f XY

mR m

N N

m N

NfS e

N f

f

Page 19: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

19Segnali tempo-discreti: ACF e PSD

22

2

12

0

[ ] [ ] [ ]

( )( ) lim

( ) [ ]

X

j fNj f

XN

Nj fN n

R m E X n X n m

X eS e E

N

X e DTFT X n

2

2

22

2

[ ] [ ] [ ]

1 lim [ ] [ ]

1

( )( ) lim

X

N

Nn N

j fNj f

X N

r m x n x n m

x n x n mN

X ee

N

S

Confronto tra alcune definizioni per segnali aleatori e deterministici

Page 20: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

20Segnali tempo-discreti: ACF e PSD

2

2 2

2

1 22

1 2

[ ] ( )

( ) [ ]

[ ]

[0] ( )

FTj f

X X

j f j fmX X

m

X

j fX X

R m S e

S e R m e

P E X n

R S e df

2

2 2

22 2

2

1 22

1 2

[ ] ( )

( ) [ ]

1[ ] lim [ ]

1

[0] ( )

FTj f

X X

j f j fmX X

m

N

XN

n N

j fX X

r m e

e r m e

P x n x nN

r e df

S

S

S

Confronto tra alcune definizioni per segnali aleatori e deterministici

Page 21: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

21Processi ergodici tempo-discreto

Come nel caso di processi ergodici tempo-continui, per processi ergodici tempo-discreti è possibile misurare certe statistiche, definite come medie d’insieme, mediante le corrispondenti medie temporali calcolate su una qualsiasi realizzazione:

2

2

1 [ ] [ ] lim [ ]

1

N

X xNn N

E X n x n x n mN

2

2

[ ] [ ] [ ] [ ] [ ]

1 lim [ ] [ ] [ ]

1

X

N

xN

n N

R m E X n X n m x n x n m

x n x n m r mN

valor medio

ACF

Page 22: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

22

In pratica, valor medio, funzione di autocorrelazione e densità spettrale di

potenza di un processo s.s.l., ergodico, si misurano dai dati come segue:

1

0

1ˆ [ ]

N

Xn

x nN

1

0

1ˆ [ ] [ ] [ ] , 1N m

Xn

R m x n x n m m NN m

valor medio

ACF

[ ]; 0,1,2, , 1x n n N dati

PSD1

2 2

( 1)

ˆ ˆ ˆ( ) [ ] [ ]N

j f j fmX X X

N

S e DTFT R m R m e

22 1ˆ ( ) [ ]j fXS e DTFT x n

N

Analisi in potenza di un processo ergodico

1

0

1ˆ [ ] [ ] [ ]N m

Xn

R m x n x n mN

[ di fatto, si usa la FFT ]

Page 23: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

23Analisi di Fourier: segnali tempo-continuo

0

0 0

0

22 2

0 2

1( ) ( ) ,

n nTj t j tFST T

n nn T

x t X e X x t e dt nT

0( ) periodico tempo-continuo ( ) aperiodico frequenza-discretaFS

nx t T X

Trasform. Continua di Fourier di un segnale aperiodico tempo-continuo (FT o TCF)

2 2( ) ( ) ( ) ( ) ,FT

j ft j ftx t X f e df X f x t e dt f

( ) aperiodico tempo-continuo ( ) aperiodico frequenza-continuaFT

x t X f

Trasformata Serie di Fourier di un segnale periodico tempo-continuo (FS o TSF)

Page 24: Processi Aleatori : Introduzione – Parte II Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

24Analisi di Fourier: segnali tempo-discreto

Trasformata Serie di Fourier di un segnale periodico tempo-discreto (DTFS o DFT)

1 12 2

0 0

1[ ] [ ] [ ] [ ] , 0,1, , 1

k kN NDTFSj n j nN N

k n

x n X k e X k x n e k NN

[ ] periodico tempo-discreto ( ) [ ] periodico frequenza-discreta ( )DTFS

x n N X k N

Trasformata Continua di Fourier di un segnale aperiodico tempo-discreto (DTFT)

1 22 2 2 2

1 2

[ ] ( ) ( ) [ ] , 1 2 1 2DTFT

j f j fn j f j fn

n

x n X e e df X e x n e f

2[ ] aperiodico tempo-discreto ( ) periodico frequenza-continua (1)DTFT

j fx n X e