Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria...

54
Processi Aleatori : Introduzione – Parte I Fulvio GINI Fulvio GINI Dipartimento di Ingegneria dell’Informazione: Elettronica, Informatica, Telecomunicazioni Università di Pisa E-mail: [email protected]

Transcript of Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria...

Page 1: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

Processi Aleatori :Introduzione – Parte I

Fulvio GINIFulvio GINI

Dipartimento di Ingegneria dell’Informazione:

Elettronica, Informatica, Telecomunicazioni

Università di Pisa

E-mail: [email protected]

Page 2: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

2Definizione di processo aleatorio

Dato un esperimento casualeesperimento casuale di modello di probabilità assegnato, ad ogni suo risultato i, si associ una funzione reale x(t,) della variabile t;

risulta così definito un insieme di funzioni X(t,), detto processo processo aleatorioaleatorio (o casuale o stocastico), che verrà indicato in breve con X(t), omettendo così la dipendenza da

, , PrS Spazio di probabilità

tTspazio campione

Page 3: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

3

Esempi di elettrocardiogramma in pazienti affetti da aritmia

Rappresentazione grafica della definizione di p.a.

Segnali che portano informazione sono per sua natura aleatori !

, , PrS

Page 4: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

4

Nella maggior parte delle applicazioni t rappresenta il tempo

Le funzioni x(t,) sono funzioni deterministiche, la casualità risiede

solo nella presentazione di un particolare risultato dell’esperimento

Fissato il valore di X(t,) è una funzione deterministica detta

funzione campione del processo

La particolare x(t,) che si osserva in una data prova dell’esperimento

aleatorio prende il nome di realizzazione del processo

Definizione di processo aleatorio

Page 5: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

5Variabile aleatoria estratta da un p.a.

Qualora si fissi un determinato istante di tempo t1, ad ogni risultato

dell’esperimento viene associato il valore numerico x(t1,) della

corrispondente realizzazione in quell’istante Si ottiene così una quantità dipendente da cioè una v.a. indicata con

X(t1) … in altre parole, fissato il valore t, il processo casuale X(t) è una v.a.

che indicheremo, per semplicità con X(t)

Page 6: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

6

t2

Se si fissano due istanti distinti t1 e t2 si ottengono due distinte v.a. X(t1)

e X(t2), che costituiscono un sistema di due variabili aleatorie, ovvero il

vettore aleatorio X = [ X(t1) X(t2) ]T

Analogamente, fissati N istanti t1 , t2 , …, tN , il processo genera un vettore

di N variabili aleatorie X = [ X(t1) X(t2) … X(tN) ]T

La descrizione statistica del processo implica perciò la conoscenza della legge di distribuzione di tutti i possibili sistemi così formati

N v.a. estratte da un processo aleatorio

Page 7: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

7

Riassumendo X(t,), semplificato in X(t), può rappresentare: un insieme di funzioni delle variabili t ed (processo aleatorio) una funzione deterministica della variabile t detta funzione campione

del processo ( fissato, t variabile) una variabile casuale indicata con X(t) (t fissato, variabile un numero reale (t e fissati

• In molte applicazioni i risultati dell’esperimento sono già delle forme

d’onda; in tal caso non vi è più distinzione tra risultato e funzione campione assegnatagli• Esempi: misura della tensione di rumore, segnale musicale/video trasmesso, segnale dati all’uscita di un PC

Siano X(t) ed Y(t) due p.a., essi sono uguali [ e scriveremo X(t) = Y(t) ] se e solo se in corrispondenza degli stessi risultati dello stesso esperimento vengono associate identiche funzioni del tempo

Definizione di processo aleatorio

Page 8: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

8

Un processo X(t) si dice statisticamente determinato se sono note le sue funzioni di distribuzione (Cumulative Distribution Function, CDF):

1 2 1 2 1 1 2 2, , , ; , , , Pr , , ,X N N N NF x x x t t t X t x X t x X t x

per ogni N e per ogni N-upla di istanti t1 , t2 , …, tN

Nota la CDF di ordine N è possibile ricavare tutte le CDF di ordine inferiore mediante le regole marginali (non vale il viceversa)

Nota: la funzione di distribuzione di ordine N del processo è ovviamente la funzione di distribuzione del vettore di v.a. X = [ X(t1) X(t2) … X(tN) ]T ottenuto fissando N istanti t1 , t2 , …, tN

Nota: anche se il comportamento statistico di un processo stocastico è completamente determinato quando sono note le distribuzioni di tutti i possibili ordini, in alcune applicazioni è sufficiente conoscere alcune statistiche dei primi due ordini (descrizione in potenza del processo)

Descrizione statistica di un processo aleatorio

A. Specificazione diretta

Page 9: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

9Descrizione statistica di un processo aleatorio

B. Specificazione in forma parametrica

Un processo X(t) si dice parametrico quando può essere specificato attraverso la forma delle sue funzioni campione, che dipende parametricamente da un certo numero di variabili aleatorie:

1 2( ) ( ; , , )KX t s t

1 2( , , )Kf

La caratterizzazione statistica completa del

processo richiede la ddp congiunta dei parametri

aleatori

Page 10: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

10Esempi di p.a. parametrici

0( ) cos 2

con ( , )

X t a f t

U

Oscillazione cosinusoidale con fase iniziale incognita

( ) con ( 1,1)X t A A U

Tensione costante di valore aleatorio

Page 11: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

11

Funzione campione del processo segnale dati binario

Esempi di p.a. parametrici

v.a. binarie {-1,+1}

segnale deterministico

0 (0, ) Jittert U T 0k Tk

S t A g t kT t

0

N

k Tk

S t A g t kT

Modello più realistico:

00

, ,

1 1( 1) ( 1)

2 2

i

i

N

A N A ii

A i i i

f a a f a

f a a a

Page 12: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

12Descrizione statistica di un processo aleatorio

C. Specificazione mediante altri processi e loro trasformazioni

[ ]T )(tX ( ) [ ( ); ]Y t T X t

Classificazione di un processo aleatorio

Il processo Y(t) viene caratterizzato attraverso la descrizione statistica completa di X(t) e della trasformazione T[.]

ampiezze continue/discrete

variabile indipendente continua/discreta

Si hanno quindi 4 classi: processi a valori continui e tempo-continuo, processi valori continui e tempo-discreto, ecc.

Page 13: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

13Descrizione statistica del primo ordine

Fissato un istante t, X(t) rappresenta una variabile aleatoria (v.a.).La sua funzione di distribuzione, che dipende in generale da t, è detta funzione di distribuzione del primo ordine del processo X(t):

; PrXF x t X t x

Analogamente, si definisce la funzione densità di probabilità del primo ordine del processo X(t):

( ; ); X

X

F x tf x t

x

Per processi discretiX(t) è una v.a. discreta, si

può usare la massa di probabilità:

; Pr ( )XP x t X t x

( )( ; )

( ; ) ( ; )

j X tX

FTj x

X X

t E e

e f x t dx f x t

; ( ) ( )X k kk

f x t P t x x

… ed in maniera ovvia si definisce la funzione caratteristica del primo ordine di X(t):

dove ( ) Pr ( )k kP t X t x

Page 14: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

14Indici statistici del primo ordine

Funzione valor medio del processo X(t):

( ) ;X Xt E X t x f x t dx

2 2( ) ;X XP t E X t x f x t dx

Funzione potenza media statistica (istantanea):

Si definiscono le seguenti statistiche del primo ordine:

22

2

2

( ) ( )

( ( )) ;

( ) ( )

X X

X X

X X

t E X t t

x t f x t dx

P t t

Funzione varianzadel processo X(t):

In generale sono funzioni del tempo t

Nota: non necessariamente X(t) deve coincidere con una della funzioni campione del processo X(t)

Page 15: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

15Interpretazione di FX(x;t)

in termini di frequenza relativa

Ripetiamo N volte un dato esperimento. In ciascuna prova osserviamo una funzione del tempo x(t) (una realizzazione). Otteniamo così N realizzazioni del processo Dati due numeri x e t, indichiamo con nt(x) il numero di realizzazioni

per cui si verifica che, all’istante t, il valore della funzione è non superiore a x. Allora si ha:

; Pr t

X

n xF x t X t x

N

; lim t

X N

n xF x t

N

Page 16: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

16Interpretazione di fX(x;t)

in termini di frequenza relativa

Analogamente, dati due numeri x e t, se indichiamo con nt(x) il numero di realizzazioni per cui si verifica che al tempo t, il valore della funzione x(t) è compreso tra x ed x+x, con x opportunamente piccolo, si ha:

; Pr t

X

n xf x t x x X t x x

N

0

; lim tX x

N

n xf x t

N x

Page 17: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

17

Dati due istanti t1 e t2, consideriamo le v.a. X(t1) e X(t2);la loro funzione di distribuzione congiunta, che dipende in generale da t1 e t2, è detta funzione di distribuzione del secondo ordine del processo X(t):

1 2 1 2 1 1 2 2, ; , Pr ,XF x x t t X t x X t x

Analogamente, si definisce la funzione densità di probabilità del secondo ordine del processo X(t):

2

1 2 1 21 2 1 2

1 2

( , ; , ), ; , X

X

F x x t tf x x t t

x x

Nota: Se il processo è discreto

(nelle ampiezze) si può usare la

massa di probabilità congiunta

Descrizione statistica del secondo ordine

1 1 2 2[ ( ) ( )]1 2 1 2 1 2 1 2( , ; , ) ( , ; , )

FTj X t X t

X Xt t E e f x x t t

… ed in maniera ovvia si definisce la funzione caratteristica del secondo ordine di X(t):

Page 18: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

18Interpretazione di fX(x1,x2;t1,t2)

in termini di frequenza relativa

1 2

1

2

1 21 2 1 2 0

1 20

,, ; , lim t t

X xx

N

n x xf x x t t

N x x

Indicando con nt1t2(x1,x2) il numero di realizzazioni la cui

ampiezza è compresa tra x1 e x1 +x1all’istante t1 e tra x2 e x2 +x2all’istante t2, si ha:

1 2

1 2 1 2 1 2 1 1 1 1 2 2 2 2

1 2

, ; , Pr ,

,

X

t t

f x x t t x x x X t x x x X t x x

n x x

N

Page 19: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

19Analisi in potenza

In molti casi, ci si accontenta di studiare il processo analizzando solamente le funzioni valore medio e di autocorrelazione (ACF)

Pr ( )

( ) ( )( ; )d

i ii

X

X

x X t x

t E X txf x t x

La funzione di autocorrelazione di un processo è la correlazione (momento congiunto ordinario) delle v.a. X(t1) e X(t2); essa è funzione di t1 e t2:

1 2

1 2 1 2

1 2 1 2 1 2 1 2

Pr ( ) , ( )

( , ) ( ) ( )( , ; , )

i j i ji j

X

X

x x X t x X t x

R t t E X t X tx x f x x t t dx dx

È un indice statistico di ordine 1

… ordine 2

La funzione valore medio di un processo X(t) è il valore aspettato della v.a. X(t); esso è in generale una funzione del tempo:

Page 20: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

20Funzione di Autocovarianza

Al posto della funzione di autocorrelazione possiamo considerare la funzione di autocovarianza

La funzione di autocovarianza di un processo è la covarianza (momento congiunto centrale) delle v.a. X(t1) e X(t2); in generale è funzione di t1 e t2:

Tra autocorrelazione ed autocovarianza esiste la relazione:

Nota: ponendo t1 = t2 = t, l’autocorrelazione e l’autocovarianza si identificano rispettivamente con il valore quadratico medio (potenza media statistica istantanea) e la varianza della v.a. X(t):

2,X XR t t E X t P t 2 2,X X XC t t E X t t t

1 2 1 1 2 2,X X XC t t E X t t X t t

1 2 1 2 1 2, ,X X X XC t t R t t t t

Page 21: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

21

Siano dati due processi stocastici X(t) ed Y(t), si definiscono le seguenti funzioni:

1 2 1 1 2 2,XY X YC t t E X t t Y t t

Tra le funzioni di correlazione mutua e covarianza mutua esiste la relazione:

1 2 1 2 1 2, ,XY XY X YC t t R t t t t

1 2 1 2,XYR t t E X t Y t Funzione di correlazione mutua

Funzione di covarianza mutua

Correlazione mutua ed autocovarianza mutua

Page 22: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

22

Due processi stocastici X(t) ed Y(t), si dicono incorrelati se:

1 2 1 2 1 2 1 2, 0 , ,XY XY X YC t t R t t t t t t

Se si dicono ortogonali 1 2 1 2, 0 ,XYR t t t t

Infine, X(t) ed Y(t) si dicono indipendenti se sono indipendenti i due vettori aleatori X = [ X(t1) X(t2) … X(tN) ]T ed Y = [ Y(tN+1) Y(tN+2) … Y(t2N) ]T per ogni t1 , t2 , … , tN , tN+1, tN+2, … , t2N

Questo implica che la densità di probabilità congiunta dei due vettori è il prodotto delle densità di probabilità di ciascuno dei due

Se i processi sono indipendenti sono anche incorrelati, mentre non è necessariamente vero il contrario

Processi incorrelati, ortogonali, indipendenti

Page 23: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

23

Stazionarietà in senso stretto

1 1 1 1 1, , ; , , , , ; , , , , , ,X N N X N N Nf x x t t f x x t t t t N

Processi stazionari

Un processo aleatorio si dice stazionario in senso stretto se il suo comportamento statistico è invariante rispetto ad una traslazione dell’origine dei tempi

Questo significa che i due processi X(t) e X(t+) hanno le stesse statistiche per ogni valore di e per ogni ordine, ovvero la ddp congiunta soddisfa la seguente relazione:

I processi X(t+ ) ed X(t) si dicono statisticamente equivalenti, nel senso che non sono distinguibili tramite la misurazione delle loro statistiche; ovviamente questo non vuol dire che le loro realizzazioni siano uguali

Page 24: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

24Stazionarietà del primo ordine

Un processo aleatorio si dice stazionario di ordine 1 se la ddp

del primo ordine soddisfa la seguente relazione:( ; ) ( ; ) ,X Xf x t f x t t

Questo implica che fX(x;t) sia indipendente da t:

( ; ) ( )X Xf x t f x

Il valore medio, la potenza media e la varianza di un processo stazionario (almeno) di ordine 1 sono perciò costanti (non vale il viceversa). Ad esempio:

( ) ( ) ( ; ) ( )X X X Xt E X t xf x t dx xf x dx

Page 25: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

25Stazionarietà del secondo ordine

Un processo aleatorio si dice stazionario di ordine 2 se la ddp del secondo ordine soddisfa la seguente relazione:

1 2 1 2 1 2 1 2 1 2( , ; , ) ( , ; , ) , ,X Xf x x t t f x x t t t t

Questo implica che fX(x1 ,x2; t1 ,t2) dipenda solo da = t2 - t1 :

La funzione di autocorrelazione di un processo stazionario (almeno) di ordine 2 è una funzione di = t2 - t1 :

1 2 1 2 1 1

1 2 1 2 1 2

, ( ) ( ) ( ) ( )

( , ; ) ( )

X

X X

R t t E X t X t E X t X t

x x f x x dx dx R

1 2 1 2 1 2 2 1 1 2, ; , ( , ;0, ) ( , ; )X X Xf x x t t f x x t t f x x

Page 26: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

26Stazionarietà di ordine N

Un processo stazionario di ordine N lo è anche di ogni ordine minore di N ; infatti ciascuna ddp di ordine K<N si può ricavare da quella di ordine N mediante le regole marginali, ad esempio:

1 1 1 1 1 2, ; , , , , ; , , , , , ,X N N X N N Nf x x t t f x x t t t t t

Un processo aleatorio si dice stazionario di ordine N, se la ddp di ordine N soddisfa la seguente relazione:

1 1 1 1 1 1

1 1 1 1 1 1

1 2 1

, ; , , , ; , ,

, , ; , , , , ; , ,

, , , ,

X N N X N N N

X N N N X N N

N

f x x t t f x x t t dx

f x x t t dx f x x t t

t t t

Questo implica che:

1 2 1

1 1 1 2 1 3 2 1, ; , , ( , , ; , , , )

N

X N N X N N Nf x x t t f x x t t t t t t

Page 27: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

27

Un processo X(t) si dice stazionario in senso lato o debolmente stazionario se il suo valore medio è costante e la sua funzione di autocorrelazione dipende soltanto da = t2 - t1:

( ) ( )X Xt E X t

1 2 1 2 1 1( , ) ( ) ( ) ( ) ( ) ( )X XR t t E X t X t E X t X t R

La stazionarietà in senso lato riguarda soltanto due particolari statistiche del primo e del secondo ordine (quelle coinvolte nell’analisi in potenza)

La stazionarietà in senso lato è una condizione più debole della stazionarietà di ordine 2

Se il processo è stazionario di ordine 2 (o maggiore di 2) lo è anche in senso lato, non vale in generale il viceversa

Stazionarietà in senso lato

Page 28: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

28Processi congiuntamente stazionari

( ) costanteXE X t

( ) ( ) ( )XE X t X t R

( ) costanteYE Y t

( ) ( ) ( )YE Y t Y t R

1 2 1 2( , ) ( ) ( ) ( ) ( ) ( )XY XYR t t E X t Y t E X t Y t R

Due processi X(t) ed Y(t) sono congiuntamente stazionari in senso

stretto se sono entrambi stazionari in senso stretto ed inoltre tutte le loro statistiche congiunte, di qualunque ordine N, coincidono con le

equivalenti statistiche di X(t+ ) ed Y(t + ) Due processi X(t) ed Y(t) si dicono congiuntamente stazionari in senso lato se ciascuno dei due soddisfa le condizioni di stazionarietà in senso lato ed inoltre la correlazione mutua dipende solo da = t2 - t1:

Page 29: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

29Proprietà della funzione di

autocorrelazione

( ) ( ) ( ) ( ) ( )

( ) ( )

X

X

R E X t X t E X t X t

E X t X t R

2(0) ( ) 0X XR E X t P

RX(0) viene detta potenza media statistica (istantanea) del processo X(t):

se consideriamo il processo X(t) come l’insieme delle funzioni campione che rappresentano la tensione applicata ai capi di una resistenza unitaria, x2(t,) è la potenza istantanea dissipata dalla realizzazione associata al risultato dell’esperimento casuale. Perciò il valore quadratico medio RX(t,t)=E{X2(t)}

fornisce il valore medio (statistico) della potenza dissipata sulla resistenza unitaria all’istante t Se il processo è stazionario almeno in s.l. RX(t,t) = RX(0)=costante è la potenza

media dissipata in qualunque istante

Proprietà 1. L’ACF di un processo reale, stazionario almeno in senso lato, è una funzione reale e pari:

Page 30: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

30Proprietà della funzione di

autocorrelazione Proprietà 2. L’ACF di un processo stazionario (almeno) in senso lato (s.s.l.) assume il valore max nell’origine:

2 2 2( ) ( ) ( ) ( ) 2 ( ) ( )

2 (0) 2 ( ) 0X X

E X t X t E X t E X t E X t X t

R R

( ) (0)X XR R

Da cui si ricava ( ) (0)X XR R c.v.d.

Proprietà 3. Se un processo casuale Z(t) contiene una componente periodica X(t)= X(t+T0), anche l’ACF contiene una

componente periodica dello stesso periodo T0

0 0( ) ( ) ( ) ( ) ( ) ( )X XR E X t X t E X t X t T R T

Page 31: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

31

Proprietà 4. Se l’ACF di di un processo s.s.l. non contiene componenti periodiche, vale:

2 2lim ( ) lim ( )X X X XR C

Esempio 1 di processo la cui ACF contiene componenti periodiche:

0

2

( ) cos(2 )

con ( ) e (0,2 )

e indipendenti

X t A f t

A

A

R U

Esempio 2 di processo la cui ACF contiene componenti periodiche:

2 2( ) con (0, ) 0, ( )A X X AX t A A N R

2 0

20

( ) 0

1( ) cos(2 )

2

cos(2 )

X

X

E X t

R E A f

f

Proprietà della funzione di autocorrelazione

Page 32: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

32Proprietà della correlazione mutua

Proprietà della correlazione mutua di due processi congiuntamente stazionari almeno in senso lato:

( ) ( ) ( )XYR E X t Y t

( ) ( ) ( ) ( ) ( )

( ) ( )

YX

XY YX

R E Y t X t E Y t X t

E X t Y t R R

2( ) (0) (0)XY X YR R R

( ) ( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( ) ( )

Z

X Y XY YX

R E Z t Z t E X t Y t X t Y t

E X t X t E Y t Y t E X t Y t

E Y t X t R R R R

Se Y(t) ed X(t) sono due processi congiuntamente stazionari l’autocorrelazione del processo Z(t)=X(t)+Y(t) è data dalla relazione:

Page 33: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

33

2 20ACF: ( ) ( ) ( ) cos(2 )Z X Y XR R R e f

Processo aleatorio: Z(t)=X(t)+Y(t), somma di un processo X(t) s.s.l. con valor medio nullo ed ACF esponenziale bilatera e di un processo Y(t) cosinusoidale con ampiezza e fasi aleatorie; inoltre X(t) ed Y(t) sono incorrelati

Esempio

2 2(0) ( ) , durata di ( ),

ovvero tempo di correlazione di ( )

X X XR E X t R

X t

Nota bene: non possiamo ottenere il valor medio di Z(t) (in valore assoluto) facendo il limite per che tende ad infinito della ACF di Z(t), a causa della presenza della componente periodica dovuta a Y(t)

2 2(0) ( ) potenza della componente periodicaYR E Y t

Page 34: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

34Significato della ACF

( ) ( ) ( )XR E X t X t

Page 35: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

35Densità Spettrale di Potenza

Dato un processo aleatorio X(t), stazionario almeno in senso lato, si definisce densità spettrale di potenza (Power Spectral Density, PSD) la seguente grandezza:

2( ) ( )e j fX XS f R d

Ovviamente dalla PSD si può ricavare l’ACF mediante la trasformata

inversa di Fourier: ( ) ( )FT

X XR S f

2

2( ) 1( ) lim lim ( )T

X TT T

X fS f E E X f

T T

La PSD si può ottenere anche come la trasformata di Fourier (FT) della funzione di autocorrelazione (Teorema di Wiener-Khintchine):

dove : ( ) ( )TX f FT x t rect t T

Page 36: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

36Proprietà della PSD

fSfS XX

Proprietà 1. Poiché l’autocorrelazione è una funzione reale e pari, anche la PSD è reale e pari:

2(0) ( ) ( )X X XR E X t P S f df

Tale relazione giustifica il nome di densità spettrale di potenza dato a SX(f)

Proprietà 2. Il valore quadratico medio (o potenza media statistica) di un processo è legato alla PSD dalla relazione :

Proprietà 3. SX(f) è sempre positiva o nulla (Teo. di Bochner):

21( ) lim ( ) 0X TT

S f E X f fT

Page 37: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

37

Proprietà 4. La presenza di componenti periodiche della ACF

da luogo a righe (delta di Dirac) nella PSD In generale, la PSD è formata da una parte continua + una parte discreta, ovvero “a righe”, la posizione delle righe è legata alle periodicità presenti nelle realizzazioni del processo

Proprietà della PSD

Esempio. Processo parametrico: X(t)=p(t-T), essendo T una v.a. uniformemente distribuita in [0,T0) e p(t) un segnale

deterministico a potenza media finita, periodico di periodo T0

N.B. Ogni realizzazione di X(t) è periodica di periodo T0 0

0

0 0

0 0

2

00 0 2

1( ) ( ) ( ) ( )

1 1( ) ( )

T

X T

Tt

t T T

E X t p t x f x dx p t x dxT

p d p d PT T

0 coeff. di ordine 0 della di ( ) = valor medio temporale di ( )P FS p t p t

Page 38: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

38

0

0

0

0

0 00

2

0 2

( ) ( ) ( ) ( ) ( ) ( )

1 1( ) ( ) ( ) ( )

1( ) ( ) ( )

X T

T t

t T

T

p

T

R E X t X t p t x p t x f x dx

p t x p t x dx p p dT T

p t p t dt rT

2

0

( ) ( ) ( ) ( )X X p p kk

kS f FT R FT r S f P f

T

( ) di ( ) , di ( )p kS f PSD p t P FS p t

ACF e PSD del processo parametrico X(t)=p(t-T)

Page 39: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

39

2 20ACF: ( ) ( ) ( ) cos(2 )Z X Y XR R R e f

Processo aleatorio: Z(t)=X(t)+Y(t), somma di un processo X(t) s.s.l. con valor medio nullo ed ACF esponenziale bilatera e di un processo Y(t) cosinusoidale con ampiezza e fasi aleatorie; inoltre X(t) ed Y(t) sono incorrelati

Esempio: ACF e PSD

2 2(0) ( ) , durata di ( ),

ovvero tempo di correlazione di ( )

X X XR E X t R

X t

2 2 2

0 02

2PSD : ( ) ( )

1 (2 ) 2 2X

Z ZS f FT R f f f ff

parte continua parte discreta

Page 40: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

40Significato della PSD

2 1( ) ( ) sinc ( )X X cor cor X

cor

S f FT R f B

Page 41: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

41Alcuni confronti …

Proprietà: le realizzazioni di un processo stazionario almeno in senso lato non possono avere durata finita e non possono avere energia finita, devono essere segnali a potenza media finita

2

2

( ) ( ) ( )

( )( ) lim

( ) ( )

( ) (0) ( )

X

TX T

FT

X X

X X X

R E X t X t

X fS f E

T

R S f

P E X t R S f df

2

2

2

22 2

2

( ) ( ) ( )

1 lim ( ) ( )

( )( ) lim

( ) ( )

1( ) lim ( )

(0) ( )

X

T

TT

TX T

FT

X X

T

X TT

X X

r x t x t

x t x t dtT

X ff

T

r f

P x t x t dtT

r f df

S

S

S

Confronto tra alcune definizioni per segnali aleatori e deterministici

Page 42: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

42

Domanda: Come si misurano funzione valor medio e funzione di auto-correlazione avendo a disposizione N realizzazioni {xi(t)} del processo?

1 1

1 1ˆ( ) ( ) lim ( ) ( ) ( )

N N

X i X iN

i i

t E X t x t t x tN N

1 2 1 2 1 2 1 2 1 21 1

1 1ˆ( , ) ( ) ( ) lim ( ) ( ) ( , ) ( ) ( )N N

X i i X i iNi i

R t t E X t X t x t x t R t t x t x tN N

Misura delle statistiche per l’analisi in potenza

… e per quanto riguarda la densità spettrale di potenza, se il processo è almeno s.s.l. …..

2 2

1 1

( ) ( )1 1ˆ( ) lim ( )

dove ( ) ( )

N NTi Ti

X XTi iN

Ti i

X f X fS f S f

N T N T

X f FT x t rect t T

Page 43: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

43

Risposta: La risposta è “Si” per la classe dei processi ErgodiciErgodici

Processi ergodici

?

1 1 1 1

2

1 1

2

( ( ), ( ), , ( )) ( ( ), ( ), , ( ))

1 lim ( ( ), ( ), , ( ))

N N

T

NT

T

E g X t X t X t g x t x t x t

g x t x t x t dtT

1 1 ( , , )x NG in generale

Domanda: è possibile misurare certe statistiche, definite come medie d’insieme, mediante le corrispondenti medie temporali calcolate su una

sola (qualsiasi) realizzazione?

2?

2

2?

2

1 ( ) ( ) ( ) lim ( )

1( , ) ( ) ( ) ( ) ( ) lim ( ) ( ) ( )

T

X xTT

T

X xT

T

t E X t x t x t dt mT

R t t E X t X t x t x t x t x t dt rT

Page 44: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

44Elaborazione di segnali aleatori

[ ]T )(tX ( ) [ ( ); ]Y t T X t

Il problema è: caratterizzare il processo di uscita Y(t), in maniera completa o parziale, nota che sia la descrizione statistica (completa o

parziale) di X(t) e nota che sia la trasformazione T[.] operata dal sistema

Nel caso di sistemi lineari è possibile ottenere la funzione valor medio e la funzione di autocorrelazione del processo di uscita in funzione delle

rispettive statistiche del processo di ingresso (ovviamente saranno anche funzioni della risposta impulsiva del sistema)

( ) [ ( ); ] ( ) ( ) ( ) ( )Y t T X t X t h t X t h d

Page 45: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

45

( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( ) ( )

Y

X X

t E Y t E X t h d

E X t h d t h d t h t

Filtraggio lineare di segnali aleatori

Calcolo della funzione valor medio

Se il processo è stazionario in valor medio ….

( ) ( ) ( ) ( )

( ) (0)

Y

X X

t E Y t E X t h d

h d H

…. anche l’uscita lo è …

Page 46: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

46

1 2

1 2 1 2

1 2

1 2

1 2

1 2 1 2

( , ) ( ) ( )

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

( , ) ( ) ( )

( , ) ( ) ( )

Y

X

t t

X

R t t E Y t Y t

E X t h d X t h d

E X t X t h h d d

R t t h h d d

R t t h t h t

Filtraggio lineare di segnali aleatori

Calcolo della funzione di autocorrelazione

Page 47: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

47

2 1

1 2 1 2

2 1

2 1

2 1

( , ) ( ) ( ) ( ) ( )

( ) ( ) ( )

( ) ( ) ( )

( ) ( ) ( )

( ) ( )

Y

X

X

X t t

R t t E X t X t h h d d

R t t h h d d

R t t h d h d

R h h d

F t t h d

Filtraggio lineare di segnali aleatori

Calcolo della ACF - Processi stazionari almeno in senso lato

( ) ( ) ( )XF R h Dove si è definito:

Page 48: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

48

1 2 2 1

2 1

( , ) ( ) ( )

( ) ( ) ( ) ( )

( ) ( ) ( )

Y

X

R t t F t t h d

F t t h d F h

R h h

Filtraggio lineare di segnali aleatori

( ) ( ) ( ) ( ) ( ) ( )Y X X hR R h h R R

Calcolo della Densità Spettrale di Potenza:

2*( ) ( ) ( ) ( ) ( ) ( ) ( )Y Y X XS f FT R S f H f H f S f H f

Page 49: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

49 Processo bianco tempo-continuo

Il significato di processo “bianco” può compreso pensandolo come il limite di un processo “bianco in banda”, per B che tende all’infinito:

ovvero è costante per tutte le f, giustificando l’appellativo “bianco”

X XP S f df

La potenza media statistica è infinita:

2 lim ( ) 0X XR

0 0( ) ( ) ( )2 2

FT

X X

N NR S f

Il valor medio è nullo:

00( ) sinc(2 ) ( )

2 2

FT

X X

N fR N B B S f rect

B

Un processo tempo-continuo X(t) si definisce “bianco”

quando la sua ACF e la sua PSD hanno la seguente forma:

Page 50: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

50 Processo bianco in banda B

00(0) , ( )

2 2X X X

N fP R N B S f rect

B

Page 51: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

51 Processo bianco in banda B

00(0) , ( )

2 2X X X

N fP R N B S f rect

B

Page 52: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

52 Processo bianco in banda B

00(0) , ( )

2 2X X X

N fP R N B S f rect

B

Page 53: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

53

1( ) ( )

1 2 sin( )( ) , ( ) sinc( )

t

t T

Y t X dT

t T fTh t rect H f fT

T T fT

Esempio: Integratore a finestra mobile

X(t) è un processo bianco (detto anche delta-correlato):

0 0( ) ( ) ( )2 2

FT

X X

N NR S f

20 0( ) 1 ( ) sinc ( )2 2

FT

Y Y

N NR S f fT

T T

Si ricava che ACF e PSD dell’uscita Y(t) sono:

Page 54: Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

54

1 T1 T

TT

Funzione di autocorrelazion

ee

densità spettrale di

potenzadi Y(t)

Esempio: Integratore a finestra mobile

0

2

corr T

N

1YB

T