Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE...

37
UMA INTRODUC ¸ ˜ AO ` A PROBABILIDADE Jo˜ ao B. R. do Val Depto. de Telem´ atica – FEEC – UNICAMP 3 de dezembro de 2011 FULLSCREEN NEXT INTRODUC ¸ ˜ AO ` A PROBABILIDADE ESTRUTURANDO RESULTADOS DE EXPERIMENTOS = espac ¸o amostral Conjunto de todos os poss´ ıveis resultados Ex: = {cara, coroa}; = {1, 2, 3, 4, 5, 6}; = {x ;0 x 1} eventos: Qualquer subconjunto de pertencente a uma classe de conjuntos. Alguns subconjuntos importantes: ϖ ´ e um evento elementar ´ e um ponto gen´ erico de = evento certo; / 0 = evento imposs´ ıvel Associamos: resultados de experimentos eventos conjuntos sentido de abstra¸c˜ ao crescente −→ BACK NEXT 2/73

Transcript of Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE...

Page 1: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

UM

AIN

TR

OD

UC

AO

AP

RO

BA

BIL

IDA

DE

JoaoB.R.doVal

Depto.deTelem

atica

–FEEC–UNICAMP

3dedezem

bro

de2011

FU

LL

SC

RE

EN

NE

XT

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

TR

UT

UR

AN

DO

RE

SU

LTA

DO

SD

EE

XP

ER

IME

NT

OS

•Ω=

espaco

amostral→

Conjuntode

todosos

possıveisresultados

Ex:

Ω=cara,

coroa;

Ω=1,2,3,4,5,6;

Ω=x

∈ℜ

;0≤

x≤

1

•eventos:Qualquersubconjunto

deΩ

pertencente

aum

aclasse

deconjuntos.

Algunssubconjuntosimportantes:

ωeum

evento

elem

entar

↔eum

ponto

generico

deΩ

Ω=

evento

certo;

/ 0=

evento

impossıvel

Associamos:resultados

deexperimentos

↔eventos

↔conjuntos

sentidode

abstracaocrescente−→

BA

CK

NE

XT

2/73

Page 2: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

TR

UT

UR

AN

DO

RE

SU

LTA

DO

SD

EE

XP

ER

IME

NT

OS

Seja

A=

conjunto

deresultados

x

B=

conjunto

deresultados

y

Resultado

deExperimentos

Eventos

Conjuntos

“Ocorre

xou

y”↔

Aou

B↔

A⋃ B

“Ocorre

xe

y”↔

Ae

B↔

A⋂ B

“Nao

ocorre

x”↔

nao

A↔

Aou

Ac

“xe

ymutuamente

exclusivos

↔ou

Aou

B↔

A⋂ B

=/ 0

BA

CK

NE

XT

3/73

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

TR

UT

UR

AN

DO

AC

OL

ECA

OD

EC

ON

JU

NT

OS

•Subconjuntosform

amum

CA

MP

OD

EB

OR

EL.

F=

campode

Borel→

Um

camponaovazioFsatisfazendo

(i)Se

A∈Fentao

Ac∈F

(ii)Se

A,B

∈F

entao

A∪

B∈F

(iii)

Ω∈F

Propriedadesde

umcampo(oualgebraou

anel)de

Borel:

—/ 0∈F

—Se

Ae

B∈Fentao

A∩

B∈Fe

A−

B=

A∩

Bc∈F

BA

CK

NE

XT

4/73

Page 3: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

EX

TE

NS

AO

DA

AL

GE

BR

A

•Extensao:

σ-algebradeBorel

(i)Se

Ai∈Fentao

Ac i∈F,i=

1,2,...

(ii)’Se

Ai∈F,i=

1,2,...entao⋃ ∞ i=

1A

i∈F

(iii)

Ω∈F

Exemplo:

Falenciado

Jogador

BA

CK

NE

XT

5/73

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

PR

OB

AB

ILID

AD

E

•Probabilidade:equalquer

funcao

real

definida

sobreaclasse

Fde

Borel,

P:F

→R

talquepara

A,B

∈F

:

(i)

P(A)≥

0

(ii)

P(Ω

)=

1

(iii)

Se

A∩

B=

/ 0entao

P(A

∪B)=

P(A)+

P(B)

Exs:

Ω=

cara,

coroa;par-ımpar;eventoselem

entares

•Propriedades:

1.P(/ 0)=

0

2.P(A

c )=

1−

P(A)

3.P(A

∪B)=

P(A)+

P(B)−

P(A

∩B)

4.Se

A⊂

Bentao

P(A)≤

P(B)

Prova

BA

CK

NE

XT

6/73

Page 4: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

PA

COD

EP

RO

BA

BIL

IDA

DE

•Espacode

Probabilidade(Ω

,F,P)(oude

experimentos):

Ω=espaco

amostral,F=classe

deeventos,

P=

funcao

probabilidade

PR

OB

AB

ILID

AD

EC

ON

DIC

ION

AL

•Seja

Bum

evento

talque

P(B)>

0,entaopara

todo

evento

A

P(A|B)=

P(A

∩B)

P(B)

“eaprobabilidade

deAdado

que

Bocorreu”

P(·|

B)eprobabilidade

?

Exemplo:

Selecionar3cartas

sem

reposicao

eobtertres

azes.

BA

CK

NE

XT

7/73

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

PR

OB

AB

ILID

AD

ET

OT

AL

EB

AY

ES

•ProbabilidadeTotal:Sejam

A1,

A2,...,

Aneventosmutuamente

exclusi-

voscom

P(A

i)>

0,talque

B⊂

A1∪

A2∪...∪

Anentao

P(B)=

n ∑ i=1

P(B|A

i)·P

(Ai)

Prova

•RegradeBayes:

P(A

j|B)=

P(B|A

j)·P

(Aj)

n ∑ i=1P(B|A

i)·P

(Ai)

Exemplo:

Tem

os2moedashonestas

eum

amoeda

com

duas

caras.

BA

CK

NE

XT

8/73

Page 5: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

IND

EP

EN

DE

NC

IA

Doiseventos

Ae

Bsaoindependentesse

P(A

∩B)=

P(A)·P

(B)

•Treseventos

A,B,e

Csaoindependentes

entresise

P(A

∩B)=

P(A)·P

(B)

P(A

∩C)=

P(A)·P

(C)

P(B

∩C)=

P(B)·P

(C)

P(A

∩B∩

C)=

P(A)·P

(B)·P

(C)

Ex:

independencia2a2naoimplicaaindependenciaentre3eventos

•Propriedades:

Se

Ae

Bsaoindependentes

entao

–P(A|B)=

P(A)

–A

ce

Bc ,

Ae

Bc ,

Ace

Bsaoindependentes

BA

CK

NE

XT

9/73

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

PR

OB

AB

ILID

AD

EC

ON

JU

NT

A

Oselem

entosdo

espaco

amostral

Ωpodem

apresentar

atributosquepermitem

adefinicaode

diferentes

classesde

Borel:

−A

1,A

2,...∈F

1

−B

1,B

2,...∈F

2

Ex:

Joaquim,Pedro,Maria

→Ω=

atributos:

idade,altura

A1=

5anos

B1=

1.80

m

Ωeum

conjunto

deparesordenados

•Probabilidadeconjunta:

P(A,B)=

P(A

∩B)=

ocorrenciade

Aede

B

BA

CK

NE

XT

10/7

3

Page 6: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

PR

OB

AB

ILID

AD

EC

ON

JU

NT

A

•Probabilidademarginal:

Para

A1∪

A2∪...∪

An=

Ωe

B1∪

B2∪...∪

Bm=

Ω

P(B

j)=

n ∑ i=1

P(A

i,B

j)=

P(Ω

,Bj)

P(A

i)=

m ∑ j=1

P(A

i,B

j)=

P(A

i,Ω)

en ∑ i=1

m ∑ j=1

P(A

i,B

j)=

1

BA

CK

NE

XT

11/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

LA

LE

AT

OR

IA

Equalquer

funcao

definida

noespaco

amostral

Ω,

X:Ω

→R

talque

ω∈

Ω,

X(ω

)∈(−

∞,x]∈F

isto

e,X

:Ω→

Refuncao

mensuravel X

(ω)

ω

•se

Ωeenum

eravel

entaoavariavel

aleatoriaediscreta,caso

contrarioe

contınua.

ConjuntoEnumeravel

→conjunto

finito

ouinfinito,comum

acorrespondencia

biunıvocacom

osnumeros

inteiros

positivos.

BA

CK

NE

XT

12/7

3

Page 7: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DIS

TR

IBU

ICA

OD

EP

RO

BA

BIL

IDA

DE

F X(x) =

P(

X(ω

)≤

x)

X(ω

)≤

x=ω

∈Ω,X

(ω)∈(−

∞,x]∈F,ou

seja,eum

evento.

Ex:

Variavelaleatoriatempode

espera

•Propriedades:

⋆F X

(−∞)=

0

⋆F X

(+∞)=

1

⋆Se

x 2>

x 1,entao

F X(x

2)≥

F X(x

1)(funcaomonotonicanaodecrescente)

Prova:

BA

CK

NE

XT

13/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

NS

IDA

DE

DE

PR

OB

AB

ILID

AD

E

p X(x) =

d dxF X

(x)

definida

para

x→

F X(x)contınua

ediferenciavelem

x

Ex:

distribuicao

uniforme

•Variavelaleatoriacontınua

⋆F X

(x)=

x ∫ −∞

p X(y)d

yum

avezque

F X(−

∞)=

0

⋆p X

(x)≥

0pois

F X(x)emonotonanaodecrescente

BA

CK

NE

XT

14/7

3

Page 8: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

NS

IDA

DE

DE

PR

OB

AB

ILID

AD

E:

CA

SO

V.A

.D

ISC

RE

TA

Utiliza-se

afuncao

Impulsode

Dirac

δ(t)

:+

∞ ∫ −∞

f(t)

δ(t−

t 0)d

t=f(

t 0)

∀f(t)

contınua

emt 0.

Propriedades:

+∞ ∫ −

f(t)

δ(t)

dt=

f(0),

+∞ ∫ −

δ(t)

dt=

1

t ∫ −∞

δ(s)

ds=

u(t)=

1,t>

0

0,t<

0(funcao

degrau

u(t))

“d dtu(

t) =

δ(t)

′′

BA

CK

NE

XT

15/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

OE

SD

IST

RIB

UIC

AO

ED

EN

SID

AD

EP

AR

AV.

A.

DIS

CR

ET

A

p X(x)=

n ∑ i=1

PX

=x i·

δ(x−

x i)

destaform

a,

F X(x)=

x ∫ −∞

p X(y)d

y=

n ∑ i=1

PX

=x i·

x ∫ −∞

δ(y−

x i)d

y

earelacaoentre

p Xe

F xvalecomono

caso

contınuo

•v.

a.mista

(contınua/discreta)

BA

CK

NE

XT

16/7

3

Page 9: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

AL

GU

MA

SP

RO

PR

IED

AD

ES

DEF

XE

p X

PX

>x

=1−

F X(x)=

+∞ ∫ x

p X(y)d

y

Px

1<

X≤

x 2=

F X(x

2)−

F X(x

1)=

x 2 ∫ x 1

p X(y)d

y

+∞ ∫ −

p X(y)d

y=

1=

F X(+

∞)−

F X(−

∞)

p X(x)=

lim∆x

→0+

Px

<X≤

x+

∆x

∆x

BA

CK

NE

XT

17/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

GA

US

SIA

NA

S

Z∼

N(0,1)

→ev.a.

norm

al0-1

p Z(z)=

1 √2π

·exp

(

−z2 2

)

P|

Z| <

1=

0,68

Erf(x) =

1 √2π

x ∫ −∞

exp(

−z2 2

)

dz=

PZ

≤x

outrasvariaveis

aleatoriasim

portantes

•v.a.’scontınuas:

Exponencial,Gam

a,Cauchy

•v.a.’sdiscretas:

Binom

ial,Geometrica,Poisson

BA

CK

NE

XT

18/7

3

Page 10: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

BID

IME

NS

ION

AIS

Ou,

estudo

dedistribuicoesconjuntas

F XY(x,y) =

PX

≤x,

Y≤

y

com

X≤

x,Y≤

y=X

≤x

∩Y

≤y

∈Ω

:(X(ω

),Y(ω

))∈

D,

onde

D=(−

∞,x]×

(−∞,y]

p XY(x,y) =

∂2F X

Y(x,y)

∂x∂y

⋆Propriedades:

–F X

Y(−

∞,y)=

0

–F X

Y(x,−

∞)=

0

–F X

Y(+

∞,+

∞)=

1

Prova:

BA

CK

NE

XT

19/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

BID

IME

NS

ION

AIS

⋆DistribuicaoMarginal:

F XY(+

∞,y)=

F Y(y)

F XY(x,+

∞)=

F X(x)

poisX

≤∞,Y

≤y

=Y

≤y

F XY(x,y)=

y ∫ −∞

x ∫ −∞

p XY(x,y)d

xd

y

⋆MaisPropriedades:

⋄p X

(x)=

d dxF X

Y(x,+

∞)=

d dx

x ∫ −∞

+∞ ∫ −

p XY(z,y)d

yd

z

⋄p X

(x)=

+∞ ∫ −

p XY(x,y)d

y

BA

CK

NE

XT

20/7

3

Page 11: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

Ex:

Distribuicaoconjunta

deX

eYeuniformeno

triangulo:

1

1

x

y

VA

RIA

VE

ISA

LE

AT

OR

IAS

BID

IME

NS

ION

AIS

IND

EP

EN

DE

NT

ES

F XY(x,y)=

PX

≤x,

Y≤

y=

PX

≤x

·PY

≤y

Assim,

F XY(x,y)=

F X(x)·F

Y(y)

p XY(x,y)=

p X(x)·p

Y(y)

BA

CK

NE

XT

21/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA

•Y=

f(X)e

Xv.a.

conhecida.

–Suponha

f(x)

monotonicacrescente(biunıvoca),e

F Y(y)=

F X[

f−1 (

y)]

xx

y

x+

∆x

y+

∆yf(

x)

ecomo

p X(x)∆

x≈

p Y(y)∆

y,

p Y(y)=

p X(x)

df(

x)d

x

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f−

1 (y)

pois

df(

x)d

x>

0

BA

CK

NE

XT

22/7

3

Page 12: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA

–Suponha

agora

df(

x)d

x<

0(m

onotonicadecrescente)

p Y(y)=

p X(x)

−d

f(x)

dx

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f−

1 (y)

–Portanto,

nocaso

geralde

funcao

biunıvoca:

p Y(y)=

p X(x)

∣ ∣ ∣ ∣

df(

x)d

x

∣ ∣ ∣ ∣

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f−

1 (y)

BA

CK

NE

XT

23/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA

Ex:

Seja

Xum

av.a.

com

distribuicao

uniformeentre0e1eseja

Y =

1 λ·ln

1 Xcom

λ>

0.Com

odeterm

inar

p Ye

F Y?

Generalizando

oexem

plo:

comogerarum

av.a.

Xcom

distribuicao

qualquer

conhecida,

apartirde

umav.a

Yuniforme?

Tom

oY∼

U[0,1]e

Xcom

funcao

dedistribuicao

F X.Tem

osque

p Y(y)=

1=

p X(x)

∣ ∣ ∣ ∣

df(

x)d

x

∣ ∣ ∣ ∣

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f−

1 (y)

validano

intervalo

0≤

y≤

1

portanto,

p X(x)=

∣ ∣ ∣ ∣

df(

x)d

x

∣ ∣ ∣ ∣

epodem

ostomar

f(x)

=F x(x)para

satisfazer

aidentidade

acima.

BA

CK

NE

XT

24/7

3

Page 13: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA

Com

oresultadotem-seoprocedimento:

1.Sorteio

avariavel

Y(ω

)∼

U[0,1]

2.Obte-se

X(ω

)de

acordo

com

X(ω

)=

F−

1X

(Y(ω

)).

XX

1

Y Y 1

F X

BA

CK

NE

XT

25/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA:

FU

NC

AO

NA

OB

IUN

IVO

CA

–Nocaso

geral

→dividimos

odomınio

emintervalos

adequadosonde

em

cada

umdelesafuncao

seja

biunıvoca.

Com

oresultado:

p Y(y)=

N ∑ i=1

p X(x)

∣ ∣ ∣ ∣

df i(

x)d

x

∣ ∣ ∣ ∣

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f i−

1 (y)

onde

Neonumerode

regioes

Ri,com

N ⋃ i=1

Ri=Dom

ınio

ef i(

x)=

f(x),x∈

Ri

Ex:

X∼

N(0,σ

2 ),Y

=X

2desejo

p Y(y)

BA

CK

NE

XT

26/7

3

Page 14: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

MU

LTIP

LA

SV

AR

IAV

EIS

AL

EA

TO

RIA

S

Mesmoproblema,

agoracom

duas

variaveis

u=

u(x,

y)

v=

v(x,

y)p U

V(u,v)=

?

Supondo

umatranform

acao

biunıvoca:

p UV(u,v)=

p XY(x,y)

∣ ∣ ∣ ∣

J(

u,v

x,y)∣ ∣ ∣ ∣

∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣

x=f(

u,v)

y=g(

u,v)

onde

fe

gsaofuncoesinversas

deuede

v,e

JeoJacobiano:

J(

u,v

x,y)

=de

t

∂u ∂x∂u ∂y

∂v ∂x∂v ∂y

=1

/

det

∂x ∂u∂x ∂v

∂y ∂u∂y ∂v

BA

CK

NE

XT

27/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA

Ex:

Jogo

deDardos

x

y

r

θ

p X(x)=

1√

2πσ

exp(−

x2

2σ2)

p Y(y)=

1√

2πσ

exp(−

y2

2σ2)

independentes,desejamos

determ

inar

p R,Θ(r,θ)

BA

CK

NE

XT

28/7

3

Page 15: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

DE

VA

RIA

VE

LA

LE

AT

OR

IA:

SO

MA

DE

V.A

.’S

IND

EP

EN

DE

NT

ES

Ex:

Z=

X+

Y,X

eYindependentes;

p Z(z)?

Resultado:

p Z=

p X∗p

Y

•Generalizacao

importante:

somade

nv.a.’sindependentes

1

1.5

−1.

51

−1

1/2

−1/

2

1p X

1p X

1+

X2

p X1+

X2+

X3

•Generalizacao

importantıssima:

teoremado

Lim

iteCentral:

Zn=(

X1+

X2+···+

Xn)/√

nonde

Xisaov.a.’sindependentes

eidenticamente

distribuıdas Z

=lim n→

∞Z

nev.a.

gaussianaindependentedasv.a.’s

Xi

BA

CK

NE

XT

29/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

Esperanca

matem

aticaou

mediaou

mom

ento

de1a.ordem

E[X] =

x=∫ Ω

X(ω

)dP(ω

)

=∫ ∞ −

∞x

dF X(x)

=

+∞ ∫ −

xp X(x)d

x<+

Paraisso

Xenecessariamente

v.a.integravel:

E[|X

|]=−∫ 0 −

∞x

dF X(x)+

∫ ∞ 0x

dF X(x)<+

Ex:

V.A.de

Cauchy

p X(x)=

11+

x2·1 π,

porem

E[|X

|]=

∞.

BA

CK

NE

XT

30/7

3

Page 16: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

•Paravariaveis

aletoriasdiscretas:

p X(x)=

+∞ ∑

k=−

∞PX

=x k·

δ(x−

x k)

E[X]=

+∞ ∑

k=−

∞PX

=x k·

+∞ ∫ −

xδ(

x−

x k)d

x

entao

E[X]=

+∞ ∑

k=−

∞x k·P

X=

x k

Ex:

Facede

umdado

•Se

p X(x)forfuncaopar,i.e.

p X(−

x)=

p X(x);e

E[X]<

+∞,entao

E[X]=

0

Ex:

gaussianaN(µ,σ

2 )

BA

CK

NE

XT

31/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

•media

deumafuncao

Y=

f(X)

↔E[Y]?

E[f(X

)]=

+∞ ∫ −

f(x)

p X(x)d

x<+

Ex:

Xuniformeentre0e1;

Y=

1 λln

1 X

•Propriedade:aditividadedamedia

E[f

1(X)+

f 2(X

)]=

+∞ ∫ −

[f1(

x)+

f 2(x)]·p

X(x)d

x

=E[f

1(X)]+

E[f

2(X)]

BA

CK

NE

XT

32/7

3

Page 17: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

•momentosdeordem

k

mk =

E[X

k ]=

+∞ ∫ −

xk·p

X(x)d

x<

+∞

m1→

media(x

ouµ)

m2→

segundomom

ento

•Mom

entoscentradosde

ordem

k

c k =

E[(

X−

µ)k ]=

+∞ ∫ −

(x−

µ)k·p

X(x)d

x

c 1≡

0,c 2

→variancia(σ

2 ),

σ=

desvio

padrao

σ2=

m2−

m12=

m2−

µ2

–Se

p X(x)forsimetrica

emtornode

µ:

p X(x

−µ)

=p X

(−(x

−µ))entao

c k=

0,∀k

ımpar

BA

CK

NE

XT

33/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

Ex:

Suponha

conhecidos

apenas

µe

σ2 .Aproximeovalorde

E[X

3 ]em

tornode

µ.

Ex:

X∼

uniforme[0,1]

Ex:

X∼

N(0,σ

2 )

•Desigualdadede

Markov

X∼

v.anaonegativa

(pX(x)=

0,x<

0)

PX

≥αµ

≤1 α

•Desigualdadede

Tchebycheff

P|

X−

µ|≥

ε≤

σ2 ε2;ε

>0

BA

CK

NE

XT

34/7

3

Page 18: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

•Mediapara

duas

variaveis

E[f(X

,Y)]=

+∞ ∫ −

+∞ ∫ −

f(x,

y)p X

Y(x,y)d

xd

y<+

–Se

Xe

Ysaoindependentes: E[X

·Y]=

E[X]·

E[Y]

E[f(X

)·g(Y

)]=

E[f(X

)]·E

[g(Y

)]

BA

CK

NE

XT

35/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

CO

RR

EL

AC

AO

EC

OV

AR

IAN

CIA

•Covariancia:Com

x=

E[X]e

y=

E[Y]

cov(

X,Y

) =

E[(

X−

x)·(

Y−

y)]

–Nocao

mais“pobre”doqueindependencia

–variaveisnaocorrelatas

ounaocorrelacionadas

⇔cov(

X,Y

)=

0

cov(

X,Y

)=

E[X

·Y]−

E[X]·

E[Y]

–cov(

X,X

)=

E[(

X−

x)·(

X−

x)]=

E[(

X−

µ)2 ]=

σ X2

–“Se

Xe

Ysaoindependentes

⇒saonaocorrelatas”

–“Se

Xe

Ysaonaocorrelatas,naoimplicaquesejam

independentes”

Excecao:“Se

Xe

Ysaogaussianas

naocorrelatas,entaosaov.a.’sindepen-

dentes”

BA

CK

NE

XT

36/7

3

Page 19: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

CO

RR

EL

AC

AO

EC

OV

AR

IAN

CIA

–“Duasvariaveissaonaocorrelatas

⇔E[X

·Y]=

E[X]·

E[Y]”

–σ2 X

+Y=

σ X2+

σ Y2+

2cov(

X,Y

)

–σ X

+Y

2=

σ X2+

σ Y2se

Xe

Ysaonaocorrelatas

•Correlacao:

RX

Y =

E[X

·Y]

•Coeficientedecorrelacao

ρ XY

ρ XY

=cov(

X,Y

)

σ X·σ

Y

Com

essa

definicao,

| ρX

Y| ≤

1,obtido

daavaliacao

E

[

(

X−

xσ x

±Y−

yσ y

)

2]

≥0

Ex:

Y=

a·X

+b

BA

CK

NE

XT

37/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

CA

RA

CT

ER

IST

ICA

Φ(u) =

E[e

xp(ju

X)]=

∫ex

p(ju

x)·p

X(x)d

x

j=√−

1e

uparametro

real.Noteque

Φ(−

u)=

+∞ ∫ −

exp(−

jux)·p

X(x)d

x

eatransformadadefourierde

p X(x)

P X(u)=F[p

X(x)]=

Φ(−

u)

P X(u)ou

Φ(u)saoigualmente

utilizadas.

•Se

Xe

Ysaoindependentes

eZ=

X+

Y

P Z(u)=

P X+

Y(u)=

P X(u)·P

Y(u)

p Z(z)=F−

1 [P X

(u)·P

Y(u)]=

p X(z)∗p

Y(z)

BA

CK

NE

XT

38/7

3

Page 20: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

FU

NC

AO

CA

RA

CT

ER

IST

ICA

•| P

X(u)|≤

1,existe

para

todo

p X(x)

•Propriedade:Efuncao

geradorademomentos

P X(u)=

E[e

xp(−

juX)]

=E

[

1−

juX+(−

juX)2

2!+···+

Xk(−

ju)k

k!+···]

=+

∞ ∑ k=0

mk·(−

ju)k

k!

Portanto;

mk·(−

j)k=

dk P

X(u)

duk

∣ ∣ ∣ ∣

u=0

Ex.

Parav.a.

gaussiana

N(x,σ

2 )temos

Φx(

u)=

exp(

jux−

1 2u2 σ2 )

.Som

ade

v.a.’sgaussianas.

;Permiteconcluirqueacombinacaode

v.a.’sgaussianas

independentes

ev.a.

gaussiana

BA

CK

NE

XT

39/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DIS

TR

IBU

ICA

OE

DE

NS

IDA

DE

CO

ND

ICIO

NA

IS

Para

A∈Fcom

P(A)>

0,

F X(x|A) =

PX

≤x,A

P(A)

=PX

≤x|A

evento:X

≤x,A=

ω∈

S:X

(ω)∈(−

∞,x]∩ω

∈A

p X(x) =

d dxF X

(x),

;p X

(x|A) =

d dxF X

(x|A)

Tom

ando

A=X

≥a: F X

(x|X

≥a)

=PX

≤x,X≥

aPX

≥a

•para

x<

a⇒

F X(x|X

≥a)

=0

BA

CK

NE

XT

40/7

3

Page 21: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DIS

TR

IBU

ICA

OE

DE

NS

IDA

DE

CO

ND

ICIO

NA

IS

•para

x≥

a

F X(x|X

≥a)

=Pa

≤X≤

xPX

≥a

=

x ∫ a

p X(y)d

y/(

1−

a ∫ −∞

p X(y)d

y)

=

x ∫ a

p X(y)d

y/+

∞ ∫ a

p X(y)d

y

Portanto, p X(x|X

≥a)

=p X

(x)

+∞ ∫ a

p X(y)d

y

·u(x−

a)

Ex:

Distribuicaoexponencial,

F X(x)=

1−

e−λx,

x≥

0.Calcule

F X(x|X

≥a).

BA

CK

NE

XT

41/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DIS

TR

IBU

ICA

OE

DE

NS

IDA

DE

CO

ND

ICIO

NA

IS

•Condicionalsobreum

valor

–X

v.a.discreta:

F Y(y|X

=a)

fazsentidopois

F Y(y|X

=a)

=PY

≤y,

X=

aPX

=a

sopodeserdefinido

nospontosonde

PX

=a

6=0

–X

v.a.discreta:Definirpequenosintervalos

[a,a

+∆a

],com

∆a→

0+

F X(x|a≤

X≤

a+

∆a)=

u(x−

a)

p X(x|X

=a)

=δ(

x−

a)

BA

CK

NE

XT

42/7

3

Page 22: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DIS

TR

IBU

ICA

OE

DE

NS

IDA

DE

CO

ND

ICIO

NA

IS

–X

v.a.contınua:Calculo

dep Y(y|x)

supondo

p Xe

p XYcontınuas

F Y(y|x≤

X≤

x+

∆x)=

PY

≤y,x≤

X≤

x+

∆x

Px

≤X≤

x+

∆x

com

∆x≈

0

F Y(y|x≤

X≤

x+

∆x)≈

y ∫ −∞

p XY(x,α

)dα

p X(x)

eentao

p Y(y|x)

=p X

Y(x,y)

p X(x)

BA

CK

NE

XT

43/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

PE

RA

NCA

CO

ND

ICIO

NA

L

E[X|A] =

+∞ ∫ −

x·p

X(x|A)d

xpara

A∈Fe

P(A)>

0.

E[X|X

≥a]=

+∞ ∫ −

x·p

X(x|X

≥a)

dx=

+∞ ∫ a

x·p

X(x)d

x

+∞ ∫ a

p X(x)d

x

BA

CK

NE

XT

44/7

3

Page 23: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

PE

RA

NCA

CO

ND

ICIO

NA

L

•CasoDiscreto:

E[X|Y

=y]=

∞ ∑ i=−

∞x i

P(X

=x i|Y

=y)

•Esperanca

CondicionalcomoVariavelAleatoria

E[Y|X

=x]=

+∞ ∫ −

yp(

y|x)d

y⇒

eum

afuncao

x→

f(x)

assim

E[Y|X]=

f(X(ω

))ev.a.

BA

CK

NE

XT

45/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

PE

RA

NCA

CO

ND

ICIO

NA

L

•Propriedades:

⋄E[E[Y|X]]=

E[Y]

(leidasesperancasiteradas)

Obtidadasexpressoes

E[Y]=

∫ ∞ −∞

E[Y|X

=x]

p X(x)d

x(casocontınuo)

E[Y]=

∞ ∑ i=−

∞E[Y|X

=x i]P(X

=x i)

(casodiscreto)

⋄Se

g(x)

efuncao

determ

inıstica

E[Y

g(X)|X

=x]=

g(x)

E[Y|X

=x]

⋄Se

z=

g(x)

efuncao

biunıvoca

E[Y|Z]=

E[Y|X]=

E[Y|g

−1 (

Z)]

BA

CK

NE

XT

46/7

3

Page 24: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

ES

PE

RA

NCA

CO

ND

ICIO

NA

L

⋄E[E[g(X

,Y)|X

]]=

E[g(X

,Y)]

⇒f(

x)=

E[Y|X

=x]

eum

estimador

naopolarizadode

Y

•Esperanca

condicionalcom

oestimador:Seja

X=

Y 1+

Y 2+...+

Y m,,

Y i∼

media

µevariancia

σ2 ,independentes

entresi.

Suponha

queja

observam

osY 1,Y

2,...,

Y ncom

n<

m.Qualseriaamelhoresti-

mativaquepodem

osfazerdo

valorde

Y?

Qualeavarianciadessaestimativa?

•Exercıcio:Chegada

detrensnumaestacao.

BA

CK

NE

XT

47/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

GA

US

SIA

NA

S

•ou,VariaveisAleatoriasNormais.

X∼

N(x,σ

2 ),

p X(x)=

1√

2πσ

exp(

−1 2(x−

x)2

σ2

)

quando

E[x]=

xevar(

X)=

E[(

x−

x)2 ]=

σ2 .

−3σ

−σ

σ 2σ

1√

2πσ

x

BA

CK

NE

XT

48/7

3

Page 25: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

GA

US

SIA

NA

S

•FuncaoCaracterıstica:

Φx(

u)=

exp(

jux−

1 2u2 σ2 )

resultado:combinacaolinearde

v.a’sgaussianas

independentes

ev.a.

gaus-

siana.

Se

Y=

α 1X

1+

α 2X

2+···+

α nX

n,

α isaoescalareseasv.a’s

Xisaoindependentesentresie

Xi∼

N(x

i,σ2 i

),

podem

osre-definir

Zi=

α iX

i,i=

1,...,

n⇒

Y=

n ∑ i=1Z

i

etem-seque

Zi=

α iX

i∼

N(α

ixi,

α2 iσ2 i)

Φy(

u)=

Φz 1(u)Φ

z 2(u)···Φ

z n(u)

=ex

p(

jun ∑ i=1α i

x i−

1 2u2

n ∑ i=1α2 iσ

2 i)

Portanto

Y∼

N(

∑n i=

1α i

x i, ∑

n i=1

α2 iσ2 i)

.

BA

CK

NE

XT

49/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VA

RIA

VE

ISA

LE

AT

OR

IAS

GA

US

SIA

NA

S

•Im

portanciacomomodelode

fenomenos

aleatorios:Teoremado

LimiteCentral

Somade“acoes”independenteseidenticamente

distribuıdasproduzem

assintoticamente

o“efeito”gaussiano,

i.e.,

Zn=(

X1+

X2+···+

Xn)/√

nonde

Xisaov.a.’squaisquer,independenteseidenticamente

distribuıdas

Z=

lim n→∞

Zn

ev.a.gaussianaindependente

dasv.a.’s

Xi

BA

CK

NE

XT

50/7

3

Page 26: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV

AR

IAV

EIS

AL

EA

TO

RIA

SG

AU

SS

IAN

AS

Sejaum

conjunto

dev.a.’sgaussianas

X1,

X2,...,

Xnescritas

deform

avetorial:

Z=

X1

X2 . . . Xn

com

ovetorde

medias

z=

x 1 x 2 . . . x n

,

ecom

amatrizde

covariancias:

Σ=

E[(

X1−

x 1)2]

E[(

X1−

x 1)(

X2−

x 2)]

···

E[(

X1−

x 1)(

Xn−

x n)]

E[(

X2−

x 2)(

X1−

x 1)]

E[(

X2−

x 2)2]

. . .. ..

. . .

E[(

Xn−

x n)(

X1−

x 1)]

···

E[(

Xn−

x n)2]

BA

CK

NE

XT

51/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV

AR

IAV

EIS

AL

EA

TO

RIA

SG

AU

SS

IAN

AS

=

σ2 1co

v(X

1,X

2)···

cov(

X1,

Xn)

cov(

X2,

X1)

σ2 2. . .

. ..

. . .

cov(

Xn,

X1)

···

σ2 n

=

σ2 1ρ X

1X2σ 1

σ 2···

ρ X1X

nσ 1

σ nρ X

2X1σ 2

σ 1σ2 2

. . .. ..

. . .

ρ XnX

1σ n

σ 1···

σ2 n

eΣematrizsimetrica

(Σ=

Σ′)esemidefinida

positiva(x

′ Σx≥

0,para

todo

x∈R

n ).

BA

CK

NE

XT

52/7

3

Page 27: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV

AR

IAV

EIS

AL

EA

TO

RIA

SG

AU

SS

IAN

AS

Definicao:OvetorZde

v.a.’sde

dimensao

nacimaeconju

ntamentegaus-

sianoou

conju

ntamentenormalse

adensidadede

probabilidade

conjunta

tem

aform

a:

p Z(z)=

1√

(2π)

n |Σ|ex

p(−

1 2(z−

z)′ Σ−

1 (z−

z))

com

matriz

Σnaosingular,|Σ|=

det(Σ

).

BA

CK

NE

XT

53/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV.A

.’S

GA

US

SIA

NA

S:C

OR

RE

LA

CAO

EIN

DE

PE

ND

EN

CIA

•Propriedade

importante:

asv.a.’s

Xi’s

saonao-correlatadas

⇐⇒

cov(

Xi,

Xj)=

0para

todo

i6=j.Neste

caso,

Σ=

diag(σ

1,σ 2,...,σ

n)

e

p Z(z)=

1√

(2π)

n σ2 1σ

2 n···σ

2 n

exp(

−1 2

n ∑ i=1

(xi−

x i)2

σ2 i

)

=1

2πσ2 1√

2πσ2 2

···√

2πσ2 n

exp(

−(x

1−

x 1)2

2σ2 1

)

···e

xp

(

−(x

n−

x n)2

2σ2 n

)

=p X

1(x

1)p X

2(x

2)···p

Xn(x

n)

resultado:Seum

afamıliade

v.a.’sgaussianas

saonaocorrelatadas

=⇒

elas

sao

independentes

entresi.

BA

CK

NE

XT

54/7

3

Page 28: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV.A

.’S

GA

US

SIA

NA

S:F

UN

CA

OC

AR

AC

TE

RIS

TIC

AV

ET

OR

IAL

funcao

caracterısticadeum

vetordev.a.’s:edefinida

como

ΦZ(u)

:=E[e

ju′ Z>]=

∫···∫ ∞ −

∞ej

u′ y

p Z(y)d

y

=∫ ∞ −

∞[1+

ju′ y+(ju

′ y)2

2!+···]p

Z(y)d

y

para

u=(u

1u2···u

n)′ .

Com

ofuncao

geradora

demom

entos:

∂ΦZ

∂ui

∣ ∣ ∣

u=(u

1u2···u

n)=

0=

j∫ ∞ −∞

rpX

i(x)

dr=

jE[X

i]=

jxi,

i=1,...,

n

∂2 ΦZ

∂ui∂

u k

∣ ∣ ∣

u=(u

1u2···u

n)=

0=−

∫∫∞ −∞

rsp X

iXk(

r,s)

drd

s=−

E[X

iX′ k]

i,k=

1,...,

n

BA

CK

NE

XT

55/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV.A

.’S

GA

US

SIA

NA

S:F

UN

CA

OC

AR

AC

TE

RIS

TIC

AV

ET

OR

IAL

•FuncaoCaracterısticapara

umvetorde

v.a.’sconjuntamente

gaussiano:

ΦZ(u)=

exp(

ju′ z−

1 2u′Σu)

1.Valor

medio

E[Z]=

1 j∂ΦZ

∂u

∣ ∣ ∣

u=0

=1 jex

p(ju

′ z−

1 2u′Σu

)(jz−

Σu)∣ ∣

u=0=

z

Confirm

a-se

que

zeamediado

vetor

Z

BA

CK

NE

XT

56/7

3

Page 29: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SD

EV.A

.’S

GA

US

SIA

NA

S:F

UN

CA

OC

AR

AC

TE

RIS

TIC

AV

ET

OR

IAL

2.Segundo

Mom

ento

E[Z

Z′]=

−∂2 Φ

Z

∂u2

∣ ∣ ∣

u=0

=[(

jz−

Σu)e

xp(ju

′ z−

1 2u′Σu

)(jz−

Σu)′−

Σex

p(ju

′ z−

1 2u′Σu

)]∣ ∣

u=0

=zz

′ +Σ

enote

que

E[(

Z−

z)(Z

−z)

′ ]=

zz′ +

Σ−

zz′ =

Σ

Entao

confirm

a-se

que

zeamediae

Σcovarianciado

vetor

Z.

BA

CK

NE

XT

57/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

MO

ME

NT

OS

DE

OR

DE

MS

UP

ER

IOR

3.

E[z]=

z

E[(

z−z)

2 ]=

σ2 z

E[(

z−z)

2k+

1 ]=

0

E[(

z−z)

2k]=

1·3

·5···(

2k−

1)σ2k z

BA

CK

NE

XT

58/7

3

Page 30: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

V.A

.’S

GA

US

SIA

NA

S:P

RO

PR

IED

AD

ES

DA

MA

TR

IZD

EC

OV

AR

IAN

CIA

4.Notacao:

σ ij=

ρ ijσ

iσj.Com

isso,

Σ=

σ2 1σ 1

2···

σ 1n

σ 21

σ2 2···

σ 2n

. . .. . .

. ..

. . .

σ n1

σ n2···

σ2 n

Resum

ode

propriedades:

(a)|σ

ij|≤

σ iσ

j,∀i,j

BA

CK

NE

XT

59/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

V.A

.’S

GA

US

SIA

NA

S:P

RO

PR

IED

AD

ES

DA

MA

TR

IZD

EC

OV

AR

IAN

CIA

(b)|Σ|6=

0,Σematrizdefinida

positivae

Σ−1existe

seesomente

seas

v.a.’s

Xi,

i=1,

2,...,

nforem

linearm

ente

independentes:

0=

n ∑ i=1

a iX

i⇐⇒

a i=

0,∀i

isto

eequivalenteaexigirqueos

coeficientesde

correlacao

|ρij|<

1(m

ostre

isso!).

(c)Se

Σematrizdiagonal,

σ ij=

0eas

variaveisaleatorias

Xisaonaocorrelaci-

onadas.Com

osao

V.A

.’S

GA

US

SIA

NA

S=⇒

Xi,

i=1,

2,...,

nsaoindepen-

dentes

entresi.

BA

CK

NE

XT

60/7

3

Page 31: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

V.A

.’S

GA

US

SIA

NA

SD

EF

INID

AS

AT

RA

VES

DA

SO

MA

5.Seja

Z∼

N(z,Σ

z),um

vetorde

v.a.’sgaussianas,edefina

Y=

AZpara

alguma

matriz

A.

Entao

afuncao

caracterıstica

e

ΦY(u)=

E[e

xpju′ Y]=

E[e

xpju′ A

Z]=

ΦZ(u

=A′ u)

=ex

p(ju

′ z−

1 2u′Σ z

u)=

exp(

ju′ A

z−1 2

u′A

Σ zA′ u)

isto

e,y∼

N(A

z,A

Σ zA′ ).

Se

Y=

AZ+

bpara

algumamatriz

Aevetor

b,eevidente

que

y∼

N(A

z+

b,A

Σ zA′ )(m

ostre!).

BA

CK

NE

XT

61/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

V.A

.’S

GA

US

SIA

NA

SD

EF

INID

AS

AT

RA

VES

DA

SO

MA

6.Sejam

Xe

Ydoisvetoresgaussianos,entao

X+

Yegaussiano.

Escolher

A=[I

n. . .

I n]e

z=

x ··· y

eutilizaroresultadoem

5.

BA

CK

NE

XT

62/7

3

Page 32: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SNA

OC

OR

RE

LA

CIO

NA

DO

SD

EV.A

.’S

GA

US

SIA

NA

S

7.Sedoisvetoresgaussianos

Xe

Ysaonaocorrelacionados,isto

eσ X

iYj=

0,∀i,j

(≡σ Y

iXj=

0,∀i,j),entaoeles

saoindependentes.

Seja

x∈R

n ,y∈R

me

z=

x ··· y

∈R

r=n+

m.Entao,

p X,Y(x,y)=

p Z(z)=

1√

(2π)

r |Σz|ex

p−1 2(z−

z)′ Σ

−1

z(z−

z)

Enestecaso,

Σ z=

[

Σ x0

0Σ y

]

→Σ−

1z

=

[

Σ−1

x0

0Σ−

1y

]

,|Σ

z|=|Σ

x||Σ y|

BA

CK

NE

XT

63/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

VE

TO

RE

SNA

OC

OR

RE

LA

CIO

NA

DO

SD

EV.A

.’S

GA

US

SIA

NA

S

Assim,

p Z(z)=

1√

(2π)

n |Σx|

1√

(2π)

m|Σ

y|·

exp(−

1 2(x−

x)′ Σ−

1x(x−

x))e

xp(−

1 2(y−

y)′ Σ−

1y(y−

y))

=p X

(x)p

Y(y)

DE

NS

IDA

DE

CO

ND

ICIO

NA

LD

EV

ET

OR

ES

GA

US

SIA

NO

S

8.Propriedade:Considere

Xe

Ydoisvetoresde

v.a.’sgaussianas.A

DE

NS

IDA

DE

CO

ND

ICIO

NA

Lp X

(x|Y

=y 0)(ou

p Y(y|X

=x 0))

etambem

gaussiana.

BA

CK

NE

XT

64/7

3

Page 33: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DE

NS

IDA

DE

CO

ND

ICIO

NA

LD

EV

ET

OR

ES

GA

US

SIA

NO

S

Paraverificaressa

propriedade,

escrevem

os

p X(x|Y

=y 0)=

p X(x|y 0

),econsidere

p X(x|y 0

)=

p X,Y(x,y

0)

p(y 0)

=1

(2π)

n|Σ

z||Σ

y|

·ex

p(−

1 2(z−

z)′ Σ

−1

z(z−

z))

exp(

−1 2(y

0−

y)′ Σ

−1

y(y

0−

y))

ondetomamos

z=

y ··· x

.Supomostambem

queamatrizdecovariancias

Σ zematrizdefinidapositiva.

Paraumamatriz

inversıvel

Aqualquer

divididaem

blocos:

A=

[

A11

A12

A21

A22

]

ondetomamos

A11

eA

22como

matrizes

quadradasdedim

ensoes

quaisquer,podem

osexpressar

ainversade

Aem

term

osdosblocoscomo

A−

1=

[

A11

A12

A21

A22

]

−1

=

[

(A11−

A12

A−

122

A21)−

1−

A−

111

A12(A

22−

A21

A−

111

A12)−

1

−(A

22−

A21

A−

111

A12)−

1 A21

A−

111

(A22−

A21

A−

111

A12)−

1

]

Utilizandoessasrelacoes,junto

com

ofato

que

Σ zematrizsimetrica,eportanto

Σ xy=

Σ′ yx,podem

osavaliar:

Σ−1

z=

[

Σ yΣ y

x

Σ′ yxΣ x

]

−1

=

[

(Σy−

Σ yxΣ

−1

xΣ′ yx

)−1

−Σ−

1y

Σ yx(

Σ x−

Σ′ yxΣ−

1y

Σ yx)−

1

−(Σ

x−

Σ′ yxΣ−

1y

Σ yx)−

1 Σ′ yx

Σ−1

y(Σ

x−

Σ′ yxΣ−

1y

Σ yx)−

1

]

BA

CK

NE

XT

65/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

Portanto

(z−

z)′ Σ−

1z

(z−

z)=(x−

x)′ (

Σ x−

Σ′ yxΣ−

1y

Σ yx)−

1 (x−

x)′

−(x−

x)′ (

Σ x−

Σ′ yxΣ−

1y

Σ yx)−

1 Σ′ yxΣ−

1y

(y0−

y)

−(y

0−

y)′ Σ−

1y

Σ yx(

Σ x−

Σ′ yxΣ−

1y

Σ yx)−

1 (x−

x)

+(y

0−

y)′ (

Σ y−

Σ yxΣ

−1

xΣ′ yx

)−1 (

y 0−

y)=

=[(

x−

x)−

Σ xyΣ

−1

y(y

0−

y)]′ (

Σ x−

Σ xyΣ

−1

yΣ y

x)−

1 [(x−

x)−

Σ xyΣ

−1

y(y

0−

y)]+

+(y

0−

y)′ (

Σ y−

Σ yxΣ

−1

xΣ′ yx

)−1 (

y 0−

y)

−(y

0−

y)′ Σ−

1y

Σ′ xy(Σ

x−

Σ xyΣ

−1

yΣ y

x)−

1 Σ xyΣ

−1

y(y

0−

y)

comoosultim

osdoisterm

osacimaso

involvem

y 0e

yquesaoconstantes,podem

osfinalm

ente

escrever:

p X(x|y 0

)=

cte·

exp(

−1 2[x

−x−

Σ xyΣ

−1

y(y

0−

y)]′ (

Σ x−

Σ xyΣ

−1

yΣ y

x)−

1 [x−

x−

Σ xyΣ

−1

y(y

0−

y)])

Eevidente

queessa

distribuicaoegaussianapoisem

setratandodedistribuicaoaconstante

naoavaliadadeve

sertalque

∫···∫ +

−∞

p X(x|y 0

)d

x 1d

x 2...d

x n=

1

alem

disso,denotando,

µ=

x+

Σ xyΣ

−1

y(y

0−

y),

Λ=

Σ x−

Σ xyΣ

−1

yΣ y

x

entao,

p X(x|y 0

)=

cte·e

xp(

−1 2[x−

µ]′ Λ

−1 [

x−

µ])

eevidentemente

gaussianaja

que

Λ=

Λ′e

Λematriz

definida

positiva.

2

BA

CK

NE

XT

66/7

3

Page 34: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

DE

NS

IDA

DE

CO

ND

ICIO

NA

LD

EV

ET

OR

ES

GA

US

SIA

NO

S

9.Com

oconsequenciado

item

anterior,temos

queamediacondicionale

avariancia

condicionaldo

vetor

Xsaodadasrespectivamente

por:

E[X|Y

=y 0]=

x+

Σ xyΣ

−1

y(y

0−

y)

E[(

X−

x)2 |Y

=y 0]=

Σ x−

Σ xyΣ

−1

yΣ y

x =

Σ x|y

Notequeavarianciacondicionalnaodepende

dovalorespecıfico

daobservacao

Y=

y 0da

v.a,

eque

Σ x|y≤

Σ xno

sentidode

matrizessemipositivadefinida.

Ex:

Matlab

BA

CK

NE

XT

67/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

EX

ER

CIC

IOS

1.(a)Se

A⋂ B

=/ 0,pode-se

concluiralgo

sobreaindependenciade

Ae

B?

(b)Mostrequeum

evento

deprobabilidade

nula

oude

probabilidade

1einde-

pendentede

outroevento

qualquer.

2.Feita

umapesquisacomalunos(as)da

Unicamp,descobriu-seque85%dosalunos

dosexo

masculino(sm)e92%

dosexo

feminino(sf)

gostam

deirao

cinema.

Destes,descobriu-se

queas

preferencias

sedistribuem

pelos

generosinvestigados

daseguinte

form

a:

genero

smsf

aventura:85%

60%

romance:45%

97%

terror:

20%

12%

Suponha

queas

populacoesmasculinas

efemininas

sejam

demesmotamanho,

jasubtraindo

voce

mesmo.

(a)Quale

aprobabilidade

queasuacolega

Elizelda

gostede

filmes

deromance?

68/7

3

Page 35: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

(b)Qualeaprobabilidade

queo1o.estudantequepassepor

voce

seja

uma

alunaquegostede

filmes

deaventura?

(c)Qualeaprobabilidade

queseucolega

Jose

gostede

filmes

deaventura

e

deterror,sendoqueototalde

estudantes

dosm

quegostam

decinemade

aventura

oude

terror

totalizam

100%

?

3.(probabilidadetotal)Suponha

queaocorrencia

ounaode

chuvadependa

das

condicoesdo

tempono

diaimediatamenteanterior.Adm

ita-se

quese

chovehoje,

choveraam

anha

comprobabilidade

0,7equesenaochoverhoje,choveraam

anha

com

probabilidade

0,4.

Sabendo-sequechoveu

hoje,calculeaprobabilidade

de

quechoveradepoisde

amanha.

69/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

4.(probabilidadetotal)Num

arede

com

chaves

comona

figura

abaixo,as

chaves

operam

independentem

ente,fechando-secom

probabilidade

pemantendo-se

abertascom

probabilidade

1−

p.

entr

ada

E

DC

BA

saíd

a

(a)Encontreaprobabilidade

queum

sinalaplicadona

entradasera

recebido

na

saıda;

(b)Encontreaprobabilidade

condicionalqueachaveEesta

aberta,dado

queo

sinalfoirecebido.

70/7

3

Page 36: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

5.Jogo

deDardos.

Considere

p X(x)=

1√

2πσ

exp(−

x2

2σ2)

p Y(y)=

1√

2πσ

exp(−

y2

2σ2)

Xe

Yindependentes

x

y

(a)Determine

p R,Θ(r,θ).

Mostreque

Re

Θsaoindependentes

entresi.

(b)Facaum

programaMatlabquesimuleos

lancam

entosde

dardos,utilizando

somente

arotinarandpara

gerarvaloresaleatorios.Paraconstruirafigura

deum

alvo

utilize

oseguinte

codigo:

%constroi

oalvo

com

20

cm

de

raio

clf,

clear

all

theta=(0:.01:2*pi)’;

71/7

3

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

polar(theta,20*ones(size(theta)),’:k’)

hold

on

6.(esperanca

condicional)Dem

onstre

avalidadeda

leida

varianciatotal,tambem

conehcidacomoform

ulada

varianciacondicional

var(

Y)=

E(var(Y

|X))+var(

E[Y|X])

7.(esperanca

condicional)Considere

queum

certonumerode

mensagens

saoge-

radasem

umno

decomunicacao,aum

ataxa

media

νpor

unidadede

tempo,

apresentando

variancia

σ2 νnessenumero.

Cadamensagem

possuium

numero

medio

deηbits

eavarianciado

numerode

bits

por

mensagem

eσ2 η.

Elassao

enviadas

atravesum

canal,edeseja-seconhecer

onumeromedio

eavariancia

debits

quedeveraotrafegar

pelocanalde

comunicacao

por

unidadede

tempo.

8.Um

sinalbinario

Setransm

itidocom

P(S

=1)

=pe

P(S

=−

1)=

1−

p.O

sinalrecebido

eY=

S+

N,com

Num

avariavel

aleatoriagaussianade

media

nula

evarianciaunitaria.Determineaprobabilidade

deS=

1comofuncao

da

observacao

yda

v.a.

Y.

72/7

3

Page 37: Unicampjbosco/ia856/intro_prob_transp04.pdf · UMA INTRODUC¸ ˜ AO ` A PROBABILIDADE Jo˜aoB.R.doVal Depto. de Telem´atica – FEEC – UNICAMP 3 de dezembro de 2011 F ULL S CREEN

INT

RO

DU

CA

OA

PR

OB

AB

ILID

AD

E

9.(distribuicaocondicionaldev.a.

gaussiana)

Considere

novamente

oproblemado

jogo

dedardos

supondo

agoraum

modelomaiselaboradopara

oslancam

entos.

Ascoordenadas

Xe

Ysaoduas

v.a.’sgaussianas

conjuntascom

X∼

N(0,σ

2 x)

eY∼

N(0,σ

2 y),mas

agoraelas

saodependentes

entresi,com

cov(

X,Y

)=

σ xy.

Calcule

adistribuicao

conjunta

nascoordenadasortogonais.Supondo

queao

lancar-seum

dardose

conhecaaabcissa

Y(ω

)=

4mm

determ

ine:

(a)adistribuicao

condicionalde

X,

(b)amediacondicionalde

X,

(c)avarianciacondicionalde

X.

(d)Sabendo

queamosca

doalvo

tem

1cm

dediam

etro,indiqueaprobabilidade

dese

teratingido

amosca.Utilize

σ2 x=

σ2 y=

25e

σ xy=

15eexpresse

o

resultadoem

pregando

dafuncao

Erf(x).

73/7

3