Processos Estocásticos

Vetores GaussianosProcessos Estocasticos Gaussianos

Processos EstocasticosProcessos Estocasticos Gaussianos

Bruno Barbosa Albert

Universidade Federal de Campina GrandeCentro de Engenharia Eletrica e Informatica

Departamento de Engenharia Eletrica

11 de julho de 2013

Bruno Barbosa Albert Processos Estocasticos






Objetivos de Aprendizagem

Processos Estocasticos Gaussianos




Processos Estocasticos GaussianosVetores gaussianos





vetor esperanca





vetor esperanca

matriz de covariancia





vetor esperanca


definicao





vetor esperanca


definicao

fdp conjunta





vetor esperanca


definicao

fdp conjunta

Definicao





vetor esperanca


definicao

fdp conjunta

Definicaofdp conjunta





vetor esperanca


definicao

fdp conjunta

Definicaofdp conjuntaPropriedades



Vetores Gaussianos

Antes de apresentarmos o PE gaussiano vamos fazer umapequena revisao de vetores gaussianos.



Vetores Gaussianos

Antes de apresentarmos o PE gaussiano vamos fazer umapequena revisao de vetores gaussianos.

Considere um vetor aleatorio X de dimensao n definido poruma matriz n × 1, tambem chamado de vetor coluna,

X =

⎡

⎢

⎢

⎢

⎣

X1

X2...Xn

⎤

⎥

⎥

⎥

⎦

=[

X1 X2 . . . Xn

]T.



Vetores Gaussianos

Definimos o seu vetor esperanca mX como

mX !

⎡

⎢

⎢

⎢

⎣

EX1

EX2...

EXn

⎤

⎥

⎥

⎥

⎦

.



Vetores Gaussianos

Definimos o seu vetor esperanca mX como

mX !

⎡

⎢

⎢

⎢

⎣

EX1

EX2...

EXn

⎤

⎥

⎥

⎥

⎦

.

Definimos sua matriz de covariancia CX como

CX !

⎡

⎢

⎢

⎢

⎣

var(X1) cov(X1,X2) . . . cov(X1,Xn)cov(X2,X1) var(X2) . . . cov(X2,Xn)

......

. . ....

cov(Xn,X1) cov(Xn,X2) . . . var(Xn)

⎤

⎥

⎥

⎥

⎦



Vetores Gaussianos

Definicao

Dado um vetor a ∈ ℜn qualquer, o vetor X e dito gaussiano sesomente se a v.a. Y definida como

Y = aTX =

[

a1 a2 . . . an]

⎡

⎢

⎢

⎢

⎣

X1

X2...Xn

⎤

⎥

⎥

⎥

⎦

= a1X1 + a2X2 + . . .+ anXn

for uma v.a. gaussiana.



Vetores Gaussianos

A esperanca de Y e dada por

mY = EY = E [aTX]



Vetores Gaussianos


mY = EY = E [aTX]

= E [a1X1 + a2X2 + . . .+ anXn]



Vetores Gaussianos


mY = EY = E [aTX]

= E [a1X1 + a2X2 + . . .+ anXn]

= a1EX1 + a2EX2 + . . .+ anEXn



Vetores Gaussianos


mY = EY = E [aTX]

= E [a1X1 + a2X2 + . . .+ anXn]

= a1EX1 + a2EX2 + . . .+ anEXn

=[

a1 a2 . . . an]

⎡

⎢

⎢

⎢

⎣

EX1

EX2...

EXn

⎤

⎥

⎥

⎥

⎦



Vetores Gaussianos


mY = EY = E [aTX]

= E [a1X1 + a2X2 + . . .+ anXn]

= a1EX1 + a2EX2 + . . .+ anEXn

=[

a1 a2 . . . an]

⎡

⎢

⎢

⎢

⎣

EX1

EX2...

EXn

⎤

⎥

⎥

⎥

⎦

= aTmX



Vetores Gaussianos

A variancia de Y e dada por

var(Y ) = σ2Y ! E (Y −my )

2



Vetores Gaussianos


var(Y ) = σ2Y ! E (Y −my )

2

= E (aTX− aTmX)

2



Vetores Gaussianos


var(Y ) = σ2Y ! E (Y −my )

2

= E (aTX− aTmX)

2

= E [aT (X−mX)]2



Vetores Gaussianos


var(Y ) = σ2Y ! E (Y −my )

2

= E (aTX− aTmX)

2

= E [aT (X−mX)]2

= E [aT (X−mX)(X−mX)Ta]



Vetores Gaussianos


var(Y ) = σ2Y ! E (Y −my )

2

= E (aTX− aTmX)

2

= E [aT (X−mX)]2


= aTE [(X−mX)(X−mX)

T ]a



Vetores Gaussianos


var(Y ) = σ2Y ! E (Y −my )

2

= E (aTX− aTmX)

2

= E [aT (X−mX)]2


= aTE [(X−mX)(X−mX)

T ]a

= aTCXa.



Vetores Gaussianos

A fdp conjunta do vetor X =[

X1 X2 . . . Xn

]Te igual a

fX1...Xn(x1, . . . , xn) = fX(x)

.



Vetores Gaussianos


X1 X2 . . . Xn

]Te igual a

fX1...Xn(x1, . . . , xn) = fX(x)

=exp {−1

2(x−mX)TC−1

X(x−mX)}

(2π)n/2(detCX)1/2.



Vetores Gaussianos


X1 X2 . . . Xn

]Te igual a

fX1...Xn(x1, . . . , xn) = fX(x)

=exp {−1

2(x−mX)TC−1

X(x−mX)}

(2π)n/2(detCX)1/2.

em que detCX e o determinante da matriz CX.



Vetores Gaussianos

Exemplo

Considere o vetor aleatorio gaussiano X =[

X Y Z]T

commedia mX = 0 e matriz de covariancia

CX =

⎡

⎣

5 2 12 4 21 2 3

⎤

⎦

Determine fZ (z) e fZ |X=x ,Y=y (z).



Vetores Gaussianos

Solucao:

Primeiramente vamos mostrar que Z e uma v.a. gaussiana. Zpode ser escrita como



Vetores Gaussianos

Solucao:


Z = aTX =

[

0 0 1]

⎡

⎣

X

Y

Z

⎤

⎦



Vetores Gaussianos

Solucao:


Z = aTX =

[

0 0 1]

⎡

⎣

X

Y

Z

⎤

⎦

Pela definicao anterior, como X e um vetor gaussiano entao a v.a.Z tambem e. Portanto, precisamos da esperanca e da variancia deZ para determinarmos sua fdp.



Vetores Gaussianos

Solucao: (continuacao)

A esperanca de Z e dada por definicao

mZ = EZ = 0 = aTmX



Vetores Gaussianos



mZ = EZ = 0 = aTmX

A variancia de Z e obtida por

var(Z ) = σ2Z = a

TCXa



Vetores Gaussianos



mZ = EZ = 0 = aTmX


var(Z ) = σ2Z = a

TCXa

=[

0 0 1]

⎡

⎣

5 2 12 4 21 2 3

⎤

⎦

⎡

⎣

001

⎤

⎦



Vetores Gaussianos



mZ = EZ = 0 = aTmX


var(Z ) = σ2Z = a

TCXa

=[

0 0 1]

⎡

⎣

5 2 12 4 21 2 3

⎤

⎦

⎡

⎣

001

⎤

⎦

=[

0 0 1]

⎡

⎣

123

⎤

⎦ = 3



Vetores Gaussianos


Assim, temos a fdp de Z

fZ (z) =1

√

2πσ2Z

e−(1/2)(z2/σ2Z )



Vetores Gaussianos



fZ (z) =1

√

2πσ2Z

e−(1/2)(z2/σ2Z )

=1√6π

e−z2/6.



Vetores Gaussianos



fZ (z) =1

√

2πσ2Z

e−(1/2)(z2/σ2Z )

=1√6π

e−z2/6.

Para a distribuicao condicionada, considere

V =

[

X

Y

]



Vetores Gaussianos


Assim,

fZ |X=x ,Y=y (z) = fZ |V=v(z)



Vetores Gaussianos


Assim,


=fZV(z , v)

fV(v)=

fX(x)

fV(v)



Vetores Gaussianos


Assim,


=fZV(z , v)

fV(v)=

fX(x)

fV(v)

O numerador fX(x) e

fX(x) =exp {−1

2(x−mX)TC−1

X(x−mX)}

(2π)3/2(detCX)1/2



Vetores Gaussianos


em que mX = 0 e detCX = 32

xTC−1

Xx =

1

32

[

x y z]

⎡

⎣

8 −4 0−4 14 −80 −8 16

⎤

⎦

⎡

⎣

x

y

z

⎤

⎦

=1

32(8x2 + 14y2 + 16z2 − 8xy − 16zy)

substituindo em fX(x)



Vetores Gaussianos


em que mX = 0 e detCX = 32

xTC−1

Xx =

1

32

[

x y z]

⎡

⎣

8 −4 0−4 14 −80 −8 16

⎤

⎦

⎡

⎣

x

y

z

⎤

⎦

=1

32(8x2 + 14y2 + 16z2 − 8xy − 16zy)

substituindo em fX(x)

fX(x) =exp {− 1

64(8x2 + 14y2 + 16z2 − 8xy − 16zy)}

(2π)3/2(32)1/2



Vetores Gaussianos


Calculando o denominador fV(v)

fV(v) =exp {−1

2(v −mV)TC−1

V(v −mV)}

(2π)2/2(detCV)1/2

em que mV = 0,



Vetores Gaussianos



fV(v) =exp {−1

2(v −mV)TC−1

V(v −mV)}

(2π)2/2(detCV)1/2

em que mV = 0,

CV =

[

5 22 4

]

,



Vetores Gaussianos



fV(v) =exp {−1

2(v −mV)TC−1

V(v −mV)}

(2π)2/2(detCV)1/2

em que mV = 0,

CV =

[

5 22 4

]

,

detCV = 16,

vTC−1

Vv =

1

16

[

x y]

[

4 −2−2 5

] [

x

y

]



Vetores Gaussianos



fV(v) =exp {−1

2(v −mV)TC−1

V(v −mV)}

(2π)2/2(detCV)1/2

em que mV = 0,

CV =

[

5 22 4

]

,

detCV = 16,

vTC−1

Vv =

1

16

[

x y]

[

4 −2−2 5

] [

x

y

]

=1

16(4x2 + 5y2 − 4xy)



Vetores Gaussianos

Solucao: (continuacao).

substituindo em fV(v)

fV(v) =exp {− 1

32(4x2 + 5y2 − 4xy)}8π

e voltando para fZ |X=x ,Y=y (z) =fX(x)fV(v)

e simplificando



Vetores Gaussianos


substituindo em fV(v)

fV(v) =exp {− 1

32(4x2 + 5y2 − 4xy)}8π

e voltando para fZ |X=x ,Y=y (z) =fX(x)fV(v)

e simplificando

fZ |X=x ,Y=y (z) =exp {−1

4(z −y2 )

2}2√π

Note que a esperanca de Z condicionada as observacoes de X e Y

nao e necessariamente nula.




Considere um PE X (t) com valores reais, ou seja X (t) ∈ ℜ.




Considere um PE X (t) com valores reais, ou seja X (t) ∈ ℜ.Sejam t1, t2, . . . , tn, n > 0, ındices de tempo.




Considere um PE X (t) com valores reais, ou seja X (t) ∈ ℜ.Sejam t1, t2, . . . , tn, n > 0, ındices de tempo.

Considere um vetor coluna aleatorio X de dimensao n definidopor

X =

⎡

⎢

⎢

⎢

⎣

X (t1)X (t2)

...X (tn)

⎤

⎥

⎥

⎥

⎦

=[

X (t1) X (t2) . . . X (tn)]T

.




Defina um vetor esperanca como

mX =

⎡

⎢

⎢

⎢

⎣

EX (t1)EX (t2)

...EX (tn)

⎤

⎥

⎥

⎥

⎦

.




Defina um vetor esperanca como

mX =

⎡

⎢

⎢

⎢

⎣

EX (t1)EX (t2)

...EX (tn)

⎤

⎥

⎥

⎥

⎦

.

Defina tambem uma matriz de autocovariancia

CX !

⎡

⎢

⎢

⎢

⎣

CX (t1, t1) CX (t1, t2) . . . CX (t1, tn)CX (t2, t1) CX (t2, t2) . . . CX (t2, tn)

......

. . ....

CX (tn, t1) CX (tn, t2) . . . CX (tn, tn)

⎤

⎥

⎥

⎥

⎦

.




Considere um vetor coluna x ∈ ℜn de dimensao n definido por

x =

⎡

⎢

⎢

⎢

⎣

x1x2...xn

⎤

⎥

⎥

⎥

⎦

.




Definicao

O PE X (t) e dito gaussiano se somente se

X =[

X (t1) X (t2) . . . X (tn)]T

, n > 0, e um vetor gaussianopara qualquer conjunto de instantes de tempo t1, t2, . . . , tn.




Definicao

O PE X (t) e dito gaussiano se somente se

X =[

X (t1) X (t2) . . . X (tn)]T

, n > 0, e um vetor gaussianopara qualquer conjunto de instantes de tempo t1, t2, . . . , tn.

Definicao

O PE Xn e dito gaussiano se somente se

X =[

Xn1 Xn2 . . . Xnk

]T, k > 0, e um vetor gaussiano para

qualquer conjunto de instantes de tempo n1, n2, . . . , nk .





X (t1) X (t2) . . . X (tn)]T

eigual a

fX (t1)...X (tn)(x1, . . . , xn) = fX(x)

=exp {−1

2(x−mX)TC−1

X(x−mX)}

(2π)n/2(detCX)1/2.





X (t1) X (t2) . . . X (tn)]T

eigual a

fX (t1)...X (tn)(x1, . . . , xn) = fX(x)

=exp {−1

2(x−mX)TC−1

X(x−mX)}

(2π)n/2(detCX)1/2.

Observe que as v.as. X (t1),X (t2), . . . ,X (tn) nao precisam serindependentes; no entanto, elas sao individualmentedistribuıdas gaussianamente.




Propriedade 1

O PE gaussiano tem uma propriedade bem particular que e a deque as suas fdps conjuntas sao completamente especificadas pelafuncao esperanca do processo mX (t) e pela funcao deautocovariancia CX (t1, t2).




Propriedade 1

O PE gaussiano tem uma propriedade bem particular que e a deque as suas fdps conjuntas sao completamente especificadas pelafuncao esperanca do processo mX (t) e pela funcao deautocovariancia CX (t1, t2).

Propriedade 2

Transformacoes lineares de vetores aleatorios gaussianos resultamtambem em vetores aleatorios gaussianos. Veremos mais adianteque operacoes lineares em PE gaussianos (soma, derivada,integral) resultam em um outro PE gaussiano.




Essas duas propriedades combinadas com o fato de que variossinais e processos ruıdosos sao modelados precisamente comogaussianos




Essas duas propriedades combinadas com o fato de que variossinais e processos ruıdosos sao modelados precisamente comogaussianos

=⇒ o processo gaussiano como o modelo mais usado emprocessamento de sinais.

Exemplo

Considere o processo X (t) = Z1t + Z2 em que Z =[

Z1 Z2]T

eum vetor gaussiano com esperanca mZ = 0 e matriz de covariancia

CZ =

[

1 1/21/2 1

]

.

Ache a fdp de X (t).




Solucao:

Temos que

X (t) = Z1t + Z2

=[

t 1]

[

Z1

Z2

]

= aTZ

Usando as propriedades dos vetores gaussianos, tem-se que X (t) eum processo gaussiano e portanto, precisamos de sua esperanca ede sua variancia para definir sua fdp.





A esperanca de X (t) e

mX (t) = aTmZ

=[

t 1]

[

00

]

= 0.





A esperanca de X (t) e

mX (t) = aTmZ

=[

t 1]

[

00

]

= 0.

A variancia de X (t) e

var(X (t)) = σ2X = a

TCZa

=[

t 1]

[

1 1/21/2 1

] [

t

1

]

= t2 + t + 1





Assim a fdp de X (t) e dada por

fX (t)(x) =exp {− x2

2(t2+t+1)}√

2π(t2 + t + 1)


Documents

Processos Estocásticos