Lezione4_Processi_aleatori

8/18/2019 Lezione4_Processi_aleatori

1/29

1

Corso di Fondamenti di Telecomunicazioni

6 – Processi aleatori

1

.

Fondamenti di TLC - Prof. G. Schembra 6 – Processi aleatori

Struttura della lezione

statistica ( ) Stima delle statistiche di primo e secondo ordine

Processi aleatori stazionari ( ) Potenza, energia e Spettro di potenza ( )

Processi aleatori ergodici ( )

2

Processi aleatori notevoli ( ) Processi gaussiani Rumore bianco e rumore termico

Correlazione tra due processi aleatori ( )

Filtraggio di un segnale aleatorio con sistemi LTI ( )


2/29

2


PROCESSI ALEATORI:

DEFINIZIONEE CARATTERIZZAZIONE STATISTICA

3


Processi aleatori

spesso dei segnali x (t ) trattati, elaborati, o ricevuti non si

conosce a priori la forma d’onda nel tempo

Processi aleatori: un processo aleatorio è un modello matematico per i segnali

aleatori

Processo aleatorio: definizione

4

collezione di un numero finito o infinito di funzioni del tempo

(segnali determinati) corrispondenti a diversi risultati di unesperimento aleatorio


3/29

3


Processi aleatori

(t ,ω ) è il processo aleatorio

x(t ,ω i) funzione campione

X (t i ,ω ) variabile aleatoria

x(t j,ω i) numero

5

L’aleatorietà sta nel fatto che a priori non è possibile saperequale sarà il segnale

Eseguito l’esperimento, il processo diventa a posteriori unsegnale determinato x(t, ω i), detto funzione campione orealizzazione


Processi aleatori parametrici

11 =ω

22 =ω

Esempio 1: processo esponenzia e

)()( t uet X t −Ω=

processo parametrico dipendentedalla v.a. (parametro) Ω

6

33 =ω Ω è una v.a.assume i valori del lancio di un dado

Ω = {ωi} = {1,2,..,6}


4/29

4


Processi aleatori parametrici

semp o : genera ore segna e cos nuso a e

( )θ π += t f At X 02cos)( costante: Acostante:0 f

π θ 2,0incontinuaaleatoriavariabile:

7

I processi parametrici sono i processi più semplici da trattare


Caratterizzazione statistica di un processoaleatorio

( ) )(, 11 t X t X = variabile aleatoria

Funzione distribuzione di probabilità del primo ordine delprocesso

} x t X t x F X ≤11 Pr ; Δ

2

4

X(t 1) x1(t)

8

-4

-2

0

543210

Tempo, t

t1

x2(t)

x3(t)

x4(t)

X (t 1)

dipende anche da una variabile temporale t 1perché le proprietà statistiche della variabilealeatoria cambiano, in generale, al cambiaredell’istante di tempo al quale si “campiona” ilprocesso:

21 t x F t x F X X ;; ≠


5/29

5



( ) )(, 11 t X t X =ω

Funzione densità di probabilità del primo ordine delprocesso

2

4

X(t 1) x1(t)

( ) ( )t ; x F

t ; x f X ∂

=Δ 1

9

-4

-2

0

543210

Tempo, t

t1

x2(t)

x3(t)

x4(t)

X (t 1)

x



Osserviamo che la funzione non è sufficiente a( )1;t x F X caratterizzare un processo aleatorio

Esempio:

un processo aleatorio utilizzato per modellare (e prevedere) laquotazione di un titolo in borsa

t X : probabilità dell’evento che la quotazione del titolo all’istante divendita t2 sia maggiore della quotazione all’istante di acquisto t1

10

}2211

2121

x t X x t X

t t x x F X

≤

=

,Pr

,;, Δ

1 t x F X ;

richiede la considerazione congiuntadi due variabili aleatorie estratte dallostesso processo in istanti distinti.Non può essere utilizzata

distr ibuzione di probabilità del secondo ordine del processo


6/29


7/29


8/29

8


Indici statistici di un processo aleatorio

⎪⎧

=+∞

continuo proc.)();( X t dxt x xf μ

{ }

⎪⎪

⎩

⎨

=

=

∑

∞−

discreto proc.))((

)(

i

ii xt X P x

t X E

),()( ϑ t g t X =

Per un processo parametrico

ϑ ϑ ϑ ϑ d f t g t g E t X E θ

)(),()},({)}({ ∫+∞

∞−

==

15

unz one au ocorre az one or ne

{ }⎪⎩

⎪⎨

⎧

== )()(),( 2121 t X t X E t t R XX })(,)({ 21∑∑ ==

i j

ji ji xt X xt X P x x

∫ ∫+∞

∞−

+∞

∞−21212121 ),;,( dxdxt t x x f x x X Processo continuo

Processo discreto


Indici statistici di un processo aleatorio

[ ][ ]{ }=−−= )()()()(),( 221121 t t X t t X E t t C XX )()(),( 2121 t t t t R XX −=

t t t == 21 se Varianza(ordine 1)

)()()}({),( 222 t t t X E t t C XX σ μ =−=

16

== ∫+∞

∞−Ω

− ω ω ω d f t uet X E t )()()}({

=−= ∫∑ −∞

∞−=

− ω ω ωδ d it uei

t )()(6

16

1

)(5.36

)(6

1

t uei

t ue t

i

t −

=

− =∑

Esempio 1 )()( t uet X t −Ω= Ω è una v.a.assume i valori del lancio di un dado

Ω = {ωi} = {1,2,..,6}

ϑ ϑ ϑ d f t g t X E θ

)(),()}({ ∫+∞

∞−

=


9/29

9


Esempio 2: processo armonico

θ π θ += t t X 2cos dove θ è una v.a. uniformementestr u ta n , π

02

1)2cos()}({

2

0

0 =+= ∫π

θ π

θ π d t f At X E

{ }== )()(),( 2121 t X t X E t t R XX

2cos2cos θ π θ π ++= t t A E =+++−= 2)(2cos)(2cos2

θ π π t t f t t f E A

17

2

[ ] =+−= 0)(2cos2

210

2

t t f A

π

21 posto t t −=τ

)(τ X R

[ ] [ ] =+++−= ∫ α π α π π π

d t t f A

t t f A

2

12)(2cos

2)(2cos

2

2

0210

2

210

2

integrando il cos(a+θ) per θ∈[0,2π]. ATTENZIONE:la frequenza è1/ π, quindi è già nullo in [0,π]

NOTA: in questo caso non dipende dagli istanti, ma solo dalla loro distanza),( 21 t t R XX


Esempio

Ω Ω Ω , Ω

v.a.∈

[-1,1] uniformemente distribuita

f X ( x;t )

-1 1

+1

-1

),( it x ω

t

18

t t X i ∀=ω )(

⎪⎩

⎪⎨⎧ −∈=

altrove

xt x f X

0

]1,1[2

1);( μ =)}({ t X E 0);(

1

1

== ∫−

dxt x xf X

NOTA: Il valore medio nondipende dal tempo perchénon ne dipende la f X

{ }== )()(),( 2121 t X t X E t t R XX { }3

1

2

11

1

22 == ∫−

dx x X E

f X ( x;t ) coincide con la pdf della Ω, ∀t


10/29

10


PROCESSI ALEATORISTAZIONARI

19


Processi stazionari

un processo si dice stazionario in senso stretto se unatraslazione temporale modifica le forme d’onda ma il

comportamento statistico rimane invariato, cioè:( ) ( )ε ε ε +++= nn X nn X t t t x x x f t t t x x x f ,,,;,,,,,,;,,, 21212121 KKKK

ε ∀

n∀

20

n= ,stazionario di ordine M

Un processo si dice stazionario in senso lato (SSL) (o in sensodebole) se:

non dipende dal tempo{ })(t X E

( ) ( ) 1221 con, t t Rt t R X XX −== τ τ


11/29

11


Processi stazionari almeno in senso lato

E [ X (t )] è indipendente dal tempo R XX (τ) dipende solo dalla distanza tra gli istanti

Processo STAZIONARIO IN SENSO LATO (SSL) se:

21


Processi stazionari almeno in senso lato

{ })()()( t X t X E R XX ⋅+= τ τ

• R XX (τ)= R XX (-τ)• R XX (0)= E {[ X (t )]2}≥0

•| R XX (τ)|≤ R XX (0)

Potenza media statistica istantanea

22

C X (t 1,t 2) = E { X (t 1) X (t 2)}– μ X (t 1)μ X (t 2)

Se R XX dipende solo da τ

Se il valor medio è costante

C XX (τ) dipende solo da τ

Proprietà della funzione di autocovarianza


12/29

12


Processo stazionario in senso lato{ })()()( t X t X E R XX ⋅+= τ τ

lato, che non contiene componenti periodiche. Risulta:

2)(lim X XX

R μ τ τ

=→∞

Dimostrazione

R X(τ)

μX2

23

{ } { } 2)()(lim X X X t X E t X E μ μ μ τ τ

==+=∞→

Il processo è stazionario in senso lato. Quindi il valor medio è indipendente dal tempo

{ }=+∞→

)()(lim τ τ

t X t X E


Significato della funzione di autocorrelazione perun processo stazionario

11 22

valore medio e stessa potenza, R XX (0)

XX11(t)(t) varia lentamentevaria lentamente

XX22(t)(t) varia velocementevaria velocemente

Nello stesso tempoNello stesso tempo τ,, XX22(t) e X(t) e X22(t +(t + τ) sono più incorrelate di X) sono più incorrelate di X11(t) e(t) e

XX11(t +(t + τ) , cioè:) , cioè:

24

L’Autocorrelazione misura la rapidità di variazionedel segnale aleatorio

x x22 ττ →→ μμxx p ve ocemente p ve ocemente x x11 ττ

X

μX2

τ


13/29

13


Significato della funzione di autocorrelazione perun processo stazionario

τcorr : minima distanzadi tempo affinché le v.a.estratte dal processosiano incorrelate

τcorr

2 X μ

)(τ XX R

τcorr

2 X μ

)(τ XX R

25dove

222 )( X X t X E μ σ −= è la varianzaτcorr

)(ˆ τ XX C

12

2)()(ˆ

X

X XX XX

RC

σ

μ τ τ

−=

(per confrontare grandezze diverse):

1)0(ˆ = XX C 0)(ˆlim =

∞→τ

τ XX C


POTENZAENERGIA ESPETTRO DI POTENZA

26


14/29

14


Potenza ed energia X (t ): processo casuale x(t ,ω i): realizzazione

per ogni realizzazione l’energia e la potenza sono definiticome segue:

∫+∞

∞−

= dt t x ii ),(2 ω ε

+

=2/

2 ),(1

limT

ii dt t x p ω


15/29

15


Spettro di potenza

Ricerchiamo una definizione di Densità S ettrale di Potenza

(spettro di potenza) congruente con quella dei segnali

determinati

Ogni realizzazione ha una diversa densità spettrale di potenza

⎪⎨⎧ <

=T t t x

t xi

iT

2/||),(),(

ω ω

29

|),(|

lim),(2

T

f X f S iT

T i X

ω ω

∞→= ( ) { }),(, dove iT iT t x f X ω ω ℑ=


Spettro di potenza di un processoaleatorio

Conseguenza:(per i processi stazionari almeno in senso lato)

{ } { }

|)(|

lim|)(|

lim),(:)(22

T

f X E

T

f X E f S E f S T

T

T

T X X

∞→∞→=

⎭

⎬⎫

⎩

⎨⎧

== ω

30

come per i segnali determinati:

Teor. Di Wiener-Khintchine{ })()( τ XX X R f S ℑ=

{ }0

1 )()(=

−+∞

∞−

ℑ=∫ τ f S df f S X X X P ≡)0( XX R= Per un processo stazionario la SX(f) è ladensità spettrale di potenzadensità spettrale di potenza


16/29

16


Spettro di potenza e funzione diautocorrelazione

Lo Spettro di Potenza di un p.a. stazionario S X ( f )=ℑ[ R X (τ)]soddisfa tutte le proprietà della densità spettrale di potenzadi un segnale determinato

La Funzione di Autocorrelazione di un p.a. stazionario R (τ)=

31

ℑ[ X (t ) X (t +τ)] soddisfa le stesse proprietàdell’autocorrelazione di un segnale determinato


PROCESSI ALEATORIERGODICI

32


17/29

17


Ergodicità del valor medio di un processoaleatorio

∫+

−∞→

>=<2/

2/

),(1

lim),()1(T

T

iT

i dt t xT

t x ω ω ∫+∞

∞−

= dx x xf X E X )(}{)2(

Il processo è ergodico in valor medio se: la (1) e la (2) coincidono con probabilità 1

33

la media temporale è un numero. Ne segue che anche lamedia statistica non deve dipendere da t


Ergodicità della funzione diautocorrelazione di un processo aleatorio

u ocorre az one empora e e segna e x t, i

∫−∞→+=

2/

2/

),(),(1

lim)(T

T

ii

T

x dt t xt x

T

Ri

ω ω τ τ

Il processo è ergodico in autocorrelazione se:

==

34

X xi

Inoltre, in tal caso si ha:

)()( f S f S X xi =


18/29

18


Ergodicità in senso lato

l’ergodicità è verificata per le funzioni: Valor medio Autocorrelazione

Cioè se, scelta a caso una qualsiasi realizzazione,

35

e me e ns eme co nc ono con que e emporacon probabilità 1

Ogni realizzazione fornisce una buona stimadelle caratteristiche spettrali del processo


Processi ergodici

Definizione: rocesso er odico in senso stretto è un processo strettamente stazionario per il quale è sufficiente

una sola realizzazione, scelta a caso, per ottenere con probabilitàunitaria, tutte le informazioni statistiche

In altre parole: tutte le medie temporali sono uguali (con probabilità 1) alle

corrispondenti medie statistiche

36

ua unque s a a unz one camp one sce ta, tranne per un ns emecon probabilità nulla, si dice che:

la media verticale (d’insieme) coincide

con quella orizzontale (temporale)


19/29

19


Processi ergodici

37

CONSEGUENZA:

È possibile misurare certe statisti che, definite come medie diinsieme, mediante le corrispondenti medie temporali calcolate

su una sola (qualsiasi) realizzazione


PROCESSI ALEATORINOTEVOLI

38


20/29

20


Processi aleatori Gaussiani

un processo aleatorio X (t ) è Gaussiano se le n variabili aleatorie[ X (t 1), …, X (t n)] da esso estratte agli istanti [t 1, …, t n] risultanocongiuntamente Gaussiane per ogni n, e per qualunque n-upladi istanti, cioè se:

( ) ( ) X XX T X X X n

nn X et t x x f η η −−− −=

15.0

11

1),,;,,(

CKK

39

Caratterizzazione completa:

)(t X η [ ]),( 21 t t C XX

XX determinante

sono sufficienti


Processi aleatori Gaussiani dove:

( ) ( ) X XX T X X X n

nn X et t x x f η η −−− −

=15.0

11

1),,;,,(

CKK

[ ]T n X X X

t t )(,),(1

η η η K=

[ ][ ] ( ),, k i XX k i t t C ==XXC

XX

Vettore dei valori medi

Matrice delle autocovarianze( ) ( ) ( )

( ) ( ) ( )⎥⎥⎤

⎢⎢⎡

= n XX XX XX

n XX XX XX

t t C t t C t t C

t t C t t C t t C

,,,

,,,

22212

12111

C

40

( ) )()(, k X i X k i XX t t t t R η η −=

Proprietà fondamentali: se un processo Gaussiano è stazionario in senso lato, allora è

anche stazionario in senso stretto due processi gaussiani, se incorrelati, sono anche indipendenti

( ) ( ) ( )⎥⎦⎢⎣ nn XX n XX n XX t t C t t C t t C ,,, 11


21/29

21


Rumore bianco

modello matematico astratto) caratterizzato da:

)( f S X

20 N 20 N

)(τ XX R

0 e 2

)( 0 == X X N

f S μ

41

Per ogni frequenza, il processo ha lo stesso contenuto di potenza

Come la luce bianca che contiene tutti i colori; per questo il rumore èdetto bianco

f τ


Rumore bianco

R XX (τ) è un impulso. Quindi, presi due istanti anche vicinissimi, i valoriassunti dal processo nei due istanti sono incorrelati

Il rumore bianco non esiste nella realtà poiché risulta a potenza infinita

Esso serve come modello di un’ampia gamma di segnali, per i quali siuò assumere che non ci sia correlazione tra i valori assunti dal se nale

42

in tempi diversi

Tra i rumori bianchi un caso particolare è costituito dal rumore termicodovuto all’agitazione termica degli elettroni


22/29

22


Rumore termico

R

1

Ogni elettrone contribuisce a generare una tensione Vdi disturbo che è dovuta alla temperatura T, il processoche rappresenta la tensione V è di tipo gaussiano

43

SV(f)

f 0 f

f 0 dell’ordine dei THz (Tera =1012)

f 0=6.025 THz

stato verificato che S V(f) è del tipo


SV(f)

Rumore termico

f 0 f

f 0 dell’ordine dei THz (Tera =1012)

f 0=6.025 THz

La tensione che si genera dovrà interagire con l’esterno, visto chetutti i sistemi hanno una banda che sicuramente è inferiore ai THz

44

SV(f)

f 0

H(f)

osso cons erare rumore erm co come rumore anco ne rangedi frequenza di interesse


23/29

23


Rumore termico ai capi di una resistenza

T Il rumore termico di una resistenza a tem eratura T

R

K è la costante di Boltzman K=1.37E-23 J/°K

R è la resistenza in Ω

T è la temperatura in gradi °K

è modellato con una resistenza ideale ( T =0 °K) in serie con uneneratore di tensione rocesso bianco

45

R

)(t ne

KRT f S en

2)( =

{ } 0)( =t n E e

)(2)( τ δ τ KRT Reenn

=


CORRELAZIONE TRA DUEPROCESSI ALEATORI

46


24/29

24


Processi aleatori congiuntamentestazionari

Due processi sono congiuntamente stazionaricongiuntamente stazionari insenso lato se: X (t ) e Y (t ) sono singolarmente stazionari in senso lato e R XY e R XY dipendono solo da τ

47


Cross-correlazione e segnali incorrelati Definizione: Cross-correlazione tra 2 segnali SSL e

cong untamente staz onar

Definizione: X ( t) e Y ( t) SSL sono incorrelati se:

{ })()()( τ τ += t Y t X E R XY

{ })()()( τ τ += t X t Y E RYX

{ } { } { } Y X t Y E t X E t Y t X E μ μ τ τ ⋅=+⋅=+⋅ )()()()(

{ } { } { } X Y t X E t Y E t X t Y E μ μ τ τ ⋅=+⋅=+⋅ )()()()(

Se X e Y sonoSe X e Y sono SSL e congiuntamente stazionari,SSL e congiuntamente stazionari, incorrelatiincorrelati e a media nullae a media nulla

)()( τ τ YX XY R R =

0)()( == τ τ YX XY R R X e Y si dicono ortogonaliX e Y si dicono ortogonali


25/29

25


Processi aleatori indipendenti e incorrelati

Notiamo che se due rocessi sono incorrelati:

[ ][ ]{ }=−−= )()()()(),( 221121 t t X t t X E t t C Y X XY μ μ

{ } { } { } =+−−⋅= )()()()()()()()( 21212121 t t t t X E t Y E t t Y t X E Y X Y X μ μ μ μ

{ } { } 0)()()()( 2121 =−⋅= t t t Y E t X E Y X μ μ

49

0),( 21 =t t C XY


Caso rilevante: segnale + rumore termico

Esempio: segnale + rumore termico

Il rumore ha valor medio nullo 0)()( == τ τ YX XY R R

[ ] [ ]{ }

)()()()(

)()()()()

τ τ τ τ

τ τ τ

YX XY YY XX

ZZ

R R R R

t Y t X t Y t X E R

+++=

=+++⋅+=()()()( t Y t X t Z +=

Consideriamo il segnale:

50

)()() τ τ τ YY XX ZZ R R R +=(La funzione di autocorrelazione di un segnale affetto da rumoretermico additivo è la somma delle funzioni di autocorrelazione delsegnale e del rumore


26/29


27/29

27


Filtraggio di un segnale aleatorio consistemi lineari tempo-invarianti (LTI)

Il Σ è attraversato da una sola realizzazione

x(t,ωi) y(t,ωi)

x(t,ω ) y(t,ω )

X(t)X(t) Y(t)Y(t)

T

T

Y(t)=T[X(t)]Y(t)=T[X(t)]

53

X(t,ωi) = X(t, ω j)Y(t, ω i) = Y(t, ω j)

Il Σ è deterministico:


Notazione

Σ e Σ , e h t a sua r spos a a mpu so

h(t)h(t)x(t,ωi) y(t,ωi)

Useremo la notazione: ( ) )()( t h X t Y ⊗=

)(),( t h xt yii

⊗= ω

)(),( t h xt y j j ⊗= ω

54

processi aleatori !!!


28/29

28


Trasmissione di processi attraversosistemi lineari tempo-invarianti (LTI)

o o processo a ea or o t n ngresso a s s ema e a ras ormaz onedel sistema, in generale non è possibile determinare il comportamentostatistico completo del processo aleatorio in uscita Y (t )

È però possibile calcolare valor medio e funzione di autocorrelazione

Eccezione per i sistemi senza memoria

’ ’

55

usc a pen e a va ore s an aneo e ngresso fissato l’istante, il processo diventa una variabile aleatoria in questo caso è possibile calcolare: ),( t y f Y

ΣX(t1) Y(t1) Σv.a. v.a.Trasformazionedi variabilialeatorie


Valor medio e Autocorrelazione delprocesso di uscita

caratterizzato da valor medio e funzione di autocorrelazione:

Dato un sistema Σ LTI caratterizzato da una risposta all’impulso h(t ):

)(t X μ ),( 21 t t R XX

56

{ } )()(),()()(),( 2121212121

t ht ht t Rt Y t Y E t t Rt t

XX YY ⊗⊗==

{ } )()()()( t ht t Y E t X Y ⊗== μ μ


29/29


Valor medio e Autocorrelazione delprocesso di uscita

Dato un rocesso X t stazionario in senso lato caratterizzato da valor medio e funzione di autocorrelazione:

Dato un sistema Σ LTI caratterizzato da una risposta all’impulso h(t ):

X μ )(τ XX R

57

X (t ) e Y (t ) risultanocongiuntamentecongiuntamente

stazionaristazionari)()()( τ τ τ −⊗= h R R XX XY

)0()( H dt t h X X Y ⋅== ∫∞−

μ μ μ

)()()()()()( τ τ τ τ τ τ hh XX XX YY R Rhh R R ⊗=−⊗⊗=

{ } 2)()()()( f H f S R f S X YY Y =ℑ= τ


Filtraggio di processi aleatori Gaussiani

Processo di ingresso:

• Gaussiano

• Stazionario in senso lato (equindi anche in senso stretto)

Sistema:

Processo di ingresso:

• Gaussiano


Sistema:

58

• Lineare Stazionario

Processo di uscita:

• Gaussiano


• Lineare NON Stazionario

Processo di uscita:

• Gaussiano

Documents

Lezione4_Processi_aleatori