1 Series de Tiempo Estacionarias

Analisis de Series de Tiempo Univariadas y MetodologıaBox - Jenkins para prediccion

Series de Tiempo Estacionarias

Juan Carlos Campuzano S.

Escuela Superior Politecnica del Litoral

Semestre I 2013

J. Campuzano (E.S.P.O.L) Metodologıa Box - Jenkins Semestre I 2013 1 / 30

Contenido

Introduccion al analisis Series de Tiempo

Proceso Estocastico

Procesos Estacionarios

Funcion de Autocorrelacion

Ejemplos de procesos de series temporales

Ruido Blanco NormalAR(1)Paseo aleatorio

Operadores de Rezago

Procesos Autoregresivos

Media Movil

Procesos ARMA

Ejemplos


Analisis Series de Tiempo

Uno de los objetivos del analisis de las series de tiempo es la prediccion.

1 De la teorıa a los datos.- Se establecen las ecuaciones de regresion enfuncion de lo que dice la teorıa economica. Supone que la relacion seva a mantener en el tiempo.

2 De los datos a la teorıa.- No hay mejor forma de predecir una variableque en funcion del comportamiento de dicha variable en el pasado.Luego se trata de dar la interpretacion economica a estos resultados.


La prediccion cientıfica pretende alcanzar dos grandes objetivos:

Proporcionar un valor probable o previsto de algunos resultados.

Reducir la incertidumbre sobre el rango de valores que pueden resultarde un evento futuro

La esencia de cualquier decision de riesgo es que no se puede conocer concerteza cual sera el resultado futuro de una decision que se tomara con lainformacion disponible en el presente. El riesgo es basicamente la falta deconocimiento sobre el futuro.


Proceso Estocastico - Definicion

Un proceso estocastico {yt}∞t=−∞ es una coleccion de variables aleatoriasindexadas por un conjunto t.

La teorıa de procesos estocasticos nos da una vision formal de observar lasseries de tiempo de las variables economicas.


Procesos Estocasticos


Procesos Estacionarios

El problema fundamental en el analisis de series de temporales es queunicamente se pueden observar las realizaciones del proceso solo unavez. De esta manera, si la distribucion de una determinada variablepermanece sin cambio, se dice que el proceso es estacionario.

Por ahora el interes se centra en procesos estocasticos estacionarios,en particular sobre los estacionarios en covarianza.


Proceso estrictamente estacionario

Un proceso estocastico zi (i = 1, 2, ...) es (estrictamente) estacionario si,para cualquier valor r finito de enteros y para cualquier conjunto desubindices, i1, i2, i3, ..., ir , la distribucion conjunta de (zi , zi1 , zi2 ..., zir )depende solo de i1 − i , i2 − i , ..., ir − i , pero no de i. Por ejemplo, ladistribucion conjunta de (z1, z5) es la misma de (z12, z16).

Proceso estacionario en convarianza

Un proceso zi es debilmente estacionario (o estacionario en covarianza) si:

1 E (zi ) no depende de i, y

2 cov(zi , zi−j) existe, es finito y depende solo de j pero no de i.


Proceso Estacionario en Covarianza

Sean los elementos de una serie de tiempo aquellos denotados por:

{Yt} = y1, y2, ..., yt , ...

y sean la media y la varianza de las observaciones en el momento taquellas dadas por:

µt = E [Yt ]

σ2t = E [(Yt − µ)2]

Sea ademas la covarianza de Yt , Ys

cov(Yt ,Ys) = E [(Yt − µt)(Ys − µs)] = λt,s

Una serie es estacionaria de segundo orden si:

µt = µ

σ2t = σ

λt,s = λt−sJ. Campuzano (E.S.P.O.L) Metodologıa Box - Jenkins Semestre I 2013 9 / 30

Autocorrelaciones

En ocasiones se utilizan las correlaciones en lugar de las covarianzas. Ası,la autocorrelacion en el rezago τ, ρτ se define como:

ρτ =λt,t+τ

λ0= λτ

λ0= E [(Xt−µ)(Xt+τ−µ)

E [(Xt−µ)(Xt−µ)]

Una grafica de ρτ contra τ se conoce como autocorrelograma ofuncion de autocorrelacion y usualmente es una buena guıa paraanalizar las propiedades de las series.


Ruido Blanco Normal (Gaussiano)

Si los εt son variables aleatorias independientes y normalmente distribuidascon media cero y varianza σ2, entonces se dice que siguen un procesodenominado ruido blanco normal. Esto es:

µ = E [εt ]

µ = 0

Var(εt) = σ2ε

ρ0 = 1

ρτ = E [εtεt+τ ]

ρτ = 0, siτ 6= 0


Proceso AR(1)

Sea εt un ruido blanco. Entonces Xt sigue un proceso AR(1) si:

Xt = αXt−1 + εt , |α| < 1

Xt = εt + α(αXt−2 + εt−1)

= εt + αεt−1 + α2Xt−2

= εt + αεt−1 + α2(αXt−3 + εt−2)

= εt + αεt−1 + α2εt−2 + α3Xt−3

. . .

= εt + αεt−1 + α2εt−2 + α3εt−3 + ...

=∞∑0

αiεt−i

E [Xt ] = 0


Proceso AR(1)

Las autocovarianzas estan dadas por:

λk = E [XtXt+k ]

= E

[ ∞∑0

αiεt−i

][ ∞∑0

αiεt+k−i

]

=∞∑0

αiαk+iσ2ε

= . . .

= σ2ε

αk

1− α2

y las autocorrelaciones por:

ρk =γkγ0

= αk , k = 0, 1, ...


Paseo Aleatorio

Consideremos un proceso AR(1) con α = 1. Ademas mantengamos elsupuesto de que εt es ruido blanco. Xt es un paseo aletorio si:

Xt = Xt−1 + εt

Es estacionario el proceso?Sea el valor en t = 0, X0 = 0. Por sustitucion:

Xt = εt + εt−1 + ...+ ε1 + X0

De esta manera:

E [Xt ] = X0

Var [Xt ] = tσ2ε

El proceso NO es estacionario.


Operadores de Rezago

Sean X1, ...,Xt una serie de tiempo, se define el operador de rezago Lcomo:

LXt = Xt−1

L2Xt = Xt−2

LpXt = Xt−p

Sea ahora el polinomio de rezagos aquel expresado como:

α(L) = 1− α1L− α2L2 − ...− αpL

p

un proceso AR(p) se define como:

Xt = α1Xt−1 + α2Xt−2 + ...+ αpXt−p + εt

Donde εt es un ruido blanco. En terminos de operadores de rezago sepuede expresar como:


Xt = α1LXt + α2L2Xt + ...+ αpL

pXt + εt(1− α1L− α2L

2 − ...− αpLp)Xt = εt

α(L)Xt = εt

Los operadores de rezago son manipulados usando las reglas ordinarias delalgebra. Dhrymes(1976).


Procesos Autoregresivos

Proceso AR(2)Sea el proceso AR(2) aquel definido como:

Xt = φ1Xt−1 + φ2Xt−2 + εt

En terminos de los operadores de rezago se puede expresar como:

(1− φ1L− φ2L2)Xt = εt

Se puede escribir el proceso como:

Xt = ψ(L)εt

= (1 + ψ1L + ψ2L2 + ...)εt

donde

(1− φ1L− φ2L2)−1 ≡ (1 + ψ1L + ψ2L

2 + ...)


Recordemos que el proceso AR(1) era estacionario si |α| < 1. Quecondiciones se deberıan imponer en un proceso AR(2) para que este seaestacionario?

Sean g1 y g2 las raıces de:

(1− φ1L− φ2L2) = 0

La ecuacion se puede escribir como:

(1− g1L)(1− g2L) = 0

El proceso es estacionario si |g1| < 1 y |g2| < 1. Las raıces pueden serreales o complejas. Estas restricciones imponen las siguientes condicionessobre φ1 y φ2:

φ1 + φ2 < 1

−φ1 + φ2 < 1

|φ2| < 1


La funcion de autocorrelacion (ACF) de un proceso AR(2) estacionario sepuede obtener de la siguiente manera: multiplique el proceso

Xt = φ1Xt−1 + φ2Xt−2 + εt

por Xt−k y tome las expectativas, esto es:

Xt − φ1Xt−1 − φ2Xt−2 = εtE [XtXt−k ]− φ1E [Xt−1Xt−k ]− φ2E [Xt−2Xt−k ] = E [Xt−kεt ]

γk − φ1γk−1 − φ2γk−2 = E [Xt−kεt ]

E [Xt−2Xt−k ] = {σ2ε , k = 0

0, k = 1, 2, ...

γ0 − φ1γ−1 − φ2γ−2 = σ2ε = γ0 − φ1γ1 − φ2γ2

γk − φ1γk−1 − φ2γk−2 = 0, k = 1, 2, ...


En terminos de las autocorrelaciones, se tiene:

ρk − φ1ρk−1 − φ2ρk−2 = 0 , k=1,2,...

Dadas las condiciones iniciales (ρ0 = 1, ρ−1 = ρ1) se puede resolver elproblema por sustitucion directa:Para k=1

ρ1 − φ1ρ0 − φ2ρ−1 = 0

ρ0 = 1

ρ1 = ρ−1

ρ1 =φ1

1− φ2


Para k=2

ρ2 − φ1ρ1 − φ2ρ0 = 0

ρ2 = φ1ρ1 + φ2ρ0

=φ2

1

1− φ2+ φ2

de la misma manera se pueden obtener los otros valores para k=3,4,...


Varianza de un proceso AR(2)Sea k = 0

γ0 − φ1γ−1 − φ2γ−2 = σ2ε

γ0(1− φ1ρ1 − φ2ρ2) = σ2ε

γ0

(1− φ2

1

1− φ2− φ2

1φ2

1− φ2− φ2

2

)= σ2

ε

γ0

(1− φ2 − φ2

1 − φ21φ2 − φ2

2(1− φ2)

1− φ2

)= σ2

ε

γ0

((1 + φ2)(1− φ2 − φ2

2)− φ2(1 + φ2)− φ21(1 + φ2)

)= (1− φ2)σ2

ε

γ0

(1− 2φ2 + φ2

2 − φ21

)=

1− φ2

1 + φ2σ2ε

γ0 =1− φ2

1 + φ2

σ2ε

(1− φ2 − φ1)(1− φ2 + φ1)

que es independiente de t.


Proceso AR(p)

Un proceso AR(p) se define como aquel proceso estocastico que sigue lasiguiente expresion:

xt − φ1xt−1 − φ2xt−2 − ...− φpxt−p = εt

de manera equivalente

(1− φ1L− φ2L2 − ...− φpLp)xt = εt

o

Φ(L)xt = εt

Para un proceso AR(p)las condiciones de estacionariedad se debenplantear como sigue:

Φ(L) = (1− g1L)(1− g2L)...(1− gpL)

las condiciones de estacionariedad requieren que:

|gi | < 1, para i=1,2,...,p


Proceso de Medias Moviles

Proceso MA(1)Sea el proceso MA(1) aquel definido como:

Xt = εt + θεt−1

donde εt es ruido blanco. Entonces, se tiene que:

E [Xt ] = 0

var [Xt ] = E [εt + θεt−1]2

= E [εt ]2 + θ2E [εt−1]2(independencia)

= (1 + θ2)σ2ε


Las autocovarianzas y autocorrelaciones vienen dadas por:

λ1 = E [xtxt−1]

= E [(εt + θεt−1)(εt−1 + θεt−2)]

= θE [ε2t−1]

= θσ2ε

por lo tanto:

ρ1 =θ

1 + θ2

λ2 = E [xt−1xt−2]

= E [(εt−1 + θεt−2)(εt−2 + θεt−3)]

= 0


Proceso MA(q)

Un proceso MA(q) se define como sigue, en donde εt es el usual ruidoblanco gaussiano.

Xt = εt + θ1εt−1 + ...+ θqεt−q

Su media y varianza estan dadas por:

E [Xt ] = 0

var [Xt ] = (1 + θ21 + θ2

2 + ...+ θ2q)σ2

ε


Las autocovarianzas y autocorrelaciones vienen dadas por:

λk = COV (XtXt−k)

= E [XtXt−k ]

= E [(εt + θ1εt−1 + ...+ θqεt−q)(εt−k + θ1εt−k−1 + ...+ θqεt−k−q)]

= (θk + θk+1θ1 + ...+ θqθq−k)σ2ε

yρk = λk

var [Xt ]

El punto importante a notar es que la funcion de autocorrelacion para unproceso MA(q)es cero para rezagos mayores a q.


Invertibilidad

Una propiedad requerida en ocasiones en el analisis de series de tiempo esla de invertibilidad. Recordemos que el proceso AR(1)

Xt = αXt−1 + εt

era estacionario si |α| < 1. En cuyo caso, el proceso AR(1) tiene unarepresentacion MA(∞).

xt = (1− αL)−1εt

= (1 + αL + α2L2 + ...)εt

= εt + αεt−1 + α2εt−2 + ...

y esta serie converge debido a sus propiedades estacionarias.


Consideremos ahora un proceso MA(1) con |θ| < 1 o, lo que es lo mismo|θ|−1

> 1

xt = (1 + θL)εt

(1 + θL)−1xt = εt

(1 + θL + θ2L2 + ...)xt = εt

xt + θxt−1 + θ2xt−2 + ... = εt

el lado izquierdo converge si |θ| < 1. En cuyo caso el proceso MA(1) tieneuna representacion AR(∞) y se dice que el proceso es invertible. Si elproceso MA(q) xt = Θ(L)εt es invertible, las raices de Θ(L) = 0 estanfuera del cırculo unitario.


El Proceso ARMA(p,q)

Considere ahora el proceso (mixto) ARMA(p,q) siguiente:

Xt = φ1Xt−1 + φ2Xt−2 + ...+ φpXt−p + εt + θ1εt−1 + ...+ θqεt−q

(1− φ1L− φ2L2 − ...− φpLp)Xt = (1 + θ1L + θ2L

2 + ...+ θqLq)εt

Φ(L)Xt = Θ(L)εt

Las condiciones de estacionariedad son las mismas que para unproceso AR(p). Esto es, Φ(L) = 0 tiene sus raıces fuera del cırculounitario.

Las condiciones de invertibilidad son las mismas que para un procesoMA(q). Esto es, las raıces de Θ(L) = 0 caen dentro del cırculounitario.

En el autocorrelograma de un proceso ARMA(p, q), los rezagos estandeterminado por la parte del proceso AR(p) mientras que el efecto delproceso MA decae lentamente.


Documents

1 Series de Tiempo Estacionarias