Series de Tiempo - UNAM · Modelo probabilistico de las series de tiempo Procesos Estoc asticos Un...

Series de Tiempo

Miguel Angel Chong [email protected]

3 de mayo del 2012

Miguel Chong CNSF IIMAS-UNAM

Modelo probabilistico de las series de tiempo

Procesos EstocasticosUn procesos estocasticos es una sucesion de variables aleatoriasque evolucionan en funcion de otra variable, generalmente eltiempo. Cada una de las variables aleatorias del proceso tiene supropia funcion de distribucion de probabilidad y entre las variablesaleatorias, pueden estar correlacionadas o no. Supongamos queuna serie de tiempo de n datos la pensaremos como una muestraextraıda (una realizacion) de un vector de n variables aleatorias(Xt1 , . . . ,Xtn) que forman parte de un proceso estocastico.


DefinicionUn proceso estocastico es una coleccion de variables aleatorias Xtt∈Tindexadas a un conjunto de ındices T definida sobre el mismo espacio deprobabilidad (Ω,A,P) y toma valores en (R,B (R)).

Donde T es el conjunto de indices y en nuestro caso sera N ∪ 0 o Z.Un proceso estocastico lo podemos pensar como una aplicacion de dosargumentos

X : T × Ω → R(t, ω) → X (t, ω) = Xt (ω) .

Si dejamos fijo a t y dejamos variar ω ∈ Ω entonces tenemos unavariable aleatoria definida en (Ω,A,P) y toma valores en (R,B (R)).

Si dejamos fijo a ω y dejamos variar t ∈ T entonces tenemos unatrayectoria o realizacion del proceso asociada a ω.


Llamaremos funcion de medias del proceso Xtt∈T a laaplicacion

t ∈ T → µt = E [Xt ] .

Llamaremos funcion de varianzas del proceso Xtt∈T a laaplicacion

t ∈ T → σ2t = Var [Xt ] = E

[(Xt − µt)2

].


La estructura de dependencia lineal entre las variables aleatorias delproceso se representa mediante las funciones de covarianza y correlacion,siempre y cuando los momentos de orden uno y dos existan.Llamaremos funcion de autocovarianzas del proceso Xtt∈T a laaplicacion

t1 × t2 ∈ T × T → γt1,t2 = Cov (Xt1 ,Xt2 ) = E [(Xt1 − µt1 ) (Xt2 − µt2 )] .

Llamaremos funcion de autocorrelacion del proceso Xtt∈T a laaplicacion

t1 × t2 ∈ T × T → ρt1,t2 = Cor (Xt1 ,Xt2 ) =γt1,t2√σ2t1σ2t2

.


Procesos Estacionarios

DefinicionDiremos que Xtt∈T es un proceso estrictamente estacionariosi para cualquier τ > 0, n ≥ 1 y ti , ti + τ ∈ T , i ∈ 1, . . . , n,entonces (Xt1 , . . . ,Xtn) y (Xt1+τ , . . . ,Xtn+τ ) tiene la mismadistribucion conjunta, es decir

Ft1,t2,...,tn(a1, a2 . . . , an) = P(Xt1 ≤ a1,Xt2 ≤ a2, . . . ,Xtn ≤ an)

= P(Xt1+τ ≤ a1,Xt2+τ ≤ a2, . . . ,Xtn+τ ≤ an)

= Ft1+τ,t2+τ,...,tn+τ (a1, a2, . . . , an).


DefinicionDiremos que Xtt∈T es un proceso estacionario de primerorden o en media si la funcion de medias es constante, es decir,µt no depende de t, es decir

E (Xt1) = µt = k, una constante ∀ t ∈ T .


DefinicionDiremos que Xt es un proceso debilmente estacionario oestacionario de segundo orden si ∀n ≥ 1 , ∀t1, t2, . . . tn ∈ T y∀τ ∈ T tal que ∀t1 + τ, t2 + τ, . . . tn + τ ∈ T , los momentos deorden 1 y 2 del vector (Xt1 ,Xt2 , . . .Xtn) son iguales a loscorrespondientes momentos de orden 1 y 2 del vector(Xt1+τ ,Xt2+τ , . . .Xtn+τ ), es decir

E(X r1t1· X r2

t2· . . . · X rn

tn

)= E

(X r1t1+τ · X

r2t2+τ · . . . · X

rntn+τ

),

con ri ∈ 0, 1, 2 y∑n

i=1 ri ≤ 2.ObservacionUn proceso estrictamente estacionario + momentos de segundoorden finitos implica tener un proceso estacinario de segundo orden.


Otra manera de decir lo anterior es la siguienteDefinicionDiremos que Xtt∈T es un proceso estacionario de segundo orden odebilmente estacionario si

1 La funcion de medias es constante (estacionario en media),

2 La funcion de autocovarianzas tiene la propiedad de que γt,t+h esindependiente de t para cada h, es decir que γs,t = γs+h,t+h paratodo s, t, s + h, t + h ∈ T .

La condicion 2, quiere decir que γs,t = Cov (Xs ,Xt), solo depende de la

distancia en el tiempo entre estas, |s − t|.

Por lo tanto la funciones de autocovarianza y de autocorrelacion de unproceso estacionario son denotadas por γh = γt,t+h y ρh = γh

γ0

respectivamente.


Propiedades de las funciones de autocovarianzas y autocorrelacion

γ0 ≥ 0

Las funciones de autocovarianza y autocorrelacion de unproceso estacionario de segundo orden son simetricas conrespecto al cero, es decirγh = Cov (Xt ,Xt+h) = Cov (Xt ,Xt−h) = γ−h, y ρh = ρ−h.

ρ0 = 1

|ρh| ≤ 1


Cuando nosotros tenemos una serie de tiempo observadaX1, . . . ,Xn, y queremos determinar un modelo probabilıstico delcual esta serie es una realizacion, usaremos dos una herramientabasicas:

la media muestral y

la funcion de autocorrelacion muestral,

la primero estadıstica nos da una estimacion del nivel alrededordonde se desarrolla la serie, mientras que la autocorrelacion nosdice el grado de dependencia de los datos.


En lo siguiente supongamos que Xtt∈T es un procesoestacionario de segundo orden, con media µ, varianza σ2 = γ0 yfuncion de autocovarianzas γii∈N.Ahora supongamos que X1, . . . ,Xn es una serie de tiempoobservada del proceso arriba descrito. Nuestro objetivo seraestimar µ, varianza σ2 = γ0 y funcion de autocovarianzas γii∈Na partir de la serie observada.


El estimador de la media µ lo definimos como

Xn =1

n

n∑t=1

Xt .

Propiedades

El estimador Xn es insesgado.

El error cuadratico medio del estimador Xn esta acotado por

E[(

Xn − µ)2]

= Var(Xn

)≤

∑|h|<n

|γh|

n.

Si ademas∑|h|<n

|γh| <∞, limn→∞ E[(

Xn − µ)2]

= 0, es decir que Xn

converge en media cuadratica a µ.


Prueba de la afirmacion del punto dos anterior

E[(

Xn − µ)2]

= Var(Xn

)=

n∑i=1

n∑j=1

Cov (Xi ,Xj)

n2

=

n∑i−j=−n

(n − |i − j |) γi−j

n2, si h = i − j

=

n∑h=−n

(n − |h|) γh

n2

= =

n∑|h|=0

(1− |h|

n

)γh

n=

n−1∑|h|=0

(1− |h|

n

)γh

n

=

∑|h|<n

γh

n≤

∑|h|<n

|γh|

n


La funcion de autocovarianza muestral es

γh =1

n

n−h∑t=1

(Xt+h − Xn

) (Xt − Xn

), 0 ≤ h ≤ n − 1.

La funcion de autocorrelacion muestral o estimada es

ρh =γhγ0, 0 ≤ h ≤ n − 1.

Observaciones

Para que γh y ρh estimen “adecuadamente” a γh y ρhrespectivamente, para valores de h en el intervalo

[0, n4], Box

y Jenkins sugieren tener una serie observada X1, . . . ,Xn conn ≥ 50.


DefinicionUn proceso de ruido blanco, εtt∈T , es un proceso estocasticoformado por variables aleatorias no correlacionadas,γh = 0 si h 6= 0, con media cero, E [εt ] = 0 y varianza constanteσ2ε = γ0.

Por lo tanto

ρh =γhγ0

=

1 si h = 0

0 si h 6= 0

.


TeoremaSea εtt∈T un proceso de ruido blanco formado por variablesindependientes y ρ

h= (ρ1, ρ2, . . . , ρh)′. Entonces para toda h ≥ 1,

√nρ

h

d→Nh (0, Ih×h) ,

cuando n→∞.

En otras palabras, n grande las ρ1, ρ2, . . . , ρh, h ≥ 1 sonaproximadamente v.a.i.i.d. Norm

(0, 1

n

).

Usando el resultado anterior podemos contrastar si la serie detiempo X1, . . . ,Xn se a generado a partir de un proceso de ruidoblanco. Si la serie fue generada a partir de un porceso de ruidoblanco entonces el 95% de las autocorrelaciones muestralesdeberıan caer en el intervalo

[−1.96/

√n, 1.96/

√n].


Procesos estocasticos lineales.DefinicionUn proceso estocastico Xtt∈T es un proceso lineal si para todot ∈ Z se puede representar como

Xt =∞∑

j=−∞ψjεt−j , (1)

donde εtt∈T es un proceso de ruido blanco y ψj∞j=−∞ es unasucesion de constantes reales absolutamente sumables∑∞

j=−∞ |ψj | <∞.

Una forma de escribir (1) a partir de operadores de retraso es lasiguiente;

Xt = ψ (B) εt , donde ψ (B) =∞∑

j=−∞ψjB

j .


Observaciones

En la definicion de proceso estocastico lineal se pide que∑∞

j=−∞ |ψj | <∞, estoes con el fin de garantizar que Xt tenga primero y segundo momento finito conprobabilidad 1.

Para ver que E [Xt ] existe∑∞

j=−∞ |ψj | <∞, primero notemos que usando la

desigualdad de Jensen para la funcion ϕ(x) =√x , tenemos que

E [|εt |] = E[√|εt |2

]≤√

E [|εt |2] =√

E[ε2t

]= σε.

Entonces

E [|Xt |] = E

| ∞∑j=−∞

ψj εt−j |

≤ E

∞∑j=−∞

|ψj ||εt−j |

=

∞∑j=−∞

|ψj |E[|εt−j |

]≤ σε

∞∑j=−∞

|ψj | <∞.


El operador ψ (B) puede ser interpretado como un filtro lineal.En otras palabras el proceso lineal Xtt∈T es la salida oresultado de aplicarle el filto ψ (B) a la serie de ruido blancoεtt∈T .

Podemos ser un poco mas generales si suponemos un procesolineal Xtt∈T que tiene media µ se puede expresar de laforma Xt − µ =

∑∞j=−∞ ψjεt−j .


Veamos un ejemplo de un proceso estocastico lineal. Sea Xtt∈T unproceso estocastico

Xt =φXt−1 + εt , con |φ| < 1.

De manera recursiva podemos escribir la ecuacion anterior como

Xt = φ (φXt−2 + εt−1) + εt = φ2Xt−2 + φεt−1 + εt

= φ2 (φXt−3 + εt−2) + φεt−1 + εt = φ3Xt−3 + φ2εt−2 + φεt−1 + εt...

= φnXt−n + φn−1εt−(n−1) + . . .+ φ2εt−2 + φεt−1 + εt

= limn→∞

φnXt−n +∞∑j=0

φjεt−j =∞∑j=0

φjεt−j .


Theorem

Sea Ytt∈T un proceso estacionario con media cero, varianza γY (0) = σ2 yfuncion de autocovarianzas γY (h) para h ≥ 1. Si ψj∞j=−∞ es una serie de

reales tales que∞∑

j=−∞

|ψj | <∞ entonces el proceso Xt =∞∑

j=−∞

ψjYt−j es

estacionario con media cero y funcion de autocovarianzas

γX (h) =∞∑

j=−∞

∞∑k=−∞

ψjψkγY (h + k − j), h ≥ 0.

Ademas si tenemos que si Ytt∈T es ruido blanco, la funcion deautocovarianzas del proceso Xt esta dado por

γX (h) = σ2∞∑

j=−∞

ψjψj+h, h ≥ 0.

Lo que dice el teorema anterior es que la serie que resulta de aplicarle un filtrolineal a una serie estacionaria es tambien estacionaria.


Series de Tiempo - UNAM · Modelo probabilistico de las series de tiempo Procesos Estoc asticos Un...

Documents

Transcript of Series de Tiempo - UNAM · Modelo probabilistico de las series de tiempo Procesos Estoc asticos Un...