Series de Tiempo UIS

SERIES DE TIEMPOSeries de Tiempo Estacionarias

Carlos A Mantilla Duarte

Universidad Industrial de Santander

Primer Periodo Academico 2015

Carlos A Mantilla Duarte (UIS) Series de Tiempo Primer Periodo Academico 2015 1 / 50

CONTENIDO I

1 Modelos ARMAProceso Lineal GeneralProceso de Media MovilProceso AutorregresivoProceso ARMAEjercicios

2 Modelos ARIMAEstacionariedadModelos ARIMARaıces UnitariasEjercicios

3 Modelos EstacionalesModelos SARMAIdentificacion de Modelos SARMAModelos SARIMA


Modelos ARMA

MODELOS ARMAModelos Autorregresivos y de Media

Movil


Modelos ARMA Proceso Lineal General

Proceso Lineal General

Sea Yt la expresion que denota una serie de tiempo observada y et larepresentacion de un ruido blanco no observado y asumiendo que et es unavariable aleatoria incorrelacionada, se tiene que un proceso lineal general(PLG) puede definirse como:

Yt = et + ψ1et−1 + ψ2et−2 + . . . (1)

El lado derecho de 1 es realmente una serie infinita, entonces, ciertascondiciones deben considerarse para que los pesos de ψ sean matematicamentesignificativos, basta asumir que:

∞∑i=1

ψ2i <∞ (2)

Cabe denotar que ψ0 = 1.




Para entender mejor el PLG, consideremos el ejemplo en que la forma de ψ esuna secuencia que decae exponencialmente:

ψj = φj

donde φ es un numero extrictamente entre −1 y 1. Entonces, se tiene:

Yt = et + φet−1 + φ2et−2 + . . .

En este caso,

E (Yt) = E(et + φet−1 + φ2et−2 + . . .

)= 0




Ya que Yt tiene una media constante cero, entonces:

V ar (Yt) = V ar(et + φet−1 + φ2et−2 + . . .

)= σ2

e

(1 + φ2 + φ4 + . . .

)=

σ2e

1− φ2

Ademas,

Cov (Yt, Yt−1) = Cov(et + φet−1 + φ2et−2 + . . . , et−1 + φet−2 + φ2et−3 + . . .

)= φσ2

e

(1 + φ2 + φ4 + . . .

)=

φσ2e

1− φ2




Ası,

Corr (Yt, Yt−1) =Cov (Yt, Yt−1)

V ar (Yt)= φ

De manera similar, se obtiene que:

Corr (Yt, Yt−k) = φk (3)

En resumen:

E (Yt) = 0 γk = Cov (Yt, Yt−k) = σ2e

∞∑i=0

ψiψi−k k > 0 (4)

Con ψ0 = 1.


Modelos ARMA Proceso de Media Movil

Proceso de Media Movil

En este caso, se tiene un numero finito de ponderaciones ψ que no son cero.Por facilidad de comprension, se cambia la expresion vista en (1)1 por:

Yt = et − θ1et−1 − θ2et−2 − · · · − θqet−q (5)

A estas series las llamaremos Media Movil de Orden q y sedenotara MA (q).

El termino Media Movil obedece al hecho que Yt se obtiene por laaplicacion de las ponderaciones 1,−θ1,−θ2, . . . ,−θq a las variableset, et−1, et−2, . . . , et−q y, entonces, se mueven los pesos para aplicarlos aet+1, et, et−1, . . . , et−q+1 para obtener Yt+1.

1Recordemos que un PLG es una serie infinita, en este caso estamos hablando de unaserie tambien infinita donde ψj = θj y cuando > q , θj = 0




• Media Movil de Primer Orden MA(1)

Se tiene el modelo: Yt = et − θet−1, donde claramente, E (Yt) = 0 yV ar (Yt) = σ2

e

(1 + θ2

). Ahora:

Cov (Yt, Yt−1) = Cov (et − θet−1, et−1 − θet−2)

= −θσ2e

Y

Cov (Yt, Yt−2) = Cov (et − θet−1, et−2 − θet−3)

= 0

Lo anterior se debe a que no existen subındices comunes entre Yt y Yt−2.





En resumen, para un modelo MA(1): Yt = et − θet−1.

E (Yt) = 0

γ0 = V ar (Yt) = σ2e

(1 + θ2

)γ1 = −θσ2

e (6)

ρ1 =(−θ)

(1 + θ2)

γk = ρk = 0 k ≥ 2





Cuadro : Valores de ρ vs. θ.

θ ρ0,1 -0,09900,2 -0,19230,3 -0,27520,4 -0,34480,5 -0,40000,6 -0,44120,7 -0,46980,8 -0,48780,9 -0,49721,0 -0,5000 Figura : Autocorrelacion de un MA(1),

proceso para diferentes θ




• Ejemplo Proceso MA(1)




• Ejemplo Proceso MA(1): Rezagos vs Observacion.




• Media Movil de Segundo Orden MA(2)

Se tiene:

Yt = et − θ1et−1 − θ2et−2γ0 =

(1 + θ21 + θ22

)σ2e

γ2 = (−θ1 + θ1θ2)σ2e

γ3 = −θ2σ2e

ρ1 =−θ1 + θ1θ21 + θ21 + θ22

ρ2 =−θ2

1 + θ21 + θ22ρk = 0 k = 3, 4, . . .




• Proceso General de Media Movil MA(q):

Para este proceso se tiene:

γ0 =(1 + θ21 + θ22 + · · ·+ θ2q

)σ2e (7)

ρk =

{−θk+θ1θk+1+θ2θk+2+···+θq−kθq

1+θ21+θ22+···+θ2q

k = 1, 2, . . . , q

0 para k > q(8)


Modelos ARMA Proceso Autorregresivo

Proceso Autorregresivo

Un Proceso Autorregresivo de orden q satisface la equacion:

Yt = φ1Yt−1 + φ2Yt−2 + · · ·+ φpYt−p + et (9)

• Proceso Autorregresivo de Primer Orden AR(1)

Se asume una serie estacionaria que satisface:

Yt = φYt−1 + et (10)

Cuya varianza es:

γ0 =σ2e

1− φ2(11)

En general:

γk = φkσ2e

1− φ2(12)

ρk = φk (13)




Proceso Autorregresivo deOrden 1: Comportamiento deρk para diferentes valores de φ




• PLG en version del Modelo AR(1)

A partir de la Ecuacion (1) se reemplaza t por t− 1 y se obtiene:

Yt = φ (φYt−2 + et−1) + et

= et + φet−1 + φ2Yt−2

Repitiendo la substitucion en el pasado (k − 1), se obtiene:

Yt = et + φet−1 + φ2et−2 + · · ·+ φk−1et−k+1 + φkYt−k (14)

Asumiendo |φ| < 1 y dejando que k aumente sin lımite, se obtiene la siguienterepresentacion de una serie infinita:

Yt = et + φet−1 + φ2et−2 + φ3et−3 + . . . (15)




• Proceso Autorregresivo de Segundo Orden AR(2)

Nuevamente se tiene una serie estacionaria que satisface, esta vez, la condicion:

Yt = φ1Yt−1 + φ2Yt−2 + et (16)

donde, usualmente, se asume que et es independiente de yt−1, Yt−2, Yt−3, . . . .Ahora se introduce la expresion2

φ (x) = 1− φ1x− φ2x2

Para encontrar los valores de x que satisfagan la condicion de φ, se emplea laecuacion:

1− φ1x− φ2x2 = 0

Cuya solucion tiene dos raıces, posiblemente una de ellas compleja.

2A esta expresion se le denomina polinomio caracterıstico del modelo AR, en general seescribe como: φ (x) =

∑pj=0 φpx

p




Cual es la solucion para:1− φ1x− φ2x2 = 0?Las posibles respuestas se hallanmediante:

φ1 ± 2√φ21 + 4φ2−2φ2

Ası, las posibles respuestas quesatisfacen la condicion deestacionariedad son:

φ1 + φ2 < 1φ1 − φ2 < 1 y |φ2| < 1

Para el caso AR(1), la solucion es:|φ < 1|.

Raíces Reales

Raíces Complejas

φ12 φ

24+ = 0

−1.0

−0.5

00.5

1.0

−2 −1 0 1 2φ2

φ 1

Figura : Region de ParametrosEstacionarios AR(2)




• Funcion de Autocorrelacion

Partiendo de la ecuacion (16) y asumiendo estacionariedad, media cero y etindependientes de Yt−k, se tiene:

γk = φ1γk−1 + φ2γk−2 k = 1, 2, 3, . . . (17)

O, dividiendo por γ0:

ρk = φ1ρk−1 + φ2ρk−2 k = 1, 2, 3, . . . (18)

Las dos expresiones 17 y 18 se conocen como ecuaciones de Yule-Walker,para un proceso AR(2) se obtiene:

ρ0 = 1 (19)

ρ1 =φ1

1− φ2(20)

ρ2 =φ2 (1− φ2) + φ21

1− φ2(21)




• Varianza para el Proceso AR(2)

La Varianza γ0 de un proceso AR(2) puede ser expresado en terminos de φ1,φ2 y σ2

e , con lo cual se tiene:

γ0 =(φ21 + φ22

)γ0 + 2φ1φ2γ1 + σ2

e (22)

Entonces, a partir de (22) se obtiene:

γ0 =

(1− φ21 + φ2

)σ2e

(1− φ2)2 − φ21

(23)


Modelos ARMA Proceso ARMA

Proceso ARMA

Se denomina proceso ARMA a aquel proceso que combina tanto un procesoAR(p) como un proceso MA(q). Entonces, si se asume que la serie esparcialmente autorregresiva y parcialmente media movil se tiene:

Yt = φ1Yt−1 +φ2Yt−2 + · · ·+φpYt−p + et− θ1et−1− θ2et−2− · · · − θqet−q (24)

Se dice que Yt es un proceso mezcla autorregresiva y media movil deorden p y q, abriaviado se denomina modelo ARMA(p, q).

Importante

Una caracterıstica de los modelos ARMA es la poca probabilidad deexistencia de polinomios, ası que, por lo general, los modelos ARMA son deorden inferior. Esto no implica que no se puedan presentar algunos casos conpolinomios complejos.


Modelos ARMA Proceso ARMA

Proceso ARMA

• Modelo ARMA(1,1)

La ecuacion correspondiente de este modelo puede escribirse:

Yt = φYt−1 + et − θet−1 (25)

Para este tipo de modelos se tiene como funcion de covarianza:

γ0 =1− 2φθ + θ2

1− φ2σ2e (26)

y como funcion de autocorrelacion:

ρk =(1− θσ) (σ − θ)

1− 2θσ + θ2φk−1 para k ≥ 1 (27)


Modelos ARMA Ejercicios

EJERCICIOSSimulacion de Series de Tiempo Para

Identificar Procesos


Modelos ARMA Ejercicios

Simulacion AR(1)

# Instalamos y cargamos los paquetes requeridos:

library(TSA);library(tseries);library(forecast)

# Simulamos el Modelo AM(1)

ysim.ma.1=arima.sim(model=list(ma=-c(-0.9)),n=200)

# Graficamos la serie:

plot(ysim.ma.1)

# Graficamos acf y pacf

par(mfrow=c(2,1))

acf(ysim.ma.1,main=‘‘ACF MA(1)’’)

pacf(ysim.ma.1,main=‘‘PACF MA(1)’’)

par(mfrow=c(1,1)) # Notamos el orden del proceso

# Describimos el proceso

modar1=arima(ysim.ma.1,order=c(0,0,1)

# Revisamos graficamente los residuos del modelo

tsdiag(modar1)


Modelos ARIMA

MODELOS ARIMASeries de Tiempo No Estacionarias


Modelos ARIMA Estacionariedad

Estacionariedad Mediante Diferenciacion

Considerese el modelo AR(1):

Yt = φYt−1 + et (28)

Debe asumirse que et es realmente un “innovacion” y que noesta autocorrelacionada con Yt−1, Yt−2, . . . . Tambien deberıa tenerse que|φ| < 1. ¿Entonces, cuales serıan las posibles soluciones si |φ| ≥ 1?Considerese, ahora la siguiente ecuacion:

Yt = 3Yt−1 + et (29)

Entonces, se tendrıa:

Yt = et + 3et−1 + 32et−1 + · · ·+ 3t−1e1 + 3te0 (30)

Pregunta:

¿Como es la influencia del pasado en (30)?




Observese los valores que se obtienen mediante (29):

Cuadro : Tabla Valores Ecuacion (29)

t et Yt1 0,63 0,632 -1,25 0,643 1,80 3,724 1,51 12,675 1,56 39,576 0,61 119,327 0,67 358,638 -0,89 1075,00

Figura : Comportamiento de Ecuacion(29)




El comportamiento explosivo de la serie se ve reflejado tambien en lasfunciones de varianza y covarianza del modelo:

V ar (Yt) =1

8

(9t − 1

)σ2e (31)

y

Cov (Yt, Yt−k) =3k

8

(9t−k − 1

)σ2e (32)

En general, un crecimiento exponencial o comportamiento explosivo ocurrepara cualquier φ tal que |φ| > 1. El tipo mas razonable de no estacionariedadse obtiene cuando φ = 1, entonces el modelo de la ecuacion es:

Yt = Yt−1 + et (33)

Que alternativamente puede escribirse:

5 Yt = et (34)




La expresion 5Yt = Yt − Yt−1 se denomina primera diferencia de Yt. Ahora,se puede suponer:

Yt = Mt + et (35)

donde Mt es una serie que varıa lentamente en el tiempo. Mt podrıa estimarseeligiendo un parametro β0 tal que:

1∑j=0

(Yt−j − β0,t)2

Se obtiene, entonces:

Mt =1

2(Yt + Yt−1)

La “destendencializacion” de la serie se obtiene mediante:

Yt −Mt = Yt −1

2(Yt + Yt−1) =

1

2(Yt − Yt−1) =

1

25 Yt




Un segundo grupo de supuestos de la ecuacion (35) es que Mt es estocastica ycambia lentamente a traves de tiempo mediante un patron de caminataaleatoria, entonces:

Yt = Mt + et con Mt = Mt−1 + εt (36)

donde et y εt son series de ruido blanco independientes:

5Yt = 5Mt +5et= εt + et − et−1

donde se podrıa tener la siguiente funcion de autocorrelacion:

ρ1 = −

1[2 +

(σ2ε

σ2e

)] (37)




Vease ahora un modelo con segunda diferencia. Se parte de la ecuacion (35)solo que ahora Mt es lineal en el tiempo sobre tres puntos consecutivos cuyopunto medio puede estimarse a partir de:

1∑j=−1

(Yt−j − (β0,t + jβ1,t))2

Cuya solucion es:

Mt =1

3(Yt+1 + Yt + Yt−1)

Y, la serie sin tendencia se obtiene de:

Yt − Mt = Yt −(Yt+1 + Yt + Yt−1

3

)=

(−1

3

)5 (5Yt+1) =

(−1

3

)52 (Yt+1)


Modelos ARIMA Modelos ARIMA

Modelos ARIMA

• Un modelo sigue un proceso ARIMA (Autorregresivo y de Media MovilIntegrados) si la d− esima diferencia Wt = 5dYt es un proceso ARMAestacionario.

• Si Wt sigue un proceso ARMA(p, q), se dice entonces que es un modelode proceso ARIMA(p, d, q).

• Afortunadamente, en la practica d = 1 a lo sumo d = 2.

• En ese orden de ideas un proceso ARIMA(p, 1, q) se describe como:

Yt =

t∑j=−m

Wj (38)

y un proceso ARIMA(p, 2, q) como:

Yt =

t+m∑j=0

(j + 1)Wt−j (39)


Modelos ARIMA Raıces Unitarias

Raıces Unitarias

• Un proceso con Raız Unitaria es aquel que presenta un proceso decaminata aleatoria con o sin deriva (en la literatura se encuentra comorandom walk y random walk with drift)

• En un proceso con raız unitaria (P.Ej.: ARIMA(p, 1, q)) la fac muestralconverge a cero con mucha lentitud y la facp muestral presenta un valorcercano a 1 en el rezago k = 1 y el resto son aproximadamente cero.



Raıces Unitarias

Hay que tener una precaucion para tomar la decision de diferenciar la seriepara buscar un ARMA cuando se observan las caracterısticas anteriores. Y esque es necesario aplicar una prueba de hipotesis para determinar si existe unaraız unitaria.

Prueba de Dickey-Fuller: Se basa en asumir que la serie puedeaproximarse a un proceso AR(1) con tres variantes: media cero, mediadiferente de cero y tendencia lineal. Inicialmente se asume que Yt sigue unmodelo AR(1) y se procede a transformar el modelo de la siguientemanera:

Yt = φ1Yt−1 + εt

Yt − Yt−1 = (φ1 − 1)Yt−1 + εt

5Yt = ρYt−1 + εt

donde ρ = φ1 − 1. La existencia de una raız unitaria equivale a φ1 = 1, esdecir, a ρ = 0.



Raıces Unitarias

Prueba de DF para cada caso:

Caso 1: Suponiendo que Y ∼ AR(1) con media cero, entonces:

5 Yt = ρYt−1 + εt (40)

Las hipotesis que se plantean son:

H0 : ρ = 0 HA : ρ < 0

El estadıstico de prueba se denota por τ y su distribucion bajo H0 permitecalcular los valores crıticos, de tal forma que τ < τα es el criterio derechazo.Donde τ es el valor calculado para el estadıstico de Dickey-Fuller.



Raıces Unitarias

Prueba de DF para cada caso:

Caso 2: Suponiendo que Y ∼ AR(1) con media diferente de cero, entonces:

5 Yt = α+ ρYt−1 + εt (41)

Con las mismas hipotesis que en el caso 1.Caso 3: Suponiendo que Y ∼ AR(1) con tendencia lineal, entonces:

5 Yt = α+ β (t) ρYt−1 + εt (42)

Con las mismas hipotesis.



Raıces Unitarias

Prueba de Dickey-Fuller Aumentada: Al igual que en la prueba DFbasica, se plantea una estrategia para los diferentes casos. Sin embargo, esnecesario considerar que estas pruebas son de baja potencia por lo cual noarrojan resultados definitivos. Hay que anotar que la cantidad de casosdepende del orden autorregresivo p. Ası, si se tiene un modelo AR(3) serequerira comparar 3× 3 modelos. El criterio de seleccion sera el AIC o elBIC.



Raıces Unitarias

Caso 1: Suponiendo que Yt ∼ AR(p) con media cero, entonces:

Yt =

p∑j=1

φjYt−j + εt = φ1Yt−1 +

p∑j=2

φjYt−j + εt (43)

Se define, entonces:

ρ1 =

p∑j=1

φj , ρi = −p∑j=i

φj , con i = 2, . . . , p

Si hay una raız unitaria ρ1 = 1. Las hipotesis son las mismas y la regla dedecision identica que en el caso ρ = 0.



Raıces Unitarias

Caso 2: Suponiendo que Yt ∼ AR(p) con media diferente de cero,entonces:

5 Yt = α+ ρYt−1 +

p∑j=2

5Yt−j+1 + εt (44)

Las mismas hipotesis y reglas de decision que en los casos anteriores.

Caso 3: Suponiendo que Yt ∼ AR(p) con tendencia lineal de cero,entonces:

5 Yt = k1 + k2T + ρYt−1 +

p∑j=2

5Yt−j+1 + εt (45)

Identicas hipotesis y reglas de decision que en los casos anteriores.


Modelos ARIMA Ejercicios

EJERCICIOSBases de Datos

con Probabilidad ARIMA


Modelos ARIMA Ejercicios

Ejercicios

Se tienen dos series de tiempo:

1 Tasa de Cambio historica Dolar/Yen.

2 Tasa diaria de una bolsa de valores CREF (Fondos de Jubilacion).

Identificar las series y realizar la prueba de raız unitaria para cada una de ellas.Librerıas a emplear:

TSA

forecast

tseries

urca

fUnitsRoots


Modelos Estacionales

MODELOS SARMAY SARIMA

Series de Tiempo Estacionales


Modelos Estacionales Modelos SARMA

Modelos ARMA Estacionales, SARMA

• Se define como un modelo ARMA Estacional (SARMA) a un modeloARMA que incluye un modelo ARMA para los tiempos de cada perıodoestacional y otro modelo ARMA entre estaciones (p.ej.: entre eneros,febreros, marzos, etc.)

• El modelo SARMA se escribe:

Yt ∼ ARMA(p, q)(ps, qs)[s]

donde (p, q) son las ordenes AR y MA del modelo ARMA y (ps, qs) lasordenes AR y MA estacionales, entre estaciones. [s] indica la frecuenciaestacional.


Modelos Estacionales Modelos SARMA

Modelos ARMA Estacionales, SARMA

• Para facilidad de escritura se denotara L a los rezagos (por la expresionen ingles “Lag” que es con la que se denomina en todos los software deanalisis econometrico), por lo que Lk serıa la expresion para el numero delrezago.

• Ası, un modelo SARMA se puede escribir:

Φp (L) Φps (L)Yt = Θq (L) Θqs (L) εt

• P. Ej.: un modelo SARMA(1, 1)(1, 2)[s] se indica por:

(1− φ1L) (1− φsLs)Yt = (1 + θ1L)(1 + θsL

s + θ2sL2sεt

)• Y un modelo SARMA(1, 2)(1, 1)[s]:

(1− φ1L) (1− φsLs)Yt =(1 + θ1L+ θ2L

2)

(1 + θsLs) εt


Modelos Estacionales Identificacion de Modelos SARMA

Identificacion de Modelos SARMA

• Como la identificacion de un modelo ARMA es algo que relaciona laexperiencia y el conocimiento de las series, la correcta escogencia se basamas en un proceso de comparacion de posibles modelos que en unaidentificacion directa del mismo.

• Sin embargo, existen algunos metodos graficos que simplifican laescogencia del modelo y que aportan mas informacion que el correlograma.

• El grafico de subconjuntos de rezagos permite identificar facilmente elorden del proceso autorregresivo(AR) y/o de media movil (MA) quecontiene la serie.

• Si se observa con detenimiento es posible identificar el orden ARMAestacional de la serie considerando que se puede apreciar un coeficienteautorregresivo φpφs y tambien un coeficiente de media movil θqθs cuandose trata de un modelo SARMA.




Graficos de Subconjuntos de Rezagos para algunos modelos:

Figura : Modelo AR Figura : Modelo MA




Graficos de Subconjuntos de Rezagos para algunos modelos:

Figura : Modelo ARMA Figura : Modelo SARMA


Modelos Estacionales Modelos SARIMA

Modelos ARIMA Estacionales, SARIMA


Series de Tiempo UIS

Documents

Transcript of Series de Tiempo UIS