Procesos Estoc´asticos...

27
Cap´ ıtulo 2 Procesos Estoc´ asticos Estacionarios Las series temporales se pueden clasificar en dos tipos: Series con valores estables alrededor de un nivel constante (cap´ ıtulos 2-4). Series con tendencias, estacionalidad u otros efectos evolutivos en el tiempo (cap´ ıtulo 5). Ejemplo 12 Las series n´ um. 1) y 2) pueden tener un nivel estable, la 3) y la 4) seguro que no. Nota 6 La estabilidad depende del periodo de observaci´ on. Por ejemplo, en una serie anual de la temperatura media en un lugar, cuanto m´as a˜ nos se observen, menos problable es que el nivel se mantenga constante. Nota 7 Los valores sucesivos de una serie suelen ser dependientes, aunque sea simplemente por inercia. 2.1. Concepto de procesos estoc´ asticos Proceso estoc´ astico: Conjunto de v.a. (Y t ) tI , donde el ´ ındice t toma val- ores en un conjunto I . Llamamos trayectoria del proceso a una realizaci´on del proceso estoc´astico. Si I es discreto, el proceso es en tiempo discreto. Si I es continuo, el proceso es en tiempo continuo. Ejemplo 13 Un ejemplo de proceso en tiempo discreto se obtiene para I = {1,...,n}. En este caso, el proceso es Y 1 ,Y 2 ,...,Y n , y una trayectoria se denota por y 1 ,y 2 ,...,y n . Ejemplo 14 Un ejemplo de proceso en tiempo continuo se obtiene para I = [0,T ], I = [0, ] ´o I =(−∞, ). 39

Transcript of Procesos Estoc´asticos...

Page 1: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Capıtulo 2

Procesos Estocasticos Estacionarios

Las series temporales se pueden clasificar en dos tipos:

Series con valores estables alrededor de un nivel constante (capıtulos2-4).

Series con tendencias, estacionalidad u otros efectos evolutivos en eltiempo (capıtulo 5).

Ejemplo 12 Las series num. 1) y 2) pueden tener un nivel estable, la 3)y la 4) seguro que no.

Nota 6 La estabilidad depende del periodo de observacion. Por ejemplo,en una serie anual de la temperatura media en un lugar, cuanto mas anosse observen, menos problable es que el nivel se mantenga constante.

Nota 7 Los valores sucesivos de una serie suelen ser dependientes, aunquesea simplemente por inercia.

2.1. Concepto de procesos estocasticos

Proceso estocastico: Conjunto de v.a. (Yt)t∈I , donde el ındice t toma val-ores en un conjunto I. Llamamos trayectoria del proceso a una realizaciondel proceso estocastico. Si I es discreto, el proceso es en tiempo discreto.Si I es continuo, el proceso es en tiempo continuo.

Ejemplo 13 Un ejemplo de proceso en tiempo discreto se obtiene paraI = {1, . . . , n}. En este caso, el proceso es Y1, Y2, . . . , Yn, y una trayectoriase denota por y1, y2, . . . , yn.

Ejemplo 14 Un ejemplo de proceso en tiempo continuo se obtiene paraI = [0, T ], I = [0,∞] o I = (−∞,∞).

39

Page 2: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Serie temporal: Una serie temporal es una realizacion de un procesoestocastico en tiempo discreto, donde los elementos de I estan ordenadosy corresponden a instantes equidistantes del tiempo.

Si I = {1, . . . , n}, la serie es y1, y2, . . . , yn;

Si I = N, la serie es y0, y1, y2, . . . ,;

Si I = Z, entonces la serie es . . . , y−2, y−1, y0, y1, y2 . . ..

Una serie temporal describe la evolucion aleatoria de una variable en eltiempo.

Ejemplo 15 Un ejemplo de un proceso con I no ordenado es un procesoespacial, en el que I ⊆ R

2.

Nota 8 Otra clasificacion de los procesos es atendiendo a los valores quetoman las variables Yt. Si estas son discretas, el proceso se llama tambiendiscreto. Si son continuas, el proceso es continuo.

En lo sucesivo, (Yt) denotara un proceso en tiempo discreto con I = N

o I = Z.

Distribucion n-dimensional de un proceso: Es la funcion de distribu-cion de un conjunto de n variables del proceso (Y1, . . . , Yn), es decir,

F (y1, . . . , yn) = P (Y1 ≤ y1, . . . , Yn ≤ yn), n ∈ N.

La distribucion de un proceso esta caracterizada por el conjunto de todaslas distribuciones finito-dimensionales.

Ejemplo 16 Paseo aleatorio: Un paseo aleatorio esta definido por

Yt =t∑

j=1

aj, donde aj ∼ iid N(0, σ2).

Hemos generado seis trayectorias de tamano T = 300, y1, . . . , y300, de unpaseo aleatorio (Yt) con σ2 = 1, y las hemos representado en la Figura 2.1.(izquierda). Podemos ver que el grafico de las distintas trayectorias nos dainformacion sobre la distribucion de probabilidad del proceso.

Ejemplo 17 Proceso quımico: Medimos la concentracion de una sus-tancia cada minuto durante 5 horas. Repetimos esto en distintos dıas bajolas mismas condiciones para obtener informacion sobre la distribucion del

40

Page 3: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

proceso:

Tenemos varias series de la forma y1, . . . , y300 provenientes del mismo pro-ceso, una para cada dıa.

Sea Yt la distribucion de la concentracion en el minuto t-esimo. Se suponeque la distribucion de Yt es la misma cada dıa. Entonces, al aumentar elnumero de dıas, la proporcion con la que yt pertenece a un intervalo (a, b)converge a la probabilidad P (a < Yt < b). Es decir, obtenemos informacionsobre la distribucion de Yt repitiendo el experimento.

Figura 2.1: Varias trayectorias de dos procesos

Paseo aleatorio

0 50 100 150 200 250 300

−30

−20

−10

010

2030

time

Proceso quımico

time

conc

entr

atio

n [%

]

0 50 100 150 200 250 300

010

2030

4050

Ejemplo 18 Temperatura en Dusseldorf: (serie num. 23, 1/1991-12/2003):Si consideramos que la distribucion de la temperatura es la misma en cadauno de los 13 anos observados, entonces tenemos 13 trayectorias del pro-ceso con 12 variables aleatorias cada una (una por mes). Vease la Figura2.3 izquierda.

Podemos hacer lo mismo con la serie de las lluvias (serie num. 24). Veasela Figura 2.3 derecha.

Nota 9 Para obtener informacion sobre la distribucion conjunta del pro-ceso necesitamos observar muchas realizaciones del este proceso. Si no se

41

Page 4: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Figura 2.2: Variables climaticas en Dusseldorf.

Temperatura

2 4 6 8 10 12

−5

05

1015

2025

month

lluvia

2 4 6 8 10 12

050

100

150

month

dispone de varias realizaciones o trayectorias, es necesario realizar hipotesisadicionales que simplifiquen la distribucion del proceso. Hipotesis habit-uales:

Suponer que la distribucion conjunta es normal multivariante. En-tonces quedara determinada por las medias, varianzas y covarianzas.

Restringirse a un analisis lineal: Especificar medias, varianzas y co-variances tambien serıa suficiente si solo estamos interesados en lasrelaciones lineales entre las variables del proceso.

Proceso Normal: Un proceso (Yt)t∈N es Normal si todas las distribucionesfinito-dimensionales son normales.

Funcion de medias: La funcion de medias de un proceso estocastico(Yt)t∈I es una funcion de t que proporciona las esperanzas de las variablesYt

µt = E(Yt), t ∈ I.

Funcion de varianzas: La funcion de varianzas de un proceso estocastico(Yt)t∈I es una funcion de t que proporciona las varianzas de las Yt

σ2t = V ar(Yt), t ∈ I.

Funcion de autocovarianzas: La funcion de autocovarianzas de un pro-ceso estocastico (Yt)t∈I es una funcion que describe las covarianzas entre

42

Page 5: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

las variables del proceso en cada par de instantes

γt1,t2 = Cov(Yt1, Yt2) = E[(Yt1 − µt1)(Yt2 − µt2)] , t1, t2 ∈ I .

Funcion de autocorrelacion: La funcion de autocorrelacion de un pro-ceso estocastico (Yt)t∈I es una funcion de dos instantes que describe las cor-relaciones entre las variables en un par de instantes t1, t2 ∈ I cualesquiera

ρt1,t2 = Cor(Yt1, Yt2) =γt1,t2

σt1σt2

, t1, t2 ∈ I .

Nota 10 Se verifica:

γt,t = σ2t para cada t ∈ I.

Las dimensiones de las autocovarianzas son los cuadrados de la serie.

Las autocorrelaciones permiten comparar distintas series ya que sonadimensionales.

2.2. Procesos estacionarios

En muchas situaciones solo se ha observado una realizacion del proceso;por ejemplo, en la serie num. 2) de manchas solares o en la num. 3) dela poblacion en EE.UU. Entonces, para poder estimar las caracterısticasdel proceso (medias, varianzas o autocovarianzas) necesitamos suponer queson estables a lo largo del tiempo; es decir, que el proceso sea estacionario.

Un proceso estocastico (Yt)t∈Z es:

estable en media si µt = µ = cte.

estable en varianza si σ2t = σ2

y = cte.

estable en autocovarianza si γt1,t1+h = γt2,t2+h = γh para cualquierpar de instantes t1, t2 ∈ Z y cualquier h ∈ Z.

estacionario en sentido debil si es estable en media y en autoco-varianza.

estacionario en sentido estricto si las distribuciones marginalesde todas las variables son identicas, y ademas la distribucion finito-dimensional de cualquier conjunto de variables solo depende de losretardos. Es decir, si

Ft1,...,tk(y1, . . . , yk) = Ft1+h,...,tk+h(y1, . . . , yk)

43

Page 6: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

para cualquier k ∈ N, t1, . . . , tk, h ∈ Z, y y1, . . . , yk ∈ R, donde Ft1,...,tk

denota la distribucion conjunta de Yt1, . . . , Ytk.

X La estacionaridad en sentido estricto es una condicion muy fuerte ydifıcil de comprobar en la practica.

X La estacionaridad debil no implica la estricta, salvo para procesos nor-males.

Ejemplo 19 La poblacion de EE.UU. (serie num. 3) no es estacionaria enla media. El crecimiento del alquiler (num. 1) parece estable en la media,pero no en la varianza. La serie de pasajeros (num. 19) no parece estableen la media ni en la varianza.Puede ocurrir que una serie sea estable en la varianza pero no en la media,aunque esto es dificil de distinguir en un grafico.

Propiedades de series estables en autocovarianza:

γ0 = σ2y

γh = γ−h

ρh = ρ−h, llamando ρh = γh/γ0 al coeficiente de autocorrelacion.

Funcion de autocorrelacion simple (fas): Es la funcion de autocor-relacion entre variables separadas h instantes para series estables en auto-covarianza. Se denota por ρh. Proporciona las correlaciones en funcion delretardo h.

Proceso de ruido blanco: Llamamos ruido blanco a un proceso (Yt) si:

E(Yt) = 0

V ar(Yt) = σ2

Cov(Yt, Yt+h) = 0, h = ±1,±2, . . .

Si ademas Yt es un proceso Normal, entonces todas las variables del procesoson independientes. En este caso, (Yt) se llama ruido blanco normal.

Ejemplo 20 Sea (Yt)t∈Z un ruido blanco y definimos el proceso Zt = Yt +θYt−1. Comprobar si (Zt)t∈Z es estacionario en sentido debil.La funcion de medias viene dada por

E(Zt) = ...

44

Page 7: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

La funcion de autocovarianzas viene dada por

Cov(Zt, Zt+h) = ...

Tenemos que distinguir tres casos:

Cov(Zt, Zt+h) = ...

Ejemplo 21 Sea (Yt) un proceso estacionario con E(Yt) = µ y Xt otroproceso definido por

Xt =

{

Yt, si t es imparYt + 1 si t es par.

Observerse que Cov(Xt, Xt+h) = Cov(Yt, Yt+h) = γh es estable, pero laesperanza de (Xt) no lo es, ya que

E(Xt) =

{

µ, si t es imparµ+ 1 si t es par.

Ejemplo 22 Compruebese que un paseo aleatorio (Yt) definido por Yt =∑t

j=1 at tiene esperanza cero, pero no es estacionario.Efectivamente, la esperanza es

E(Yt) = ...

La covarianza entre dos instantes separados en h unidades es

Cov(Yt+h, Yt) = ...

.

45

Page 8: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Matrices de autocovarianzas y de autocorrelaciones de orden h:Para un proceso estacionario, las matrices de autocovarianzas y de auto-correlaciones de orden h son:

Γh =

γ0 γ1 . . . γh−1

γ1 γ0. . . ...

... . . . γ1

γh−1 . . . γ1 γ0

, Rh =

ρ0 ρ1 . . . ρh−1

ρ1 ρ0. . . ...

... . . . ρ1

ρh−1 . . . ρ1 ρ0

Estabilidad de procesos estacionarios ante combinaciones lineales

(i) Si multiplicamos un proceso estacionario por una constante, resultaun proceso estacionario.

(ii) Si sumamos varios procesos que son conjuntamente estacionarios, lasuma tambien lo es.

Ejemplo 23 (Incrementos) Sea (Yt) un proceso estacionario, y defin-imos el proceso de incrementos Zt = Yt − Yt−1. Compruebese que (Zt)es estacionario.

Efectivamente,

E(Zt) = ...

V ar(Zt) = ...

Cov(Zt, Zt+h) = ...

(iii) Un proceso que es combinacion lineal de procesos estacionarios esestacionario: sea c = (c1, . . . , ck)

′ un vector de constantes e Yt =(Y1t, . . . , Ykt)

′ un vector de k procesos conjuntamente estacionarios; esdecir, cada (Yit) es estacionario y las covarianzas entre dos variablesde distintas componentes i y j solo dependen de i, j y del retardo. SeaZt = c′Yt:

E(Zt) = ...

V ar(Zt) = ...

Cov(Zt, Zt+h) = ...

46

Page 9: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

2.3. Estimacion

Sea (Yt) un proceso estacionario con media µ = E(Yt), varianza σ2 =V ar(Yt) y funcion de autocovarianzas γh = Cov(Yt, Yt+h). Si solo tenemosuna realizacion y1, . . . , yn del proceso, ¿como estimamos sus caracterısticas?

Media muestral: La media muestral del proceso es

µ = Y =1

n

n∑

t=1

Yn

Varianza muestral: La varianza muestral es

S2 =1

n

n∑

t=1

(Yt − Y )2

y la desviacion tıpica muestral es

S =√S2

Autocovarianzas muestrales (funcion de autocovarianza empırica)

ch =1

n

n−h∑

t=1

(Yt − Y )(Yt+h − Y )

Autocorrelacion muestral (funcion de autocorrelacion empırica)

rh =chc0

Correlograma: grafico de la funcion de autocorrelacion empırica enfuncion del retardo.

Propiedades:

La media muestral es un estimador insesgado de µ:

E(Y ) = ...

47

Page 10: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Varianza de la media muestral:

V ar

(

1

n

n∑

t=1

Yt

)

= ...

X Si γh = 0, ∀h > 0, entonces V ar(Y ) = γ0/n.

X Si γh 6= 0 para algun h > 0, entonces V ar(Y ) 6= γ0/n.

X El segundo termino no tiene por que converger cuando n tiende ainfinito; por tanto, la media muestral no tiene por que ser consistentepara la media poblacional µ.

Proceso ergodico: Un proceso estacionario en sentido debil es ergodicopara la estimacion de la media µ si

V ar(Y )n→∞→ µ.

Ejemplos de procesos no ergodicos:

Proceso constante: Un proceso en el que Y1 = Y2 = . . ., dondeγh = γ0 para cualquier h ∈ N, no es ergodico.

Efectivamente, la varianza de la media muestral es

V ar(y) = ...

Proceso periodico: El proceso

Yt = A cos(ωt+ θ) + at

48

Page 11: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

no es ergodico, puesto que las autocorrelaciones son periodicas y notienden a cero. La serie 21 es una trayectoria de un proceso de estetipo con ω = 0,4, A = 1,5 y θ = 0,5.

Nota 11 Para que un proceso sea ergodico, la observaciones nuevas tienenque aportar suficiente informacion para que la varianza converga a 0. Estono occurre si la dependencia entre las variables es muy fuerte.

Una condicion necesaria pero no suficiente para que un proceso estacionariosea ergodico es

lımh→∞

ρh = 0,

es decir, que la correlacion entre las observaciones tienda a 0 al aumentarel retardo, de manera que las observaciones suficientemente alejadas seanpracticamente independientes.

Figura 2.3: Autocorrelaciones y ergodicidad

Correlograma de un proceso ergodico

0 10 20 30 40

0.0

0.2

0.4

0.6

0.8

1.0

Lag

AC

F

Series AR1

Correlograma de un proceso no ergodico

0 10 20 30 40

−0.

20.

00.

20.

40.

60.

81.

0

Lag

AC

F

Series CP

49

Page 12: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Propiedades de las autocovarianzas y las autocorrelaciones:

La autocovarianza empırica es sesgada. Se recomienda estimar soloautocovarianzas para retardos h ≤ n/4 para que haya al menos 4datos para estimar.

La autocorrelacion estimada rk tiene distribucion asintoticamente nor-mal con media ρk, es decir

rkd→ N(ρk, V ar(rk)).

Su varianza y la covarianza entre dos autocorrelaciones vienen dadaspor las formulas de Bartlett:

V ar(rk) =1

n

∞∑

i=−∞

(

ρ2i + ρi−kρi+k − 4ρkρiρi−k + 2ρ2

iρ2k

)

Cov(rk, rk+h) =1

n

∞∑

i=−∞(ρiρi−h + ρi−kρi+k+h − 2ρk+hρiρi−k − 2ρkρiρi−k−h

+2ρ2iρkρk+h

)

En un proceso con tendencia, el correlograma disminuye muy lenta-mente.

En un proceso estacional, el correlograma muestra la misma periodi-cidad que el proceso.

Nota 12 Si solo las primeras q autocorrelaciones ρ1, . . . , ρq son distintasde cero, las varianzas de las estimaciones se aproximan por

V ar(rk) ≈n− k

n(n+ 2)

(

1 + 2

q∑

j=1

ρ2j

)

, k > q.

Contraste de ruido blanco: Bajo la hipotesis ρh = 0, h ∈ N, pode-

mos aproximar V ar(rk) ≈ 1/n para n grande. En ese caso, como rkd→

N(ρk, 1/n), entoncesrk − ρk√

1/n

d→ N(0, 1).

De esto, se obtiene el intervalo de confianza asintotico

IC95%(ρk) = rk ∓2√n.

50

Page 13: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Es decir, con el 95% de probabilidad, ρh tiene que estar en el intervalo(rh − 2/

√n, rh + 2/

√n). Por tanto, se espera que solo uno de cada 20

coeficientes se salga de estas bandas.

Ejemplo 24 Calculamos las primeras autocorrelaciones muestrales paralas leguas recorridas por Colon en su primer viaje:

y =9 + 45 + 60 + . . .+ 31 + 59 + 49

34= 31,83

s2 =(9 − 31,83)2 + (45 − 31,83)2 + . . .+ (59 − 31,83)2 + (49 − 31,83)2

34= 266,97

c1 =(9 − 31,83)(45 − 31,83) + (45 − 31,83)(60 − 31,83) + . . .+ (59 − 31,83)(49 − 31,83)

34= 138,82

r1 =c1

s2 = 0,52

c2 =(9 − 31,83)(60 − 31,83) + . . .+ (31 − 31,83)(49 − 31,83)

34= 5,3

r2 =c2

s2 = −0,02

Figura 2.4: Leguas diarias recorridas por Colon (izq.) y su correlograma (der.)

0 5 10 15 20 25 30 35

1020

3040

5060

dia

legu

as

0 5 10 15

−0.

20.

00.

20.

40.

60.

81.

0

Lag

AC

F

51

Page 14: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Figura 2.5: Ejemplo 2: Ruido blanco normal (izq.) y correlogramas (der.)

ruido

time

0 50 100 150 200

−2

−1

01

23

100 observaciones

0 5 10 15 20

−0.

20.

00.

20.

40.

60.

81.

0Lag

AC

F

Series ruido[1:100]200 observaciones

0 5 10 15 20

−0.

20.

00.

20.

40.

60.

81.

0

Lag

AC

F

Series ruido

Figura 2.6: Lluvia en Dusseldorf, correlograma (izq.) y periodograma (der.)

0 5 10 15 20

−0.

20.

00.

20.

40.

60.

81.

0

Lag

AC

F

Series lluvia

0.0 0.1 0.2 0.3 0.4 0.5

25

1020

5010

050

020

0050

00

frequency

spec

trum

Series: RainfallRaw Periodogram

bandwidth = 0.00180

52

Page 15: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

APENDICE A. NOTACION DE OPERADORES

Operador retardo: El operador retardo de una funcion del tiempo en uninstante proporciona la funcion en el instante anterior:

Bxt = xt−1.

Propiedades del operador retardo: Si a, b son constantes que no de-penden del tiempo y xt, yt son funciones del tiempo t, se verifica:

Ba = a;

B(axt) = aBxt;

B(axt + byt) = aBxt + bByt;

Bkxt = xt−k. Bk se llama operador retardo de orden k.

Operador diferencia: El operador diferencia proporciona la diferenciaentre la funcion en un instante y la misma funcion en el instante anterior:

∇xt = xt − xt−1.

Se verifica que ∇ = 1 −B. Efectivamente,

∇xt = xt − xt−1 = xt −Bxt = (1 −B)xt.

Este operador se puede aplicar sucesivamente de la forma

∇2xt = ∇(∇xt).

Operador diferencia de orden s: Este operador proporciona la difer-encia entre la funcion en un instante y la misma funcion en s instantesantes,

∇xt = xt − xt−s.

Operador inverso: Sea φ(B) una funcion polinomica del retardo B. Sedefine el operador inverso de φ(B) como el operador φ(B)−1 que verifica

φ(B)φ(B)−1xt = φ(B)−1φ(B)xt = xt

o equivalentemente,

φ(B)φ(B)−1 = φ(B)−1φ(B) = 1.

Ejemplo 25 Para el operador retardo B, el operador inverso B−1 es eloperador adelanto. Efectivamente, si tomamos B−1xt = xt+1, entonces

B−1Bxt = B−1xt−1 = xt y BB−1xt = Bxt+1 = xt.

53

Page 16: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Ejemplo 26 Para el operador φ(B) = 1 − φB, el operador inverso es eloperador infinito dado por:

φ(B)−1 = (1 − φB)−1 = 1 + φB + φ2B2 + φ3B3 + · · ·

Efectivamente, haciendo el producto obtenemos

φ(B)φ(B)−1 = (1 − φB)(1 + φB + φ2B2 + φ3B3 + · · · )= (1 + φB + φ2B2 + φ3B3 + · · · ) − (φB + φ2B2 + φ3B3 + · · · )= 1.

54

Page 17: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

APENDICE B. ECUACIONES LINEALES EN DIFERENCIAS

Ecuacion lineal en diferencias de orden k: Sea xt una funcion deltiempo y c una constante. Una ecuacion lineal en diferencias de orden k es

xt − φ1xt−1 − φ2xt−2 − · · · − φkxt−k = c.

En esta ecuacion, la funcion xt es la incognita y los coeficientes φ1, . . . , φk

son conocidos.

Resolver la ecuacion consiste en encontrar una funcion xt que sea solu-cion de la ecuacion.

A menudo existen muchas soluciones para una ecuacion lineal en difer-encias.

Para encontrar una solucion se necesita tener k condiciones inicialesx0, . . . , xk−1.

Si c = 0, la ecuacion en diferencias se llama homogenea.

La ecuacion en diferencias se puede escribir en funcion del operadorretardo,

(1 − φ1B − φ2B2 − · · · − φkB

k)xt = c

Si llamamos φ(B) = 1 − φ1B − φ2B2 − · · · − φkB

k, podemos escribirla ecuacion como

φ(B)xt = c.

El polinomio caracterıstico de la ecuacion en diferencias es

φ(B) = 1 − φ1B − φ2B2 − · · · − φkB

k.

Se llama ecuacion caracterıstica a la ecuacion homogenea

φ(B) = 0.

Solucion particular: Es una solucion concreta de la ecuacion. Por ejem-plo, una constante es a menudo solucion de la ecuacion.

Efectivamente, si reemplazamos xt = x en la ecuacion, obtenemos

x(1 − φ2 − φ2 − · · · − φk) = c.

55

Page 18: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Despejando x, obtenemos

x =c

1 − φ2 − φ2 − · · · − φk.

Solucion general: Es un conjunto de soluciones particulares. Si se tieneuna solucion Gt de la ecuacion homogenea φ(B)xt = 0 y una solucionparticular Ht de la ecuacion completa φ(B)xt = c, entonces

xt = Gt +Ht

es una solucion general de la ecuacion completa φ(B)xt = c.

Efectivamente, si reemplazamos xt = Gt + Ht en la ecuacion completa,como φ(B)Gt = 0 y φ(B)Ht = c, obtenemos

φ(B)(Gt +Ht) = φ(B)Gt + φ(B)Ht = φ(B)Ht = c.

Ecuaciones lineales en diferencias homogeneas: Consideramos unaecuacion homogenea del tipo

xt − φ1xt−1 − φ2xt−2 − · · · − φkxt−k = 0

⇔ (1 − φ1B − φ2B2 − · · · − φkB

k)xt = 0

⇔ φ(B)xt = 0.

Ejemplo 27 (Ecuacion en diferencias homogenea de primer orden)

xt − φxt−1 = 0.

La solucion se puede encontrar de forma recursiva a partir de una condicioninicial x0. Aplicando la formula de la ecuacion en diferencias para t =1, 2, 3, . . ., se tiene

x1 = φx0,

x2 = φx1 = φ2x0

x3 = φx2 = φ3x0

...

xt = φtx0.

Propiedades de las ecuaciones homogeneas: Si Gt y Ht son solucionesde la ecuacion homogenea φ(B)xt = 0, A y B son constantes cualesquiera,entonces tambien son soluciones las siguientes:

(i) AGt;

56

Page 19: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

(ii) Gt +Ht;

(iii) AGt +BHt.

Prueba: (i) Reemplazando xt = AGt en la ecuacion, como φ(B)Gt = 0,entonces

φ(B)AGt = Aφ(B)Gt = 0.

(ii) Reemplazando ahora xt = Gt +Ht en la ecuacion, como φ(B)Gt = 0 yφ(B)Ht = 0, entonces

φ(B)(Gt +Ht) = φ(B)Gt + φ(B)Ht = 0.

(iii) Por (i), AGt y BHt son soluciones de la ecuacion. Por (ii), la suma deambas tambien es solucion. 2

Resolucion de una ecuacion en diferencias homogenea: Si G es elinverso de una solucion de la ecuacion caracterıstica φ(B) = 0, entoncesxt = AGt es solucion de la ecuacion homogenea, donde A 6= 0 es una con-stante.

Efectivamente, si reemplazamos xt = AGt en la ecuacion homogenea,obtenemos

A(Gt − φ1Gt−1 − φ2G

t−2 − · · · − φkGt−k) = 0.

Dividiendo la ecuacion por A y por Gt−k, se llega a una ecuacion de gradok,

Gk − φ1Gk−1 − φ2G

k−2 − · · · − φk = 0.

que tiene k soluciones reales o complejas, y que pueden tener multiplicidaddistinta de uno. Ası, si tenemos una solucion G de esta ecuacion, entoncesxt = Gt verifica la ecuacion homogenea.Si ahora dividimos la ultima ecuacion por Gk, se obtiene

1 − φ11

G− φ2

1

G2− · · · − φk

1

Gk= 0.

Si hacemos el cambio de variable B = 1/G, la ecuacion resultante es

1 − φ1B − φ2B2 − · · · − φkB

k = 0,

que es exactamente la ecuacion caracterıstica. Una solucion B de estaecuacion esta relacionada con una solucion de la ecuacion anterior G de laforma G = 1/B.Por tanto, si B es solucion de la ecuacion caracterıstica, entonces xt = AGt

con G = 1/B es solucion de la ecuacion homogenea.

57

Page 20: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Ejemplo 28 (Ecuacion en diferencias homogenea de orden 1)

xt − φxt−1 = 0.

Comprobemos que la solucion viene dada por xt = AGt, donde G−1 esla solucion de la ecuacion caracterıstica, y A viene determinada por lascondiciones iniciales.

Solucion de la ecuacion caracterıstica:

1 − φB = 0 ⇔ 1 − φB = 0 ⇔ B = 1/φ.

Por tanto, G = φ y la solucion serıa xt = Aφt. Reemplazando ahora lasolucion inicial en la ecuacion, obtenemos x0 = Aφ0 = A. Por tanto, lasolucion es xt = x0 φ

t.

Solucion general de una ecuacion en diferencias homogenea deorden k: Sean G1, . . . , Gp las inversas de las soluciones reales distintasde la ecuacion caracterıstica φ(B) = 0, con multiplicidades m1, . . . ,mp.Entonces la solucion general de la ecuacion en diferencias homogenea es

xt =

p∑

i=1

(Ai1 + Ai2t+ · · · + Aimitmi−1)Gt

i.

Observese que si todas las raıces G1, . . . , Gk de la ecuacion caracterısticatienen multiplicidad mi = 1, i = 1, . . . , k, entonces la solucion es

xt = A11Gt1 + · · · + Ak1G

t1.

Ejemplo 29 (Ecuacion en diferencias homogenea de orden 2)

xt − φ1xt−1 − φ2xt−2 = 0.

La solucion depende de las raıces de la ecuacion

G2 − φ1G− φ2 = 0,

que vienen dadas por

G =φ1 ∓

φ21 + 4φ2

2.

(a) Si φ2 > −φ21/4, hay dos soluciones reales distintas G1 y G2. Entonces

la solucion de la ecuacion homogenea es

xt = A1Gt1 + A2G

t2.

58

Page 21: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Las constantes A1 y A2 se obtienen a partir de dos condiciones inicialesx0 y x1. Tomando t = 0 y t = 1 en la solucion xt, obtenemos:

x0 = A1 + A2

x1 = A1G1 + A2G2.

A1 y A2 se obtienen despejando de dicho sistema lineal.

(b) Si φ2 = −φ21/4, hay una solucion G con multiplicidad 2. Entonces la

solucion de la ecuacion homogenea es

xt = (A1 + A2t)Gt.

(c) Si φ2 < −φ21/4, entonces tenemos dos soluciones complejas conjugadas

G1 = a+ bi y G2 = a− bi. Entonces

xt = A1(a+ bi)t + A2(a− bi)t.

Las constantes A1 y A2 se determinan a partir de las condiciones ini-ciales x0 y x1. Tomando t = 0 y t = 1 en la solucion xt se obtiene elsistema

x0 = A1 + A2

x1 = A1(a+ bi) + A2(a− bi)

Las soluciones son numeros complejos conjugados. Los escribimos dela forma

A1 =1

2B +

1

2Ci

A2 =1

2B − 1

2Ci

Estos numeros verifican

A1 + A2 = B

A1 − A2 = Ci

Ahora escribimos las soluciones de la ecuacion en coordenadas polares:

a = r cosw

b = r senw

59

Page 22: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

donde r2 = a2 + b2. Reemplazando esto en xt, obtenemos

xt = A1(r cosw + ir senw)t + A2(r cosw − ir senw)t

= rt[

A1(cosw + i senw)t + A2(cosw − i senw)t]

= rt [A1(coswt+ i senwt) + A2(coswt− i senwt)]

= rt [(A1 + A2) coswt+ i(A1 − A2) senwt]

= rt(B coswt− C senwt).

Si ahora hacemos el cambio

B = A sen θ

C = A cos θ

Sustituyendo esto en la solucion xt y aplicando la formula para el senode una diferencia, obtenemos

xt = rt [A cos θ coswt− A sen θ senwt]

= Art sen(wt− θ),

que es una funcion sinusoidad con amplitud variable con el tiempo Art

y angulo de desfase −θ. Si |r| < 1, la amplitud decrece con el tiempode forma exponencial.

Condiciones de estabilidad de las soluciones de una ecuacion ho-mogenea: Consideremos una ecuacion en diferencias homogenea de ordenk,

xt − φ1xt−1 − φ2xt−2 − · · · − φkxt−k = 0.

Se dice que la solucion xt es estable si verifica:

−∞ < lımt→∞

xt <∞.

Asumimos por simplicidad que las raıces de la ecuacion caracterısticaG−1

1 , . . . , G−1k tienen multiplicidad 1. La solucion de la ecuacion en diferen-

cias es entonces:xt = A1G

t1 + · · · + AkG

tk.

De esta solucion, se deduce que las condiciones de estabilidad son

|Gi| ≤ 1, i = 1, . . . , k.

Es conveniente escribir estas condiciones en funcion de los coeficientes dela ecuacion en diferencias.

60

Page 23: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Ejemplo 30 (Ecuacion en diferencias homogenea de primer orden)La solucion xt = x0φ

t de una ecuacion en diferencias homogenea de primerorden es estable si |φ| < 1.

Ejemplo 31 (Ecuacion en diferencias homogenea de orden 2) Tenemosque diferenciar los mismos tres casos que en el Ejemplo 29.

(a) φ2 > −φ21/4: Hay dos raıces reales distintas y xt = A1G

t1 + A2G

t2,

donde G1 y G2 son soluciones de

G2 − φ1G− φ2 = 0,

que vienen dadas por

G =φ1 ∓

φ21 + 4φ2

2.

La solucion xt es estable si |G1| < 1 y |G2| < 1. Esccribimos dichascondiciones en funcion de los coeficientes de la ecuacion homogenea:

Como√

φ21 + 4φ2 > 0, entonces la solucion con el signo negativo es

menor que la solucion con el signo positivo. Por tanto, la solucionmayor debe verificar

φ1 +√

φ21 + 4φ2

2< 1 ⇔

φ21 + 4φ2 < 2 − φ1 ⇔ φ2

1 + 4φ2 < 4 − 4φ1 + φ21

⇔ φ1 + φ2 < 1.

La solucion menor debe cumplir

φ1 −√

φ21 + 4φ2

2> −1 ⇔

φ21 + 4φ2 < 2 + φ1 ⇔ φ2

1 + 4φ2 < 4 + 4φ1 + φ21

⇔ φ2 − φ1 < 1.

Es decir, la solucion es estable si

φ1 + φ2 < 1 y φ2 − φ1 < 1.

(b) φ2 = −φ21/4: Hay una solucion real G con multiplicidad 2, y la solucion

es xt = (A1 + A2t)Gt. La solucion viene dada por G = φ1/2, con lo

cualxt = A1(φ1/2)t + A2t(φ1/2)t.

El primer termino es estable si |φ1| < 2. En ese caso, se cumple

lımt→∞

t(φ1/2)t = 0,

61

Page 24: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

con lo que el segundo termino tambien es estable. Como φ2 = −φ21/4,

donde φ21 < 4, o equivalentemente, −φ2

1 > −4, entonces

φ2 = −φ21/4 > −1.

Por tanto, las condiciones de estabilidad son

−2 < φ1 < 2 y − 1 < φ2 < 0.

(c) φ2 < −φ21/4: Las soluciones son complejas conjugadas G1 = a + bi y

G2 = a− bi, y xt se puede escribir como

xt = Art sen(wt− θ).

Esta solucion es estable si la amplitud Art converge a cero, y estoocurre cuando |r| < 1. Escribimos esta condicion en funcion de loscoeficientes de la ecuacion homogenea. Las soluciones G1 y G2 se ob-tienen a partir de

G =φ1 ∓

φ21 + 4φ2

2.

Es decir,

G1 = a+ bi =φ1 + i

|φ21 + 4φ2|

2

G2 = a− bi =φ1 − i

|φ21 + 4φ2|

2

Por tanto, el modulo de ambas soluciones es

r2 = a2 + b2 =φ2

4+

|φ21 + 4φ2|

4=φ2

4− φ2

1 + 4φ2

4= −φ2.

Por tanto, r =√−φ2, y como φ2 < −φ2

1/4 < 0, la solucion es establesi −1 < φ2 ≤ 0. Como |φ1| < 2

√−φ2, entonces tambien debe ser

|φ1| < 2. Por tanto, la solucion xt es estable si

−2 < φ1 < 2 y − 1 < φ2 ≤ 0.

62

Page 25: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Ecuacion en diferencias con termino de error: Es una ecuacion deltipo

xt = c+ φ1xt−1 − φ2xt−2 − · · · − φkxt−k + ǫt.

Ejemplo 32 Considera la ecuacion de primer orden

xt = c+ φxt−1 + ǫt.

A partir de las condiciones iniciales x0 y x1 y de forma recurrente, calcu-lamos la solucion de la ecuacion:

x1 = c+ φx0 + ǫ1;

x2 = c+ φx1 + ǫ2

= c+ φ(c+ φx0 + ǫ1) + ǫ2

= c(1 + φ) + φ2x0 + (φǫ1 + ǫ2);

x3 = c+ φx2 + ǫ3

= c+ φ[

c(1 + φ) + φ2x0 + (φǫ1 + ǫ2)]

+ ǫ3

= c(1 + φ+ φ2) + φ3x0 + φ2ǫ1 + φǫ2 + ǫ3

...

xt = ct−1∑

i=0

φi + φtx0 +t−1∑

i=0

φiǫt−i

= ct−1∑

i=0

φi + φtx0 +

[

t−1∑

i=0

(φB)i

]

ǫt.

Suponiendo |φ| < 1 y utilizando la formula de una suma finita de potencias,

t−1∑

i=0

φi =1 − φt

1 − φ,

y sustituyendo esto en xt, obtenemos

xt =c

1 − φ+

(

x0 −c

1 − φ

)

φt +t−1∑

i=0

φiǫt−i.

Observese que esta solucion es del tipo

xt = AGt+

[

b0 +∞∑

i=0

αiǫt−i

]

= Sol. general de la ec. homogenea+Sol. particular.

Esta es la clave del metodo de resolucion de este tipo de ecuaciones endiferencias.

63

Page 26: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Resolucion de ecuaciones en diferencias con termino de error: Elmetodo consiste en:

(a) Encontrar la solucion general de la ecuacion en diferencias homogenea,que omite la constante y el termino de error;

(b) Encontrar una solucion particular de la ecuacıon completa. Habitual-mente se prueba con una solucion del tipo

xt = b0 +∞∑

i=0

αiǫt−i.

Las constantes b0 y αi se obtienen reemplazando esta solucion en laecuacion completa, agrupando los terminos con el mismo termino deerror y determinando los coeficientes de dichos terminos de error deforma recursiva.

(c) Sumar las dos soluciones.

Ejemplo 33 Aplicamos este metodo a la ecuacion del Ejemplo 32,

xt = c+ φxt−1 + ǫt.

(a) Solucion general de la ecuacion homogenea

xt − φxt−1 = 0 ⇔ (1 − φ1B)xt = 0.

La solucion de la ecuacion caracterıstica es B = 1/φ. Por tanto, lasolucion es general es Gt = Aφt.

(b) Solucion particular de la ecuacion completa. Probamos con la solucion

Ht = b0 +∞∑

i=0

αiǫt−i.

Las constantes de la ecuacion particular b0, αi, i = 1, 2, . . ., se obtienenreemplazando esta solucion en la ecuacion completa

b0 +∞∑

i=0

αiǫt−i = c+ φ

(

b0 +∞∑

i=0

αiǫt−i

)

+ ǫt

Desarrollando los sumatorios, la ecuacion es

b0+α0ǫt+α1ǫt−1+α2ǫt−2+· · · = c+φ (b0 + α0ǫt + α1ǫt−1 + α2ǫt−2 + · · · )+ǫt.

64

Page 27: Procesos Estoc´asticos Estacionarioshalweb.uc3m.es/esp/Personal/personas/imolina/MiDocencia/Series...proceso: Tenemos varias series de la forma y1,...,y300 provenientes del mismo

Igualando los terminos independientes, los terminos en ǫt, los terminosen ǫt−1, etc., de cada lado de la igualdad, obtenemos

b0 = c+ φb0 ⇔ b0 = c/(1 − φ);

α0 = 1;

α1 = φα0 = φ;

α2 = φα1 = φ2;

...

αi = φi.

Por tanto, la solucion particular es

Ht =c

1 − φ+

∞∑

i=0

φiǫt−i.

(c) Finalmente, la solucion general es

xt = Gt +Ht =c

1 − φ+

∞∑

i=0

φiǫt−i + Aφt.

La constante A se determina a partir de una condicion inicial x0.Tomando t = 0 en la ecuacion, obtenemos

x0 =c

1 − φ+

∞∑

i=0

φiǫ−i + A.

Despejando A,

A = x0 −c

1 − φ+

∞∑

i=0

φiǫ−i.

65