El modelo ARIMA con Función de Transferencia

45
1 voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com El modelo ARIMA con Función de Transferencia

description

El modelo ARIMA con Función de Transferencia. El modelo ARIMA con Función de Transferencia. Indice. 1. Descripción del problema 2. Evaluación del modelo ARMA 3. Búsqueda de la solución máximo-verosímil 4. Búsqueda de la solución inicial 5. La regresión lineal - PowerPoint PPT Presentation

Transcript of El modelo ARIMA con Función de Transferencia

Page 1: El modelo ARIMA con Función de Transferencia

1voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

El modelo ARIMA con Función de Transferencia

Page 2: El modelo ARIMA con Función de Transferencia

2voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

El modelo ARIMA con Función de Transferencia

1. Descripción del problema

2. Evaluación del modelo ARMA

3. Búsqueda de la solución máximo-verosímil

4. Búsqueda de la solución inicial

5. La regresión lineal

6. Algoritmo del estimador

7. Guía de referencia

8. Simulación

Indice

Page 3: El modelo ARIMA con Función de Transferencia

3voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Descripción del Problema

El modelo ARIMA con Función de Transferencia (Box y Jenkins, 1976)

iti

i

itt x

BB

zr ,

Noise

tt rBw

Differenced noise

Difere

nciac

ión

Difere

nciac

ión

tzOutput

Input

tix ,

Función de transferencia

tt wBB

a

Residuals N(0,I)

Filtro ARMA

Page 4: El modelo ARIMA con Función de Transferencia

4voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

El modelo ARIMA con Función de Transferencia es altamente no lineal

Descripción del Problema

iti

i

itt x

BB

zBBB

a ,

iti

i

itt x

BB

zBBB

a ,

ptpttqtqtt wwwaaa 1111 ptpttqtqtt wwwaaa 1111

itiiptiiititiiqtiiit xxxyyyii ,1,1,1,1 itiiptiiititiiqtiiit xxxyyyii ,1,1,1,1

tii

iit x

BB

y ,

Efectos

j

sj

j

sj

j

sj

j

j

j

BB

BB

BB

Estacionalidad

BB

BBB

BBB

Bi

ii

BB

BBB

BBB

Bi

ii

Pi-Weights Psi-Weights

Page 5: El modelo ARIMA con Función de Transferencia

5voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

La función de distribución conjunta

Evaluación del modelo ARMA

011

1

01

110

2,..1,, ;/),(

k

k

k

itjtjijikjijik wwE

011

1

01

110

2,..1,, ;/),(

k

k

k

itjtjijikjijik wwE

La matriz de las autocovarianzas de orden k del ruido diferenciado es simétrica y de Toeplitz

011

01

0

2,..1,,

0

00

00;/),(

k

k

litjtjijikjijik lwaE

011

01

0

2,..1,,

0

00

00;/),(

k

k

litjtjijikjijik lwaE

La matriz de las covarianzas de orden k del ruido diferenciado con los residuos es triangular inferior y de Toeplitz

Page 6: El modelo ARIMA con Función de Transferencia

6voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

La función de distribución conjunta

Evaluación del modelo ARMA

TpwT

qa

ptpttqtqtt

wwuaau

wwwaaa

1010

1111

;

TpwT

qa

ptpttqtqtt

wwuaau

wwwaaa

1010

1111

;

Las ecuaciones en recurrencia precisan de valores iniciales

Estimación mediante la esperanza condicionada por el ruido diferenciado

wwuEuwwaEawwuEu Tuww

TTuaa wa

111 |ˆ;|ˆ;|ˆ wwuEuwwaEawwuEu Tuww

TTuaa wa

111 |ˆ;|ˆ;|ˆ

mwwuwumwauwu

Tu

Twupuuuaquu

TTm

Twa

Tuamaaau

Tu

Twu

Tq

Tuu

Twuquu

w

a

wa

mpmqmp

Tmqmpmq

wwaa

wwwwwwa

wa

awwawaa

I

I

w

u

a

u

N

w

uw

a

ua

I

w

aN

,,,,

,,,,

,,,,

,,,,

2

,

,2

0

00

0

,

;,

mwwuwumwauwu

Tu

Twupuuuaquu

TTm

Twa

Tuamaaau

Tu

Twu

Tq

Tuu

Twuquu

w

a

wa

mpmqmp

Tmqmpmq

wwaa

wwwwwwa

wa

awwawaa

I

I

w

u

a

u

N

w

uw

a

ua

I

w

aN

,,,,

,,,,

,,,,

,,,,

2

,

,2

0

00

0

,

;,

La distribución conjunta de los valores iniciales y posteriores es

Page 7: El modelo ARIMA con Función de Transferencia

7voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

La función de distribución conjunta

Evaluación del modelo ARMA

1

2

1

0

1

2

1

0

011

012

01

0

2

21

10

0

00

000

0000

00

0

00

0

10)(

pppp

p

p

p

kikik

p

iik

m

m

m

m

pkm

1

2

1

0

1

2

1

0

011

012

01

0

2

21

10

0

00

000

0000

00

0

00

0

10)(

pppp

p

p

p

kikik

p

iik

m

m

m

m

pkm

qtqttptptt aaawww ...... 1111 qtqttptptt aaawww ...... 1111

Si en la ecuación en diferencias del modelo ARMA

Multiplicamos por ktw y tomamos esperanzas

kqkqkkpkpkk m ...... 1111 kqkqkkpkpkk m ...... 1111

pkpkkkBBB ...;1 110 pkpkkkBBB ...;1 110

Los psi-weights se calculan por expansión finita

Tomando en cuenta la simetría de la función de autocovarianzas

Page 8: El modelo ARIMA con Función de Transferencia

8voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Matrices de Toeplitz y matrices circulantes

Evaluación del modelo ARMA

kjkjmn

kj taaT ,,

kjkjmn

kj taaT ,,

Una matriz circulante se diagonaliza mediante la transformada rápida de Fourier (FFT) en O(n·log(n)) flops y almacenamiento en memoria O(n)

01321

10432

34012

23101

12210

/21

0

1

1..0,/2

,,

;

ccccc

ccccc

ccccc

ccccc

ccccc

nijken

kjcnkn

nkjnijk

nnnHn

lnlakjnn

kj

nnn

nnnn

n

nnkj

C

Diagonal

eFFFC

cccaaC

01321

10432

34012

23101

12210

/21

0

1

1..0,/2

,,

;

ccccc

ccccc

ccccc

ccccc

ccccc

nijken

kjcnkn

nkjnijk

nnnHn

lnlakjnn

kj

nnn

nnnn

n

nnkj

C

Diagonal

eFFFC

cccaaC

El producto de una matriz de Toeplitz por un vector se calcula en O(n·log(n)) flops y almacenamiento en memoria O(n)

yTuz

yu

XX

XTuC

CT circulanteXX

XTToeplitzde

00

32

1

yTuz

yu

XX

XTuC

CT circulanteXX

XTToeplitzde

00

32

1

Page 9: El modelo ARIMA con Función de Transferencia

9voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Inversión de matrices simétricas de Toeplitz

Evaluación del modelo ARMA

Una matriz de Toeplitz simétrica cumple la ecuación de desplazamiento de Schur

Tbb

Taajijil

jixjil

njijix

tntttbtntttta

jijiz

jijiz

njiijTTT

LLLLTlL

zZbbaaZTZT

ji

;

;

0,

,..1,,

0/10/10;0/10/10

10,

11,..1,

Tbb

Taajijil

jixjil

njijix

tntttbtntttta

jijiz

jijiz

njiijTTT

LLLLTlL

zZbbaaZTZT

ji

;

;

0,

,..1,,

0/10/10;0/10/10

10,

11,..1,

Su inversa no es de Toeplitz pero sí cumple el mismo tipo de ecuación

Tbb

Taa

nkknkTTT

LLLLT

abbbbaaZZTT

1

1..1011 ;0

Tbb

Taa

nkknkTTT

LLLLT

abbbbaaZZTT

1

1..1011 ;0

Así pues el producto de la inversa de una matriz de Toeplitz por un vector también tiene coste O(n·log(n)). Con el método de Durbin o el de Schur se calcula la inversa y el determinante de una matriz de Toeplitz en O(n2) flops e incluso existen métodos de O(n·log(n)) flops. El almacenamiento en memoria es siempre O(n)

Page 10: El modelo ARIMA con Función de Transferencia

10voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estacionariedad de los polinomios AR y MA

Evaluación del modelo ARMA

Para que el modelo ARMA esté bien definido los polinomios AR y MA han de ser estacionarios, esto es, todas sus raíces han de tener módulo mayor que la unidad.

Puesto que

1;

BFFBFB

j

jsj

jsj

j

jsj

jsj

FB

FB

1;

BFFBFB

j

jsj

jsj

j

jsj

jsj

FB

FB

Resulta evidente que las autocovarianzas no varían al sustituir por su inversa cualquiera de las raíces de los factores estacionales AR ó MA. Por tanto se puede forzar la estacionariedad del modelo invirtiendo aquellas raíces reales o complejas cuyo módulo sea inferior a la unidad.

11;1

jjjj

jj

j

jsj

s rrCrBrBpBrBp s 11;1

jjjj

jj

j

jsj

s rrCrBrBpBrBp s

Teniendo en cuenta que

Bastará con factorizar los polinomios desestacionalizados mediante el cambio de variable correspondiente

Page 11: El modelo ARIMA con Función de Transferencia

11voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Factorización de polinomios

Evaluación del modelo ARMA

Para factorizar un polinomio es necesario un método de búsqueda de raíces reales o complejas que sea rápido y robusto como la iteración de Laguerre de convergencia global y de orden cúbico

Czz

DADACDAC

AnBnD

acAB

abA

zpczpbzpa

zpzp

kk

nnn

kkk

n

j

jj

1

,max

1

/2

/

;;;

1

111

2

2

0

Czz

DADACDAC

AnBnD

acAB

abA

zpczpbzpa

zpzp

kk

nnn

kkk

n

j

jj

1

,max

1

/2

/

;;;

1

111

2

2

0

Una vez hallada una raíz real o compleja se divide el polinomio por el monomio o binomio respectivamente correspondiente y se continúa el proceso. Es conveniente reajustar las raíces sobre el polinomio original y buscar las raíces en orden de mayor módulo a menor.

Page 12: El modelo ARIMA con Función de Transferencia

12voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

El máximo de la función de verosimilitud

Búsqueda de la solución máximo-verosímil

La función de densidad de una muestra normal de tamaño m y media nula

wwTm

exwL1

221

2 2

122 )2(),(

wwTm

exwL1

221

2 2

122 )2(),(

wwTm

wwm T 112

2204

1

2

wwTm

wwm T 112

2204

1

2

wwTm 1

21

212

2 2log)log2(log

wwTm 1

21

212

2 2log)log2(log

Tomando logaritmos

Maximizando respecto a 2

1;1;0

;1

;~;~~

11

12112

1

mmmaa

uu

aa

uu

aaww

tttTt

mTu

T

Tu

Tm

T

Tm

aaaaF

1;1;0

;1

;~;~~

11

12112

1

mmmaa

uu

aa

uu

aaww

tttTt

mTu

T

Tu

Tm

T

Tm

aaaaF

La máxima verosimilitud se alcanza en el mínimo de

uuaawwF uTTmTm 1

11

1 uuaawwF u

TTmTm 11

11

Que también se puede expresar como la suma de cuadrados

Page 13: El modelo ARIMA con Función de Transferencia

13voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Métodos iterativos de minimización no lineal

Búsqueda de la solución máximo-verosímil

nnn

n

n

n

xxF

xxF

xxF

xxF

xF

xF

xxHxFxFmin

2

1

2

1

2

11

2

1

;;

nnn

n

n

n

xxF

xxF

xxF

xxF

xF

xF

xxHxFxFmin

2

1

2

1

2

11

2

1

;;

kkkkk xFppxx ;1 kkkkk xFppxx ;1

I I

Gradiente HessianoObjetivo

xH xH

xH~

xH~

Steepest descent

Newton

Cuasi-Newton

Iteración diferencial o del gradiente

Convergencia lineal

Convergencia cuadrática

Convergencia super-lineal

Page 14: El modelo ARIMA con Función de Transferencia

14voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Minimización de sumas de cuadrados no lineales

Búsqueda de la solución máximo-verosímil

ffxfxF Tnm

tt

xmin

n21

1

221

ffxfxF Tnm

tt

xmin

n21

1

221

fJxFJ TnxFnm

xf

ii

t

; fJxFJ Tn

xFnm

xf

ii

t

;

m

ttx

fxF xf

i

t

i1

m

ttx

fxF xf

i

t

i1

JJ T JJ TGauss-Newton

IJJ T 2 IJJ T 2Marquardt

fJpfJJpJ kTkT fJpfJJpJ kTkT

0

)( 2

f

I

Jp

fJpIJJ

k

TkT

0

)( 2

f

I

Jp

fJpIJJ

k

TkT

njixx

ft

m

ttt

T

ji

thhfJJH..1,

1

2

;

njixx

ft

m

ttt

T

ji

thhfJJH..1,

1

2

;

Jacobiano

Hessiano

Page 15: El modelo ARIMA con Función de Transferencia

15voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Minimización de sumas de cuadrados no lineales

Búsqueda de la solución máximo-verosímil

kkkk hpxxfJp 1; kkkk hpxxfJp 1;

0,0,1,2,1,2,1,0,0,1,0,0,

01,0,

3,

22,1,0,,

;;;

0;;

;

tttttttttttt

kdh

dykktt

ktt

htkk

ttttht

yyyyyy

Jpypxfyxfy

hOyhpxfhhy

0,0,1,2,1,2,1,0,0,1,0,0,

01,0,

3,

22,1,0,,

;;;

0;;

;

tttttttttttt

kdh

dykktt

ktt

htkk

ttttht

yyyyyy

Jpypxfyxfy

hOyhpxfhhy

Búsqueda curvilínea : Optimización escalar del tamaño de paso

0

02

min

33,

22,1,0,

1

33,

22,1,0,

1

22,1,0,2,1,

1

1

221

hhhhhh

hhhhy

hyhYt

tttt

m

ttttt

m

tttttt

m

ttdh

dydhdY

m

tt

h

t

0

02

min

33,

22,1,0,

1

33,

22,1,0,

1

22,1,0,2,1,

1

1

221

hhhhhh

hhhhy

hyhYt

tttt

m

ttttt

m

tttttt

m

ttdh

dydhdY

m

tt

h

t

Interpolación polinómica de grado 2 de las componentes

Reducción a la factorización de un polinomio de grado 3

Page 16: El modelo ARIMA con Función de Transferencia

16voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Búsqueda de la solución máximo-verosímil

En este caso tenemos

tiBi

Biti

ititt

tB

B

ttt

Tjijijiji

xyyzw

waaf

,,,

,,,,

;

;~

;

tiBi

Biti

ititt

tB

B

ttt

Tjijijiji

xyyzw

waaf

,,,

,,,,

;

;~

;

tiyB

Bi

jBtix

Bi

BijB

ji

tw

tixBBi

B

ji

w

itixBi

BitzBtw

yw

B

B

ya

ya

yy

jt

i

t

i

t

i

t

ii

,,,

,,;,

~

2

;

0;0

tiyB

Bi

jBtix

Bi

BijB

ji

tw

tixBBi

B

ji

w

itixBi

BitzBtw

yw

B

B

ya

ya

yy

jt

i

t

i

t

i

t

ii

,,,

,,;,

~

2

;

0;0

Aproximación al Jacobiano Analítico en las variables de las series input

wwww

aaww

TT

Tm

T

Tm

11

121

121

wwww

aaww

TT

Tm

T

Tm

11

121

121

Cálculo del Jacobiano del modelo ARIMA con Función De Transferencia

Page 17: El modelo ARIMA con Función de Transferencia

17voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Cálculo del Jacobiano del modelo ARIMA con Función De Transferencia

Búsqueda de la solución máximo-verosímil

Para las variables ARMA se calcula el Jacobiano numéricamente por el método de extrapolación recursiva de Richardson

k

jj

j

k

k

hOkkDf

kjjkDjkDjkD

kD

fD

i

t

iii

h

kDhkDi

i

2

411

414

2/

0,12/e0,1

,

11,11,,

0,

0,0

1

1i

k

jj

j

k

k

hOkkDf

kjjkDjkDjkD

kD

fD

i

t

iii

h

kDhkDi

i

2

411

414

2/

0,12/e0,1

,

11,11,,

0,

0,0

1

1i

Page 18: El modelo ARIMA con Función de Transferencia

18voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Optimización global

Búsqueda de la solución inicial

La existencia de mínimos locales, las zonas de fuerte curvatura y las altas correlaciones entre las variables pueden dar lugar a divergencias, ciclos de puntos de acumulación o estancamientos en mínimos locales.

El punto límite de un proceso iterativo depende del punto de partida inicial, por eso muchos de los métodos de optimización global, como por ejemplo los algoritmos genéticos o los de branch and bound se basan en probar un método iterativo para diferentes puntos iniciales.

"f(x)"

"x"

1

2

3

4

5

6

-5-10-15 0 5 10 15

221 xSinxLog

Page 19: El modelo ARIMA con Función de Transferencia

19voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estimación inicial por bloques

Búsqueda de la solución inicial

Un método para conseguir una aproximación inicial consiste en la estimación parcial sucesiva de los parámetros, bien uno a uno bien en bloques cuya estimación por separado sea sencilla.

Fi

Teta

Fact. ARMA 1

Box-Jenkins Autocov

ARMA 2

Min. Cuad. Autocov

Delta

Omega

Fun. Transf. Filtrada

Función de Transferencia

ExpandidaARMA 3

ARMA Max Verosim

Page 20: El modelo ARIMA con Función de Transferencia

20voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estimación inicial por bloques

Búsqueda de la solución inicial

Estimación ARMA inicial de Box-Jenkins basada en las autocovarianzas muestrales

),(2211 qpMaxkpkpkkk

Las autocovarianzas de un proceso ARMA cumplen la ecuación homogénea de la parte autoregresiva a partir del mayor de entre los grados p y q

jkj

kq

jkjikji

jik FBFB

0,

Las autocovarianzas filtradas de la parte AR son las de un proceso MA puro por lo que los psi-weights son la parte MA y se cumple

Si las sustituimos por las muestrales quedan las ecuaciones de una regresión lineal.

Que son las ecuaciones de una regresión no lineal de grado 2 y por tanto unimodal, por lo que el método de Newton asegura la convergencia global.

11*1

*

*

/

jj s

jjjs

j

S

BBBB

BB

Una vez estimados los polinomios AR y MA se calculan los factores estacionales por extracción de coeficientes y división sucesiva de mayor a menor longitud del ciclo

Page 21: El modelo ARIMA con Función de Transferencia

21voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estimación inicial por bloques

Búsqueda de la solución inicial

Refinación de la estimación ARMA basada en las diferencias entre autocovarianzas muestrales y las teóricas

Partiendo de la estimación ARMA se puede emplear un método iterativo de optimización para minimizar la distancia de Majaranovitz entre las autococorrelaciones muestrales y las teóricas

rrFMin rT 1

Puesto que la distribución asintótica de las autocovarianzas muestrales se aproxima a una normal de media igual a las autocovarianzas teóricas y cuya matriz de covarianzas viene dada por las fórmulas de Barlett

vsvvmskk

vkvkvvkkvkvvmk

rrCov

rVar

1

2221

,

24

Page 22: El modelo ARIMA con Función de Transferencia

22voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estimación inicial por bloques

Búsqueda de la solución inicial

Estimación de las funciones de transferencia

Si aplicamos el filtro ARMA a las series output e input

Una vez estimadas las expansiones podemos calcular los delta mediante las regresiones lineales

Expandiendo las funciones de transferencia hasta cierto grado se obtiene el modelo lineal

iti

i

it

iti

i

itt x

B

Bzx

B

BzB

BB

a ,,

itiit

iti

i

itt xBzx

B

Bza ,,

grkBBBj

jikjij

jikjikiiii ,,,,, 0

itiit

iti

i

itt xBzx

BB

za ,,

Para evitar la sobre-parametrización de la expansión se filtra ahora por los delta estimados

Que es de nuevo una regresión lineal

Page 23: El modelo ARIMA con Función de Transferencia

23voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Estimación inicial por bloques

Búsqueda de la solución inicial

Refinación máximo-verosímil de la estimación ARMA

Si aplicamos el filtro de las funciones de transferencia tenemos un modelo ARIMA puro

que usualmente no tendrá un número demasiado grande de parámetros comparado con los de los parámetros omega, pero en cambio es el máximo responsable de la no linealidad del problema.

Resulta por lo tanto interesante aplicar un método iterativo de optimización, a partir de la solución generada en el paso 2, para la estimación por máxima verosimilitud expuesta anteriormente.

tt wBBB

a

Page 24: El modelo ARIMA con Función de Transferencia

24voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

El método de Lanczos

La regresión lineal

nmxbAbAx nmnm

x ;;;min

2nmxbAbAx nmnm

x ;;;min

2

Como se ha podido observar es esencial disponer de un método de regresión lineal rápido y robusto incluso para una gran cantidad de variables con altas correlaciones e incluso colinealidad como el método de Lanczos

iiii

iii

ii

iT

i

iiii

iiii

iii

ii

i

T

psp

s

rAs

qrr

pxx

q

Axq

toleranciaMientras

srAspAxbr

11

11

211

11

1

1

2

20000000 ;;

iiii

iii

ii

iT

i

iiii

iiii

iii

ii

i

T

psp

s

rAs

qrr

pxx

q

Axq

toleranciaMientras

srAspAxbr

11

11

211

11

1

1

2

20000000 ;;

Page 25: El modelo ARIMA con Función de Transferencia

25voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Algoritmo Del Estimador

1. Carga de datos

2. Chequeo de datos

3. Estimación inicial por partes

4. Estimación iterativa máximo-verosímil

5. Estadísticas del modelo

6. Diagnosis del modelo

1. Carga de datos

1.1. Extracción de datos de la serie output entre las fechas de estimación

1.2. Extracción de datos de las series input entre las fechas de estimación ampliadas por las funciones de transferencia

1.3. Transformación de Box-Cox de la serie output (A partir de aquí se llamará serie output a la serie transformada)

Page 26: El modelo ARIMA con Función de Transferencia

26voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Algoritmo Del Estimador

2. Chequeo de datos

2.1. Búsqueda de interrupciones en la serie output

2.2. Anulación de las interrupciones en las series input

2.3. Eliminación de variables nulas y repetidas (con correlación unitaria)

2.4. Eliminación de variables que sólo tomen valor en las interrupciones de la serie output

2.5. Chequeo del número de variables, datos, polinomios, ...

3. Estimación inicial por bloques (Opcional)

3.1. Estimación ARMA inicial de Box-Jenkins

3.2. Refinación ARMA por autocovarianzas

3.3. Estimación de las funciones de transferencia

3.4. Refinación ARMA máximo verosímil

Page 27: El modelo ARIMA con Función de Transferencia

27voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Algoritmo Del Estimador

4. Estimación de los parámetros del modelo

4.1. Evaluación del modelo en cada iteración de Marquardt

4.1.1. Cálculo del filtro, el ruido y el ruido diferenciado

4.1.2. Establecimiento de la estacionariedad forzada de los factores ARMA

4.1.3. Cálculo de la matriz de autocovarianzas teóricas su inversa y su determinante

4.1.5. Cálculo de los residuos condicionados y las interrupciones

4.2. Evaluación del jacobiano

4.3. Iteración de la minimización cuadrática

4.3.1. Cálculo de la dirección de búsqueda (Stepest descent, Gauss-Newton, Marquardt, Búsqueda curvilínea)

4.3.2. Estudio de la evolución de la norma. El algoritmo se detiene si

4.3.2.a. Se sobrepasa el número máximo de iteraciones

4.3.2.b. La norma aumenta

4.3.2.c. La disminución de la norma es inferior a cierta tolerancia dada

4.3.2.d. Se produce algún tipo de error como no estacionariedad, falta de datos, datos numéricamente mal condicionados ( demasiado grandes o demasiado pequeños), ...

Page 28: El modelo ARIMA con Función de Transferencia

28voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Algoritmo Del Estimador

5. Estadísticas del modelo

5.1. Estadísticos de los residuos

5.1.1. Estadísticos escalares (media, desviación estandar, kurtosis, ...)

5.1.2. Estadísticos vectoriales (autocorrelaciones ACF, PACF, ...)

5.2. Estadísticos de los parámetros

5.2.1. Estadísticos escalares (desviación estandar, t-student, probabilidad de rechazo)

5.2.2. Estadísticos matriciales (jacobiano, matriz de información y su descomposición, covarianza, correlación, ...)

(En este capítulo quizá deben ser los analistas quienes digan qué información adicional les puede ser útil)

Page 29: El modelo ARIMA con Función de Transferencia

29voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Algoritmo Del Estimador

6. Diagnosis del modelo

6.1. Diagnosis de los residuos

6.1.1. Test de normalidad

6.1.2. Test de independencia

6.1.2.1. Test sobre las primeras autocorrelaciones de cada ciclo

6.1.2.2. Test de Box-Pierce-Ljung para cada ciclo

6.2. Diagnosis de los parámetros

6.2.1. Test de significación

6.2.2. Test de correlación

6.2.3. Test de estacionariedad de los polinomios ARMA

(En este capítulo debería sustituirse los tests de contraste clásicos por una valoración de corte bayesiano todavía por definir y que entroncaría con los métodos de comparación e identificación de modelos ARIMA)

Page 30: El modelo ARIMA con Función de Transferencia

30voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Guía de Referencia

Funciones de Transferencia con denominador

Struct ModelDef{ Serie Output, Real FstTransfor, Real SndTransfor, Real Period, Real Constant, Polyn Dif, Set AR, Set MA, Set Input, Set NonLinInput};

Struct ModelDef{ Serie Output, Real FstTransfor, Real SndTransfor, Real Period, Real Constant, Polyn Dif, Set AR, Set MA, Set Input, Set NonLinInput};

Struct InputDef{ Polyn Omega, Serie X};

Struct InputDef{ Polyn Omega, Serie X};

Struct TransferFunctionStruct{ Polyn Omega, Polyn Delta, Serie X, Serie InitValues};

Struct TransferFunctionStruct{ Polyn Omega, Polyn Delta, Serie X, Serie InitValues};

En el campo Input de la estructura ModelDef se puede pasar un conjunto de inputs con estructura InputDef como hasta ahora, o bien, con estructura TransferFunctionStruct si se quiere introducir funciones de transferencia con denominador distinto de la unidad.

El campo InitValues de la nueva estructura es para poder introducir los valores iniciales de la ecuación en diferencias, aunque de momento no se usa pues se toman valores iniciales nulos, por lo que se puede pasar la serie 0.

Page 31: El modelo ARIMA con Función de Transferencia

31voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Guía de Referencia

Estacionalidad múltiple

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7 );Set MA = SetOfPolyn(1-0.2*B^7, 1-0.1*B^364);

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7 );Set MA = SetOfPolyn(1-0.2*B^7, 1-0.1*B^364);

Otra novedad importante es que ya no se restringe la factorización estacional ARMA a dos factores, uno regular y otro estacional, sino que se permite cualquier número de ciclos estacionales superpuestos.

Debido a esta limitación el analista se veía obligado a escribir cosas tan horribles como

Ahora se puede y se debe escribir

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7, 1 );Set MA = SetOfPolyn(1, 1-0.2*B^7, 1-0.1*B^364);

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7, 1 );Set MA = SetOfPolyn(1, 1-0.2*B^7, 1-0.1*B^364);

Obsérvese que ha de mantenerse el orden de menor a mayor longitud del ciclo tanto en la parte AR como en la parte MA de forma que los polinomios que ocupan la misma posición en cada una de ellas se refiere a la misma periodicidad, insertando el polinomio 1 para explicitar que no existe determinado factor estacional AR ó MA.

Obviamente, ahora se puede introducir estructuras antes imposibles como

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7, 1-0.1*B^364);Set MA = SetOfPolyn(1-0.2*B, 1-0.2*B^7, 1-0.2*B^364);

Set AR = SetOfPolyn(1-0.1*B, 1-0.1*B^7, 1-0.1*B^364);Set MA = SetOfPolyn(1-0.2*B, 1-0.2*B^7, 1-0.2*B^364);

Page 32: El modelo ARIMA con Función de Transferencia

32voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Guía de Referencia

Tipo Nombre Defecto Descripción

Real DiffDist 0.001 Distancia de puntos para aproximaciones diferenciales numericas

Real DoDiagnostics 1 La función Estimate de modelos ARIMA realizará los diagnósticos de los modelos si esta variable es TRUE.

Real DoInitialEstimation 0 La función Estimate de modelos ARIMA hará una estimación inicial de los parámetros si esta variable es TRUE. Si no utilizará los valores iniciales dados.

Real DoKernel 0 La función Estimate de modelos ARIMA realizará el análisis del kernel de los modelos si esta variable es TRUE y DoStatistics también.

Real DoStatistics 1 La función Estimate de modelos ARIMA realizará las estadísticas de los modelos si esta variable es TRUE.

Real EstimationObjectiv e 1 Por compatibilidad con versiones anteriores, el objetivo de la estimación de modelos ARIMA puede ser MinimumResiduals o MaximumLikelyhood

Text JacobianMethod Analytical El método de cálculo del Jacobiano puede ser Analítico o Numérico

Real LeastSquaresMethod 4 La función de optimización no lineal del problema de los mínimos cuadrados utilizada en las estimaciones de modelos no lineales permite al usuario seleccionar el método de cálculo de la dirección de búsqueda entre las siguientes opciones : (1) Stepest descent, (2) Gauss-Newton, (3) Marquardt, (4) Curvilinear search. Este último es el método por defecto por ser el que presenta mejores condiciones de convergencia aunque también es el de mayor coste computacional. El de Marquardt converge peor pero con menor coste por iteración mientras que el de Gauss-Newton presenta el coste mínimo y la peor convergencia.

Real LSM_StepDescent 1 Mirar la variable Real LeastSquaresMethod

Real LSM_GaussNew ton 2 Mirar la variable Real LeastSquaresMethod

Real LSM_Marquardt 3 Mirar la variable Real LeastSquaresMethod

Real LSM_Curv ilinearSearch 4 Mirar la variable Real LeastSquaresMethod

Real MarqFactor 3 Parámetro de factor lambda en el método de minimización cuadrática de Marquardt

Real Max imumLikely hood 1 Mirar la variable Real EstimationObjective

Real Max Iter 15 Máximo de iteraciones para métodos numéricos iterativos

Real MinimumResiduals 0 Mirar la variable Real EstimationObjective

Real Relativ eTolerance 0.001 Tolerancia relkativa para métodos numéricos iterativos

Real Tolerance 0.0001 Tolerancia para métodos numéricos iterativos

Real TraceNonLinearLeastSquares 1 Permite o no las trazas y el control para el algoritmo de mínimos cuadrados no lineales, como el estimador de modelos ARIMA.

Variables globales de control

Page 33: El modelo ARIMA con Función de Transferencia

33voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Output

-5.0000

-10.0000

-15.0000

0.0000

5.0000

10.0000

15.0000

20.0000

25.0000

30.00001994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

La serie output

Page 34: El modelo ARIMA con Función de Transferencia

34voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

PaymentDaysEffect PrePaymentEffect PosPaymentEffect GoodWeekEndEffect

0.0000

0.2000

0.4000

0.6000

0.8000

1.0000

1993 Dic 21

1993 Dic 27

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

Las series intput

Page 35: El modelo ARIMA con Función de Transferencia

35voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Effect V1 EffectPaymentDaysEffect

EffectPrePaymentEffect

EffectPosPaymentEffect

EffectGoodWeekEndEffect

-5.0000

0.0000

5.0000

10.0000

15.0000

20.0000

25.0000

30.0000

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

Las series de efectos

Page 36: El modelo ARIMA con Función de Transferencia

36voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

OutputFilter

-5.0000

0.0000

5.0000

10.0000

15.0000

20.0000

25.0000

30.0000

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

La serie filtro o efecto conjunto

Page 37: El modelo ARIMA con Función de Transferencia

37voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

OutputNoise

-5.0000

-10.0000

-15.0000

0.0000

5.0000

10.0000

15.0000

20.0000

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

La serie noise o ruido ARIMA

Page 38: El modelo ARIMA con Función de Transferencia

38voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Output = ruido + filtro

OutputNoise OutputFilter OutputTransformed

-5.0000

-10.0000

-15.0000

0.0000

5.0000

10.0000

15.0000

20.0000

25.0000

30.0000

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

Page 39: El modelo ARIMA con Función de Transferencia

39voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

OutputDifNoise

-0.1000

-0.2000

-0.3000

-0.4000

0.0000

0.1000

0.2000

0.3000

1994 Ene 08

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

La serie differenced noise o ruido diferenciado ARMA

Page 40: El modelo ARIMA con Función de Transferencia

40voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Autocorrelation function of OutputDifNoise

2*Sig

-2*Sig-0.2

-0.3

-0.5

-0.6

-0.8

0.0

0.2

0.3

0.5

0.6

0.8

0 7 14

La función de autocorrelación del ruido diferenciado

Page 41: El modelo ARIMA con Función de Transferencia

41voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

OutputRes

-0.0500

-0.1000

-0.1500

-0.2000

-0.2500

-0.3000

0.0000

0.0500

0.1000

0.1500

0.2000

0.2500

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

La serie de residuos o ruido blanco

Page 42: El modelo ARIMA con Función de Transferencia

42voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Autocorrelation function of OutputRes

2*Sig

-2*Sig

-0.04

-0.08

-0.12

-0.17

-0.21

0.00

0.04

0.08

0.12

0.17

0.21

0 7 14

La función de autocorrelación de los residuos

Page 43: El modelo ARIMA con Función de Transferencia

43voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Periodicity 1 7AR 1.0000-0.6896*B-0.0733*B^2+0.0829*B 3̂ 1MA 1 1.0000+0.1030*B 7̂DIF 1 1.0000-B 7̂

Name Factor OrderEstimated

ValueReal

Value ErrorStandard deviation

Standarized Error TStudent

Refuse Probability

V1 1 0 0.9988 1 0.0012 0.0018 0.6667 551.9215 0PaymentDaysEffect 1 0 2.0036 2 -0.0036 0.0201 -0.1791 99.4561 0PrePaymentEffect 1 0 -3.0412 -3 0.0412 0.0261 1.5785 -116.7065 0PosPaymentEffect 1 0 4.0361 4 -0.0361 0.0283 -1.2756 142.3929 0GoodWeekEndEffect 1 0 4.9921 5 0.0081 0.0281 0.2847 177.3379 0GoodWeekEndEffect 1 1 6.0021 6 -0.0021 0.0277 -0.0758 216.7287 0PaymentDaysEffect 2 1 0.9026 0.9 -0.0026 0.0021 -1.2381 426.2729 0RegularAR 1 1 0.7766 0.6896 -0.0871 0.1016 -0.8563 7.6468 0RegularAR 1 2 0.0646 0.0733 0.0087 0.1295 0.0672 0.4985 0.6181RegularAR 1 3 -0.1564 -0.0829 0.0735 0.1058 0.6947 -1.4781 0.1394Estacional (1)MA 2 7 -0.1771 -0.1031 0.0741 0.1123 0.6598 -1.5768 0.1148

Análisis de los parámetros estimados

Page 44: El modelo ARIMA con Función de Transferencia

44voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Residuals OutputRes

-0.0500

-0.1000

-0.1500

-0.2000

-0.2500

-0.3000

0.0000

0.0500

0.1000

0.1500

0.2000

0.2500

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22

Residuos : simulados y estimados

Page 45: El modelo ARIMA con Función de Transferencia

45voice: (34) 915327440 e-mail: [email protected] http://www.bayesinf.com

Simulación

Ruido diferenciado : simulado y estimado

DifNoise OutputDifNoise

-0.1000

-0.2000

-0.3000

-0.4000

0.0000

0.1000

0.2000

0.3000

1994 Ene 01

1994 Ene 03

1994 Ene 10

1994 Ene 17

1994 Ene 24

1994 Ene 31

1994 Feb 07

1994 Feb 14

1994 Feb 21

1994 Feb 28

1994 Mar 07

1994 Mar 14

1994 Mar 21

1994 Mar 28

1994 Abr 04

1994 Abr 11

1994 Abr 18

1994 Abr 22